250505 UTUM Kamp25 Header Website Artikel 3840x2160 1
Geschrieben
07 Mai 2025
Thema
Angewandte Künstliche Intelligenz (KI)
Teilen

Ein Beitrag von Johannes Pföstl, Senior Consultant bei UnternehmerTUM

Der EU AI Act kommt – und mit ihm der weltweit erste umfassende Rechtsrahmen für den Einsatz von Künstlicher Intelligenz. Als Berater bei UnternehmerTUM arbeite ich täglich mit Start-ups, Unternehmen und Innovator_innen zusammen, die sich fragen: Was bedeutet das neue Gesetz für uns? Hier teile ich die wichtigsten Erkenntnisse – kompakt, verständlich und praxisnah.

Ein Gesetz mit Weitblick – und klaren Vorgaben

Der EU AI Act verfolgt ein ambitioniertes Ziel: Er soll die Grundrechte der EU-BürgerInnen schützen, gleichzeitig aber auch Innovation ermöglichen und Europas Position als führender KI-Standort stärken. Die Regelung tritt ab 2025 stufenweise in Kraft – mit Auswirkungen auf nahezu jedes Unternehmen, das KI nutzt oder entwickelt, insbesondere aber den Mittelstand.

Der risikobasierte Ansatz: Vier Stufen, vier verschiedene Anforderungen

Die Besonderheit des EU AI Acts liegt in seinem risikobasierten Ansatz: KI-Systeme werden nicht pauschal reguliert, sondern abhängig von ihrem Gefährdungspotenzial in vier Risikoklassen eingeteilt – von „geringes Risiko“ bis „unannehmbares Risiko“.

Grundprinzip: Je größer das Risiko für Einzelpersonen oder die Gesellschaft, desto strenger die regulatorischen Vorgaben. Eine hilfreiche Faustregel: Je mehr menschliche Interaktionen oder Eingriffe in persönliche Lebensbereiche in einem KI-System enthalten sind, desto höher fällt seine Risikoklassifizierung aus.

Ein zentraler Punkt, der oft unterschätzt wird: KI-Kompetenz.

Johannes Pföstl

Die vier Kategorien im Überblick:

  • Unannehmbares Risiko: KI-Systeme mit unvertretbarem Gefährdungspotenzial – z. B. Social Scoring oder manipulative Verhaltenssteuerung – sind künftig verboten.

  • Hohes Risiko: KI-Anwendungen mit erheblichem Einfluss auf Leben oder Lebensumstände – etwa im Recruiting, in der Bildung oder bei sicherheitskritischen Anlagen – unterliegen strengen Anforderungen, z. B. Dokumentations-, Prüf- und Überwachungspflichten.

  • Begrenztes Risiko: Anwendungen wie Chatbots oder personalisierte Werbung müssen Transparenzanforderungen erfüllen – für Nutzende muss z. B. klar erkennbar sein, dass sie mit einer KI interagieren.

  • Geringes Risiko: Für alltägliche, wenig eingriffsintensive KI-Lösungen – z. B. Rechtschreibkorrekturen oder KI-gestützte Textvorschläge – gelten kaum oder keine regulatorischen Anforderungen.


Mein Tipp: Prüft frühzeitig, welche Risikoklasse eure KI-Systeme betreffen – das spart euch später Zeit und Aufwand bei der Umsetzung.

Anbieter oder Betreiber? Deine Rolle zählt

Ob ihr KI-Systeme selbst entwickelt oder „nur“ einsetzt: Der AI Act macht klare Vorgaben für beide Rollen. Anbieter müssen z. B. Dokumentationen und Risikobewertungen vorlegen. Betreiber müssen sicherstellen, dass KI-Anwendungen im Unternehmen verantwortungsvoll genutzt werden – inklusive Kompetenzaufbau im Team.

AI Literacy: Das neue Must-have im Unternehmen

Ein zentraler Punkt, der oft unterschätzt wird: KI-Kompetenz. Der AI Act fordert, dass Personen, die mit KI arbeiten, ein „ausreichendes Maß“ an Know-how besitzen. Was das genau heißt, lässt der Gesetzgeber bewusst offen – hier ist unternehmerische Eigenverantwortung und Sorgfaltspflicht gefragt. Meine Empfehlung: Entwickelt intern Schulungskonzepte und macht AI Literacy zum Teil eurer Unternehmenskultur.

So gelingt der Einstieg: Drei erste Schritte

  1. Bestandsaufnahme: Welche KI-Systeme nutzt ihr? Welche Risikoklasse trifft zu?

  2. Compliance aufbauen: Transparenzpflichten, technische Dokumentation, Verantwortlichkeiten klären.

  3. Governance etablieren: Prozesse für Risikobewertung, Schulungen und Monitoring.

Tools wie der EU AI Act Compliance Checker oder die Risk Classification Database von appliedAI helfen euch dabei. Und für die finale Einordnung lohnt sich ein jurischer Blick – vor allem bei hochriskanten Anwendungsfällen.

Mein Fazit

Der EU AI Act wird die Spielregeln für KI in Europa neu schreiben. Wer jetzt handelt, hat die Chance, sich frühzeitig rechtlich abzusichern und Vertrauen bei Kunden und Partnern aufzubauen.

Bei UnternehmerTUM unterstützen wir euch gern bei der Einordnung eurer KI-Projekte – von der strategischen Beratung bis zur konkreten Umsetzung.

Ihr habt Fragen oder möchtet über euer konkretes Use Case sprechen? Schreibt mir gern direkt: johannes.pfoestl@unternehmertum.de


Entdecke
ähnliche Stories

AI Impact Survey Titelbild 3

Bedrohung für die Innovationskraft? Umfrage unter europäischen Start-ups zum EU AI Act

AAI Whitepaper Mockup Culture

KI-Kulturwandel in Unternehmen meistern — Video-Interview mit Dr. Philipp Hartmann, Director of AI Strategy bei appliedAI

Copyright: Thomas Dashuber © Copyright: Thomas Dashuber

"Regulierung sollte der Innovation nicht schaden" - Interview mit Françoise Soulié-Fogelman über Europas Position in der KI

Fokusthemen KI Kompetenz Titelbild neu

Erfolgreich mit Künstlicher Intelligenz - Kostenfreier Onlinekurs "KI-Kompetenz für Ihr KMU"

Copyright: Julian Beekmann Fotografie © Copyright: Julian Beekmann Fotografie

“Jetzt dürfen wir uns nicht abhängen lassen” - Interview mit Jonas Andrulis über Künstliche Intelligenz in Europa

Vanessa Cann 2 kl copyright Tobias Koch BADGE

"Europa begibt sich in eine digitalpolitische Abhängigkeit" – Impuls von Vanessa Cann, Geschäftsführerin KI Bundesverband

Copyright: appliedAI © Copyright: appliedAI

Kostenfreie KI-Weiterbildungen für KMUs: Zukunftszentrum Süd

Applied AI MAT 2021

Maturity Assessment - Das kostenfreie Tool zur Bewertung Ihres KI-Reifegrades

KI Campus 2

Die Möglichkeiten von KI entdecken: Neuer Onlinekurs "Einführung in die KI" auf dem KI-Campus

AI final

Den Mittelstand fit für KI machen: Modellprojekt "KI-Transfer Plus" von appliedAI und dem Bayerischen Staatsministerium für Digitales

2021 startup landscape banner

Start-up-Landkarte von appliedAI: Deutsche KI-Start-ups überzeugen mit Qualität

AI Illustration Batch3 Farbvariante green DE 2

Künstliche Intelligenz in Beruf und Wirtschaft – Kostenloser Online-Kurs von appliedAI

Hartmann Philipp 600x400

„KI ist immer nur ein Werkzeug“ – Interview mit Philipp Hartmann, Director of AI Strategy bei appliedAI

News applied ai philipp gerbert

Wie die Corona-Krise die Künstliche Intelligenz in Europa verändert - 5 Fragen an… Dr. Philipp Gerbert von appliedAI

Applied AI

Künstliche Intelligenz – der Schlüssel zum intelligenten Business der Zukunft?

AI Landscape 1280 640

KI-Start-ups in Deutschland: Landkarte 2020 von appliedAI

Elements of AI applied AI

"Elements of AI": appliedAI betreut Bildungsplattform für Künstliche Intelligenz

KI Start-ups in Deutschland

62% mehr KI-Start-ups in Deutschland

Applied AI apell an regierung

appliedAI fordert von Bundesregierung Mut und rasches Handeln in ihrem Positionspapier

Unternehmertum presents ai initiative header © UnternehmerTUM / Bert Willer

UnternehmerTUM präsentiert appliedAI Initiative

Accelerating adoption of ai andreas liebl header © UnternerhmerTUM / Bert Willer

5 Fragen an... Andreas Liebl – appliedAI Initiative. Die Zukunft künstlicher Intelligenz

Newsletter
Monatliche Updates

Eure Prise Gründungskultur: Bleibt up to date mit Neuigkeiten aus dem UnternehmerTUM-Netzwerk und Veranstaltungstipps und erfahrt von Start-ups, die aktuell durchstarten.
Hier findet ihr die Datenschutzerklärung mit Hinweisen zur Protokollierung eurer Anmeldung, zum Versand über Mailchimp, zur statistischen Auswertung und den Abbestellmöglichkeiten.