Ein Beitrag von Johannes Pföstl, Senior Consultant bei UnternehmerTUM
Der EU AI Act kommt – und mit ihm der weltweit erste umfassende Rechtsrahmen für den Einsatz von Künstlicher Intelligenz. Als Berater bei UnternehmerTUM arbeite ich täglich mit Start-ups, Unternehmen und Innovator:innen zusammen, die sich fragen: Was bedeutet das neue Gesetz für uns? Hier teile ich die wichtigsten Erkenntnisse – kompakt, verständlich und praxisnah.
Ein Gesetz mit Weitblick – und klaren Vorgaben
Der EU AI Act verfolgt ein ambitioniertes Ziel: Er soll die Grundrechte der EU-BürgerInnen schützen, gleichzeitig aber auch Innovation ermöglichen und Europas Position als führender KI-Standort stärken. Die Regelung tritt ab 2025 stufenweise in Kraft – mit Auswirkungen auf nahezu jedes Unternehmen, das KI nutzt oder entwickelt, insbesondere aber den Mittelstands.
Der risikobasierte Ansatz: Vier Stufen, vier verschiedene Anforderungen
Die Besonderheit des EU AI Acts liegt in seinem risikobasierten Ansatz: KI-Systeme werden nicht pauschal reguliert, sondern abhängig von ihrem Gefährdungspotenzial in vier Risikoklassen eingeteilt – von „geringes Risiko“ bis „unannehmbares Risiko“.
Grundprinzip: Je größer das Risiko für Einzelpersonen oder die Gesellschaft, desto strenger die regulatorischen Vorgaben. Eine hilfreiche Faustregel: Je mehr menschliche Interaktionen oder Eingriffe in persönliche Lebensbereiche in einem KI-System enthalten sind, desto höher fällt seine Risikoklassifizierung aus.
Ein zentraler Punkt, der oft unterschätzt wird: KI-Kompetenz.
Johannes Pföstl
Die vier Kategorien im Überblick:
Unannehmbares Risiko: KI-Systeme mit unvertretbarem Gefährdungspotenzial – z. B. Social Scoring oder manipulative Verhaltenssteuerung – sind künftig verboten.
Hohes Risiko: KI-Anwendungen mit erheblichem Einfluss auf Leben oder Lebensumstände – etwa im Recruiting, in der Bildung oder bei sicherheitskritischen Anlagen – unterliegen strengen Anforderungen, z. B. Dokumentations-, Prüf- und Überwachungspflichten.
Begrenztes Risiko: Anwendungen wie Chatbots oder personalisierte Werbung müssen Transparenzanforderungen erfüllen – für Nutzende muss z. B. klar erkennbar sein, dass sie mit einer KI interagieren.
Geringes Risiko: Für alltägliche, wenig eingriffsintensive KI-Lösungen – z. B. Rechtschreibkorrekturen oder KI-gestützte Textvorschläge – gelten kaum oder keine regulatorischen Anforderungen.
Mein Tipp: Prüft frühzeitig, welche Risikoklasse eure KI-Systeme betreffen – das spart euch später Zeit und Aufwand bei der Umsetzung.
Anbieter oder Betreiber? Deine Rolle zählt
Ob ihr KI-Systeme selbst entwickelt oder „nur“ einsetzt: Der AI Act macht klare Vorgaben für beide Rollen. Anbieter müssen z. B. Dokumentationen und Risikobewertungen vorlegen. Betreiber müssen sicherstellen, dass KI-Anwendungen im Unternehmen verantwortungsvoll genutzt werden – inklusive Kompetenzaufbau im Team.
AI Literacy: Das neue Must-have im Unternehmen
Ein zentraler Punkt, der oft unterschätzt wird: KI-Kompetenz. Der AI Act fordert, dass Personen, die mit KI arbeiten, ein „ausreichendes Maß“ an Know-how besitzen. Was das genau heißt, lässt der Gesetzgeber bewusst offen – hier ist unternehmerische Eigenverantwortung und Sorgfaltspflicht gefragt. Meine Empfehlung: Entwickelt intern Schulungskonzepte und macht AI Literacy zum Teil eurer Unternehmenskultur.
So gelingt der Einstieg: Drei erste Schritte
Bestandsaufnahme: Welche KI-Systeme nutzt ihr? Welche Risikoklasse trifft zu?
Compliance aufbauen: Transparenzpflichten, technische Dokumentation, Verantwortlichkeiten klären.
Governance etablieren: Prozesse für Risikobewertung, Schulungen und Monitoring.
Tools wie der EU AI Act Compliance Checker oder die Risk Classification Database von appliedAI helfen euch dabei. Und für die finale Einordnung lohnt sich ein jurischer Blick – vor allem bei hochriskanten Anwendungsfällen.
Mein Fazit
Der EU AI Act wird die Spielregeln für KI in Europa neu schreiben. Wer jetzt handelt, hat die Chance, sich frühzeitig rechtlich abzusichern und Vertrauen bei Kunden und Partnern aufzubauen.
Bei UnternehmerTUM unterstützen wir euch gern bei der Einordnung eurer KI-Projekte – von der strategischen Beratung bis zur konkreten Umsetzung.
Ihr habt Fragen oder möchtet über euer konkretes Use Case sprechen? Schreibt mir gern direkt: johannes.pfoestl@unternehmertum.de
