EU AI Act Risikoklassen: von verboten bis minimal

EU AI Act · Risikoklassen

EU AI Act Risikoklassen: von verboten bis minimal

Der EU AI Act teilt KI-Systeme in vier Risikoklassen: unzulässige Praktiken (verboten), Hochrisiko-Systeme (strenge Pflichten), Systeme mit Transparenzpflicht (Kennzeichnung) und minimales Risiko (keine neuen Pflichten). Für die meisten KMU-Anwendungen wie Textassistenten oder Chatbots gelten nur Transparenzpflichten – Hochrisiko betrifft vor allem Personalauswahl und Bonität.

4
Risikostufen bestimmen, welche Pflichten für Ihre KI gelten
02.02.2025
seit diesem Datum sind die verbotenen Praktiken (Art. 5) in Kraft
02.12.2027
ab dann gelten die vollen Hochrisiko-Pflichten (Anhang III)

Klasse 1: Unzulässiges Risiko – verbotene Praktiken (Art. 5)

Einige KI-Praktiken sind in der EU seit dem 2. Februar 2025 grundsätzlich verboten – ohne Übergangsfrist und unabhängig von der Unternehmensgröße. Hier drohen die höchsten Bußgelder: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes.

verboten

Social Scoring

Personen anhand ihres Verhaltens oder sozialer Merkmale zu bewerten und daraus Nachteile abzuleiten – etwa Mitarbeiter oder Kunden automatisiert zu „scoren“.

verboten

Emotionserkennung am Arbeitsplatz

KI, die Gefühle von Mitarbeitern erkennen soll – etwa per Kamera oder Stimmanalyse in Bewerbungsgesprächen oder im Callcenter. Auch in Bildungseinrichtungen verboten.

verboten

Biometrische Kategorisierung

Personen anhand biometrischer Merkmale sensiblen Kategorien wie Herkunft, Religion oder sexueller Orientierung zuzuordnen.

verboten

Manipulative Techniken

KI-Systeme, die unterschwellig oder ausbeuterisch das Verhalten von Menschen so beeinflussen, dass erhebliche Schäden entstehen können.

KMU-Praxis: In diese Klasse geraten kleine Unternehmen selten absichtlich – aber fast: Wer etwa ein Tool einsetzt, das die Stimmung von Mitarbeitern in Videomeetings analysiert, bewegt sich bereits im verbotenen Bereich. Hier lohnt ein genauer Blick vor der Tool-Einführung.

Klasse 2: Hohes Risiko (Anhang III)

Hochrisiko-Systeme sind nicht verboten, aber streng reguliert: Anforderungen an Datenqualität, technische Dokumentation, menschliche Aufsicht und Risikomanagement. Die klassische KMU-Falle liegt im Personalbereich:

Hochrisiko

Recruiting und Personalauswahl

KI, die Bewerbungen filtert, Kandidaten rankt oder bei Auswahlentscheidungen hilft. Ein Bewerber-Ranking-Tool aus der Cloud ist kein harmloser Assistent, sondern Hochrisiko.

Hochrisiko

Mitarbeiter-Scoring und -bewertung

Systeme, die Leistung oder Verhalten von Beschäftigten bewerten, Aufgaben zuteilen oder über Beförderung und Kündigung mitentscheiden.

Hochrisiko

Bonitätsprüfung

KI, die die Kreditwürdigkeit von Personen bewertet oder Kreditscores erstellt – relevant etwa im Handel mit Ratenzahlung.

Hochrisiko

Weitere Bereiche

Je nach Branche: KI in kritischen Infrastrukturen, in der Bildung (Prüfungsbewertung), bei Versicherungen (Risikobewertung bei Leben- und Krankenversicherung) oder als Sicherheitsbauteil regulierter Produkte.

Wichtig zur Frist: Durch den Digital Omnibus gelten die vollen Hochrisiko-Pflichten für Anhang-III-Systeme erst ab Dezember 2027, für KI in regulierten Produkten (Anhang I) ab August 2028. Das ist Luft – aber kein Freifahrtschein: Die Schulungspflicht nach Art. 4 gilt bereits, und verbotene Praktiken sind tabu, egal welche Frist läuft.

Vorsicht Anbieter-Falle (Art. 25): Wer ein Hochrisiko-System unter dem eigenen Namen brandet, vertreibt oder wesentlich verändert, wird rechtlich zum Anbieter – mit der vollen Pflichtenlast eines Herstellers. Konkret: Kaufen Sie ein Recruiting-Tool und bieten es Kunden unter Ihrem Firmennamen an, tragen Sie die Anbieter-Verantwortung. Als reiner Betreiber bleiben Ihre Pflichten dagegen überschaubar.

Klasse 3: Begrenztes Risiko – Transparenzpflichten (Art. 50)

Diese Klasse betrifft KI-Systeme, die mit Menschen interagieren oder Inhalte erzeugen. Die Pflicht ist keine Genehmigung, sondern Ehrlichkeit: Menschen sollen erkennen, dass sie es mit einer KI zu tun haben. Die Pflichten gelten ab dem 2. August 2026.

Transparenz

Chatbots und Voice Agents

Wer einen Chatbot auf der Website oder einen KI-Telefonassistenten einsetzt, muss Nutzer darüber informieren, dass sie mit einer KI interagieren – ein kurzer, klarer Hinweis genügt.

Transparenz

KI-generierte Inhalte

Künstlich erzeugte oder manipulierte Inhalte (Text, Bild, Audio, Video) müssen maschinenlesbar als KI-generiert gekennzeichnet werden. Für Altsysteme gibt es bei der Kennzeichnung eine Schonfrist bis Dezember 2026.

KMU-Praxis: Das ist die Klasse, die ab August 2026 die meisten kleinen Unternehmen konkret trifft. Wenn wir für Sie Chatbots oder Telefonassistenten bauen, richten wir die Kennzeichnung direkt mit ein – als festen Bestandteil der Umsetzung, nicht als Nachgedanken.

Klasse 4: Minimales Risiko – der Rest

Alles, was weder verboten, Hochrisiko noch transparenzpflichtig ist, fällt in die Klasse minimales Risiko: Spamfilter, Suchfunktionen, Rechtschreibprüfung, die meisten Text- und Büroassistenten, Dokumentenklassifikation oder Wissenssuche. Hier erzeugt der EU AI Act keine neuen Pflichten.

Für die Mehrheit der typischen KMU-Anwendungen dürfte das zutreffen. Zwei Einschränkungen sollten Sie trotzdem im Kopf behalten: Die KI-Schulungspflicht nach Art. 4 gilt klassenübergreifend auch hier. Und die DSGVO gilt unabhängig vom EU AI Act – sobald personenbezogene Daten im Spiel sind, braucht es saubere Verarbeitung, Auftragsverarbeitungsverträge und klare Regeln. Details dazu auf unserer Seite zu DSGVO und KI-Sicherheit.

Selbstcheck: In welche Klasse fällt Ihre KI-Anwendung?

Vier Fragen, mit denen Sie jede Anwendung grob einordnen können – von oben nach unten prüfen, die erste zutreffende Antwort gewinnt:

Macht die KI etwas Verbotenes?

Bewertet sie Menschen sozial, erkennt sie Emotionen am Arbeitsplatz oder kategorisiert sie biometrisch nach sensiblen Merkmalen? Wenn ja: Art.-5-Bereich – Finger weg, egal wie praktisch das Tool wirkt.

Entscheidet die KI über Menschen?

Geht es um Bewerbungsauswahl, Mitarbeiterbewertung, Aufgabenverteilung im Personalwesen oder Bonität? Wenn ja: Hochrisiko – nur mit sauberer Prüfung und rechtlicher Begleitung.

Interagiert die KI mit Menschen oder erzeugt sie Inhalte?

Chatbot, Voice Agent, generierte Texte oder Bilder? Wenn ja: Transparenzklasse – ab August 2026 muss die KI als solche erkennbar sein.

Alles andere

Interne Assistenten, Suche, Klassifikation, Zusammenfassungen ohne Kundenkontakt? Dann liegt vermutlich minimales Risiko vor – keine neuen Pflichten, aber Art.-4-Kompetenz und DSGVO beachten.

Dieser Selbstcheck ersetzt keine Rechtsberatung. ProvenAI berät technisch-organisatorisch; bei Grenzfällen – insbesondere im Personalbereich – empfehlen wir die Einstufung durch einen Fachanwalt für IT-Recht. Eine strukturierte Ersteinschätzung liefern wir im Rahmen unseres KI-Audits.

Häufige Fragen zu den EU AI Act Risikoklassen

Welche KI-Praktiken sind seit 2025 verboten?
Seit dem 2. Februar 2025 verbietet Art. 5 EU AI Act unter anderem Social Scoring, die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, die biometrische Kategorisierung nach sensiblen Merkmalen sowie manipulative KI-Techniken, die erhebliche Schäden verursachen können. Verstöße werden mit Bußgeldern bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet.
Ist ein KI-Tool zur Bewerbungsvorauswahl Hochrisiko?
Ja. Anhang III des EU AI Act stuft KI-Systeme in der Personalbeschaffung und -auswahl als Hochrisiko ein – dazu gehören Tools, die Bewerbungen filtern, Kandidaten ranken oder Auswahlentscheidungen vorbereiten. Auch Systeme zur Leistungsbewertung von Mitarbeitern fallen darunter. Die vollen Pflichten gelten ab Dezember 2027, aber die Schulungspflicht nach Art. 4 gilt bereits heute.
Muss mein Website-Chatbot gekennzeichnet werden?
Ja. Nach Art. 50 müssen KI-Systeme, die mit Menschen interagieren, ab dem 2. August 2026 offenlegen, dass der Nutzer mit einer KI kommuniziert. Das betrifft Website-Chatbots genauso wie KI-Telefonassistenten. Ein klarer, gut sichtbarer Hinweis zu Beginn der Interaktion ist in der Regel ausreichend. Zusätzlich müssen KI-generierte Inhalte maschinenlesbar gekennzeichnet werden.
Was bedeutet die Verschiebung der Hochrisiko-Fristen für mein Unternehmen?
Durch den Digital Omnibus gelten die vollen Hochrisiko-Anforderungen für Anhang-III-Systeme erst ab dem 2. Dezember 2027 und für Anhang-I-Systeme ab dem 2. August 2028. Verschoben sind aber nur die Hochrisiko-Pflichten: Verbotene Praktiken und die KI-Schulungspflicht gelten seit Februar 2025, die Transparenzpflichten nach Art. 50 kommen ab August 2026. Wer auf komplette Verschiebung hofft, irrt.
Wann werde ich vom Betreiber zum Anbieter eines KI-Systems?
Nach Art. 25 gelten Sie als Anbieter, wenn Sie ein Hochrisiko-System unter Ihrem eigenen Namen oder Ihrer Marke auf dem Markt bereitstellen, ein bereits vertriebenes System wesentlich verändern oder den Verwendungszweck so ändern, dass das System Hochrisiko wird. Als Anbieter tragen Sie die volle Pflichtenlast – etwa bei Dokumentation und Konformitätsbewertung. Wer ein fremdes System nur unverändert einsetzt, bleibt Betreiber.
In welche Risikoklasse fällt ChatGPT im normalen Büroalltag?
Bei typischen Büro-Anwendungen wie Textentwürfen, Zusammenfassungen oder Recherche liegt in der Regel minimales Risiko vor – dafür sieht der EU AI Act keine neuen Pflichten vor. Zwei Dinge gelten trotzdem: Die Schulungspflicht nach Art. 4 betrifft auch diese einfache Nutzung, und die DSGVO bleibt unberührt – personenbezogene Kundendaten gehören nicht in öffentliche KI-Tools ohne entsprechende Verträge und Freigabe.

Unsicher bei der Einordnung? Wir prüfen es.

Im KI-Audit inventarisieren wir Ihre KI-Nutzung, ordnen jede Anwendung einer Risikoklasse zu und leiten daraus konkrete Schritte ab. Unverbindlich starten mit einem kostenlosen Erstgespräch.

Lieber telefonisch? 040-2286-55-73