EU AI Act Risikoklassen: Unzulässig, Hochrisiko, Niedrig, Minimal

Der EU AI Act unterscheidet vier Risikoklassen: (1) Unannehmbares Risiko, diese KI-Systeme sind verboten, etwa Social Scoring oder unterschwellige Manipulation. (2) Hohes Risiko, KI-Systeme in sicherheitskritischen Bereichen wie Medizinprodukte, Personalauswahl oder Kreditwürdigkeit, definiert in Annex III und Art. 6. (3) Begrenztes Risiko, Systeme mit Transparenzpflichten wie Chatbots oder Deepfake-Generatoren. (4) Minimales Risiko, der Großteil aller KI-Systeme wie Spamfilter oder Empfehlungsalgorithmen, ohne spezifische Auflagen.

Ein KI-System wird als Hochrisiko eingestuft, wenn es entweder als Sicherheitskomponente in einem regulierten Produkt gemäß Annex I dient oder in einem der acht Anwendungsbereiche aus Annex III fällt. Dazu gehören biometrische Identifikation, kritische Infrastruktur, Bildung, Beschäftigung, Zugang zu öffentlichen Leistungen, Strafverfolgung, Migration und Rechtspflege. Art. 6 Abs. 3 definiert Ausnahmen: KI-Systeme für rein prozedurale Aufgaben oder zur Verbesserung bereits abgeschlossener menschlicher Entscheidungen können von der Hochrisiko-Einstufung ausgenommen werden.

Verboten sind KI-Systeme mit unannehmbarem Risiko für Grundrechte und Sicherheit. Konkret betrifft dies: Social Scoring durch Behörden oder Unternehmen, unterschwellige Manipulation von Personen, Ausnutzung von Schwächen schutzbedürftiger Gruppen, biometrische Echtzeit-Fernidentifikation im öffentlichen Raum durch Strafverfolgungsbehörden (mit engen Ausnahmen), Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sowie prädiktive Polizeiarbeit auf Basis von Profiling. Diese Verbote gelten seit dem 2. Februar 2025.

Anbieter von Hochrisiko-KI-Systemen müssen umfassende Anforderungen erfüllen: ein dokumentiertes Risikomanagementsystem, Anforderungen an Datenqualität und Data Governance, technische Dokumentation, automatische Protokollierung (Logging), Transparenz gegenüber Nutzern, menschliche Aufsicht, Genauigkeit, Robustheit und Cybersicherheit. Vor dem Inverkehrbringen ist eine Konformitätsbewertung durchzuführen. Die vollständige Anwendung dieser Vorschriften beginnt am 2. Dezember 2027.

KI-Systeme mit begrenztem Risiko unterliegen Transparenzpflichten. Nutzer müssen darüber informiert werden, dass sie mit einer KI interagieren. Dies betrifft Chatbots und virtuelle Assistenten, Emotionserkennungssysteme, biometrische Kategorisierungssysteme sowie KI-generierte oder manipulierte Inhalte (Deepfakes). Die Kennzeichnungspflicht soll sicherstellen, dass Menschen fundierte Entscheidungen im Umgang mit diesen Systemen treffen können.

ADVISORI begleitet Unternehmen durch den gesamten Klassifizierungsprozess: von der Bestandsaufnahme aller eingesetzten KI-Systeme über die systematische Prüfung gegen die Kriterien aus Annex III und Art. 6 bis zur Ableitung konkreter Compliance-Maßnahmen. Wir erstellen eine dokumentierte Risikobewertung, identifizieren Hochrisiko-Systeme und entwickeln einen priorisierten Umsetzungsplan für die regulatorischen Anforderungen, abgestimmt auf die Frist im Dezember 2027.

Die Umsetzung erfolgt stufenweise: Seit dem 2. Februar 2025 gelten die Verbote für KI-Systeme mit unannehmbarem Risiko. Ab dem 2. August 2025 greifen die Regeln für KI-Modelle mit allgemeinem Verwendungszweck (GPAI). Am 2. Dezember 2027 werden die Pflichten für Hochrisiko-KI-Systeme vollständig wirksam, einschließlich Konformitätsbewertung und Marktüberwachung. Unternehmen sollten bereits jetzt mit der Klassifizierung ihrer KI-Systeme beginnen, um rechtzeitig compliant zu sein.