KI-Risikobewertung nach EU AI Act

Artikel 9 EU AI Act schreibt vor, dass für jedes Hochrisiko-KI-System ein dokumentiertes Risikomanagementsystem eingerichtet, umgesetzt und aufrechterhalten werden muss. Dieses System muss den gesamten Lebenszyklus des KI-Systems abdecken, von der Entwicklung über den Einsatz bis zur Außerbetriebnahme. Es umfasst die Identifikation und Analyse bekannter und vorhersehbarer Risiken, die Bewertung dieser Risiken bei bestimmungsgemäßer Nutzung und bei vorhersehbarem Missbrauch sowie die Ableitung geeigneter Risikominderungsmaßnahmen. Eine regelmäßige systematische Überprüfung und Aktualisierung ist verpflichtend.

Die KI-Risikobewertung nach Artikel 9 richtet sich an Anbieter und betrifft die technische Risikoanalyse des KI-Systems selbst, Gesundheit, Sicherheit und Grundrechte. Die Grundrechte-Folgenabschätzung nach Artikel 27 ist dagegen eine Pflicht der Betreiber von Hochrisiko-KI-Systemen. Sie bewertet die konkreten Auswirkungen des KI-Einsatzes auf Grundrechte im jeweiligen Anwendungskontext, einschließlich Diskriminierungsrisiken und Auswirkungen auf bestimmte Personengruppen. Beide Bewertungen sind komplementär und für die vollständige Compliance erforderlich.

Der EU AI Act definiert vier Risikostufen: Unannehmbares Risiko (Artikel 5), verbotene KI-Praktiken wie Social Scoring oder biometrische Echtzeit-Identifikation in öffentlichen Räumen. Hohes Risiko (Artikel 6, Anhang III), KI-Systeme in sensiblen Bereichen wie Personalwesen, Kreditbewertung, Strafverfolgung oder kritische Infrastruktur. Begrenztes Risiko (Artikel 50), Systeme mit Transparenzpflichten wie Chatbots oder Deepfake-Generatoren. Minimales Risiko, keine besonderen Auflagen, zum Beispiel Spam-Filter oder KI-gestützte Videospiele.

Eine systematische KI-Risikobewertung umfasst: Erstens die Bestandsaufnahme aller im Unternehmen eingesetzten KI-Systeme. Zweitens die Klassifizierung jedes Systems anhand der Risikokriterien des Artikel 6 und Anhang III. Drittens die Identifikation und Analyse bekannter und vorhersehbarer Risiken für Gesundheit, Sicherheit und Grundrechte. Viertens die Bewertung der Risiken bei bestimmungsgemäßer Nutzung und bei vorhersehbarem Missbrauch. Fünftens die Definition und Umsetzung von Risikominderungsmaßnahmen. Sechstens die Einrichtung eines kontinuierlichen Überwachungs- und Aktualisierungsprozesses.

Die Verbote für KI-Systeme mit unannehmbarem Risiko gelten seit dem 2. Februar 2025. Die Anforderungen an Hochrisiko-KI-Systeme nach Anhang III, einschließlich der Risikobewertung nach Artikel 9, gelten ab dem 2. Dezember 2027. Der Digital Omnibus on AI, verabschiedet im Juni 2026, hat diese Frist vom 2. August 2026 dorthin verschoben. Unternehmen sollten dennoch frühzeitig mit der Risikobewertung beginnen, da die Implementierung eines vollständigen Risikomanagementsystems mehrere Monate in Anspruch nimmt.

Verstöße gegen die Anforderungen an Hochrisiko-KI-Systeme, einschließlich fehlender oder mangelhafter Risikobewertung, können mit Geldbußen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden, je nachdem welcher Betrag höher ist. Für verbotene KI-Praktiken steigt die Höchststrafe auf 35 Millionen Euro oder 7 Prozent des Jahresumsatzes. Für KMU und Startups gelten abgestufte Höchstbeträge. Die Durchsetzung erfolgt in Deutschland durch die Bundesnetzagentur als zuständige Marktüberwachungsbehörde.

Der EU AI Act unterscheidet klar zwischen Anbietern (Entwicklern) und Betreibern (Nutzern) von KI-Systemen. Anbieter müssen nach Artikel 9 ein umfassendes Risikomanagementsystem implementieren, das technische Risiken des Systems selbst abdeckt. Betreiber von Hochrisiko-KI-Systemen müssen nach Artikel 26 das System bestimmungsgemäß einsetzen und nach Artikel 27 eine Grundrechte-Folgenabschätzung durchführen. Wenn ein Betreiber das KI-System wesentlich verändert oder unter eigenem Namen vertreibt, wird er zum Anbieter und übernimmt die vollen Anbieterpflichten.