EU AI Act System Classification

Der EU AI Act stuft KI-Systeme in vier Kategorien ein: Unannehmbares Risiko (Art. 5), verbotene Praktiken wie Social Scoring, manipulative Techniken und biometrische Echtzeit-Fernidentifikation im öffentlichen Raum. Hohes Risiko (Art. 6), Systeme in regulierten Produkten (Anhang I) oder in acht sensiblen Bereichen (Anhang III) wie Biometrie, kritische Infrastruktur, Beschäftigung oder Strafverfolgung. Begrenztes Risiko (Art. 50), Systeme mit Transparenzpflichten, etwa Chatbots oder Deepfake-Generatoren. Minimales Risiko, alle übrigen Systeme ohne besondere regulatorische Auflagen.

Artikel 6 definiert zwei Wege: Erstens Systeme, die als Sicherheitskomponente in Produkte nach Anhang I eingebaut sind, z. B. Medizinprodukte, Maschinen oder Aufzüge. Diese erfordern eine Konformitätsbewertung durch Dritte. Zweitens eigenständige Systeme in den acht Bereichen des Anhang III, von Biometrie über Personalmanagement bis Rechtspflege. Ein Anhang-III-System kann von der Hochrisiko-Einstufung ausgenommen werden, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte darstellt (Art. 6 Abs. 3).

Anhang III listet acht Hochrisiko-Bereiche: 1) Biometrie, Fernidentifikation und Emotionserkennung. 2) Kritische Infrastruktur, Verkehr, Energie, Wasser, digitale Netze. 3) Bildung und Berufsbildung, Prüfungsbewertung und Zugangsentscheidungen. 4) Beschäftigung, Einstellung, Leistungsbewertung, Aufgabenzuweisung. 5) Zugang zu Dienstleistungen, Kreditwürdigkeit, Versicherung, Notfalldienste. 6) Strafverfolgung, Beweisbewertung, Risikoanalyse. 7) Migration und Grenzschutz, Dokumentenprüfung, Risikoeinschätzung. 8) Rechtspflege und demokratische Prozesse.

Ein Anhang-III-System ist nicht hochriskant, wenn es kein erhebliches Risiko darstellt. Vier Kriterien sprechen für die Ausnahme: Das System führt eine eng begrenzte Verfahrensaufgabe aus. Es verbessert nur das Ergebnis einer abgeschlossenen menschlichen Tätigkeit. Es erkennt Muster, ohne menschliche Bewertung zu ersetzen. Oder es dient lediglich der Vorbereitung einer Bewertung. Wichtig: Profiling-Systeme sind immer Hochrisiko, die Ausnahme gilt für sie nie. Der Anbieter muss die Bewertung vor dem Inverkehrbringen dokumentieren.

Fünf Schritte: 1) Prüfen Sie, ob das System unter die Verbote nach Art. 5 fällt (Social Scoring, manipulative KI, biometrische Massenüberwachung). 2) Prüfen Sie, ob es eine Sicherheitskomponente in einem Produkt nach Anhang I ist. 3) Prüfen Sie, ob der Anwendungsfall unter einen der 8 Anhang-III-Bereiche fällt. 4) Falls ja, prüfen Sie die Ausnahmekriterien nach Art. 6 Abs. 3. 5) Prüfen Sie Transparenzpflichten nach Art. 50 für Systeme mit begrenztem Risiko. Dokumentieren Sie jeden Schritt, die Behörde kann die Bewertung anfordern.

Hochrisiko-Systeme müssen folgende Anforderungen erfüllen: Risikomanagementsystem (Art. 9), Daten-Governance für Trainings- und Testdaten (Art. 10), technische Dokumentation (Art. 11), automatische Protokollierung (Art. 12), Transparenz und Nutzerinformation (Art. 13), menschliche Aufsicht (Art. 14), Genauigkeit, Robustheit und Cybersicherheit (Art. 15). Zusätzlich: Qualitätsmanagementsystem (Art. 17), EU-Konformitätserklärung (Art. 47) und Konformitätsbewertung vor dem Inverkehrbringen.

KI-Modelle mit allgemeinem Verwendungszweck (GPAI) fallen unter Kapitel V des EU AI Act, ein eigenes Regelungsregime neben der Vierstufenklassifizierung. Pflichten: technische Dokumentation, Transparenz gegenüber nachgelagerten Anbietern, Urheberrechts-Compliance und eine Zusammenfassung der Trainingsdaten. GPAI-Modelle mit systemischem Risiko (ab 10^25 FLOPS) müssen zusätzlich Modellbewertungen, adversariale Tests und Cybersicherheitsmaßnahmen durchführen. Die GPAI-Pflichten gelten ab August 2025.