EU AI Act Ethikrichtlinien: Vertrauenswürdige KI in der Praxis

Die High-Level Expert Group (HLEG) der EU-Kommission definiert sieben Anforderungen an vertrauenswürdige KI:

1. Menschliche Aufsicht und Handlungsfähigkeit: KI-Systeme müssen menschliche Kontrolle ermöglichen und die Autonomie der Nutzer wahren.

2. Technische Robustheit und Sicherheit: Systeme müssen zuverlässig, resilient und gegen Manipulation geschützt sein.

3. Datenschutz und Daten-Governance: Verarbeitung personenbezogener Daten muss DSGVO-konform und transparent erfolgen.

4. Transparenz: KI-Entscheidungen müssen nachvollziehbar und erklärbar sein.

5. Vielfalt, Nichtdiskriminierung und Fairness: KI darf keine Personengruppen benachteiligen.

6. Gesellschaftliches und ökologisches Wohlergehen: KI soll positive gesellschaftliche Auswirkungen haben.

7. Rechenschaftspflicht: Es müssen klare Verantwortlichkeiten und Audit-Mechanismen bestehen.

Diese Anforderungen bilden die ethische Grundlage des EU AI Acts und gelten insbesondere für Hochrisiko-KI-Systeme.

KI-Ethik im EU AI Act umfasst verbindliche Anforderungen an die Entwicklung und den Einsatz von KI-Systemen in der EU. Anders als frühere freiwillige Leitlinien schafft der EU AI Act erstmals einen rechtsverbindlichen Rahmen.

Kernelemente sind:

Die HLEG-Ethikleitlinien von 2019 dienten als direkte Grundlage für die Gesetzgebung. Unternehmen, die bereits ethische KI-Frameworks implementiert haben, sind bei der EU AI Act-Compliance im Vorteil.

Human Oversight (menschliche Aufsicht) ist eine Kernanforderung des EU AI Acts, insbesondere für Hochrisiko-KI-Systeme nach Art. 14. Die Implementierung umfasst mehrere Ebenen:

Organisatorisch:

Technisch:

Prozessual:

Der Grad der menschlichen Aufsicht richtet sich nach der Risikokategorie des KI-Systems.

Der EU AI Act ist am 1. August 2024 in Kraft getreten und wird stufenweise anwendbar:

Unternehmen sollten die verbleibende Zeit nutzen, um ihre KI-Systeme zu inventarisieren, Risikobewertungen durchzuführen und ethische Governance-Strukturen aufzubauen. Eine frühzeitige Umsetzung reduziert das Compliance-Risiko erheblich.

Ethische KI und KI-Compliance sind verwandte, aber unterschiedliche Konzepte:

KI-Compliance ist die Erfüllung gesetzlicher Mindestanforderungen, im EU AI Act etwa Konformitätsbewertung, CE-Kennzeichnung und Dokumentationspflichten. Sie ist binär: Ein Unternehmen ist compliant oder nicht.

Ethische KI geht darüber hinaus und fragt, ob ein KI-System verantwortungsvoll, fair und im Sinne der Gesellschaft handelt. Die HLEG-Leitlinien definieren Ethik als eigenständige Säule neben Rechtmäßigkeit und Robustheit.

In der Praxis ergänzen sich beide:

ADVISORI empfiehlt, Ethik und Compliance von Anfang an integriert zu denken statt als getrennte Workstreams.

Ein KI-Ethik-Framework ist ein strukturiertes Regelwerk, das ethische Prinzipien für die Entwicklung und den Einsatz von KI in einem Unternehmen definiert. Es besteht typischerweise aus:

Grundsätze: Leitprinzipien basierend auf den HLEG-Anforderungen (Fairness, Transparenz, Rechenschaftspflicht etc.)

Governance-Struktur: Rollen und Verantwortlichkeiten, z. B. ein KI-Ethik-Board, ein Chief AI Ethics Officer oder ein interdisziplinäres Gremium.

Prozesse: Ethik-Folgenabschätzung vor dem Einsatz neuer KI-Systeme, regelmäßige Fairness-Audits, Bias-Monitoring und Beschwerdeverfahren.

Technische Maßnahmen: Bias-Detection-Tools, Erklärbarkeits-Mechanismen, Audit-Trails und Dokumentation.

Aufbau in der Praxis:

1. Bestandsaufnahme: Welche KI-Systeme gibt es und welches Risikopotenzial haben sie?

2. Lückenanalyse: Wo fehlen ethische Leitlinien oder technische Schutzmechanismen?

3. Framework-Entwicklung: Prinzipien, Governance und Prozesse definieren

4. Pilotierung: Framework an einem konkreten KI-System erproben

5. Rollout und kontinuierliche Verbesserung

Fairness-Prüfungen sind ein zentraler Bestandteil ethischer KI-Governance. Der EU AI Act fordert für Hochrisiko-KI-Systeme explizit Maßnahmen gegen Diskriminierung.

Prüfmethoden:

Praktische Umsetzung:

Wichtig ist, Fairness nicht als einmaliges Audit zu verstehen, sondern als fortlaufenden Prozess.