EU AI Act Ethics Guidelines

Die High-Level Expert Group (HLEG) der EU-Kommission definiert sieben Anforderungen an vertrauenswürdige KI:1. Menschliche Aufsicht und Handlungsfähigkeit: KI-Systeme müssen menschliche Kontrolle ermöglichen und die Autonomie der Nutzer wahren.2. Technische Robustheit und Sicherheit: Systeme müssen zuverlässig, resilient und gegen Manipulation geschützt sein.3. Datenschutz und Daten-Governance: Verarbeitung personenbezogener Daten muss DSGVO-konform und transparent erfolgen.4. Transparenz: KI-Entscheidungen müssen nachvollziehbar und erklärbar sein.5. Vielfalt, Nichtdiskriminierung und Fairness: KI darf keine Personengruppen benachteiligen.6. Gesellschaftliches und ökologisches Wohlergehen: KI soll positive gesellschaftliche Auswirkungen haben.7. Rechenschaftspflicht: Es müssen klare Verantwortlichkeiten und Audit-Mechanismen bestehen.Diese Anforderungen bilden die ethische Grundlage des EU AI Acts und gelten insbesondere für Hochrisiko-KI-Systeme.

KI-Ethik im EU AI Act umfasst verbindliche Anforderungen an die Entwicklung und den Einsatz von KI-Systemen in der EU. Anders als frühere freiwillige Leitlinien schafft der EU AI Act erstmals einen rechtsverbindlichen Rahmen.Kernelemente sind:- Risikobasierter Ansatz mit vier Kategorien (inakzeptabel, hoch, begrenzt, minimal)- Pflicht zu Human Oversight bei Hochrisiko-KI (Art. 14)- Transparenzanforderungen für alle KI-Systeme- Verbot manipulativer und diskriminierender KI-Praktiken- Dokumentations- und KonformitätsbewertungspflichtenDie HLEG-Ethikleitlinien von

2019 dienten als direkte Grundlage für die Gesetzgebung. Unternehmen, die bereits ethische KI-Frameworks implementiert haben, sind bei der EU AI Act-Compliance im Vorteil.

Human Oversight (menschliche Aufsicht) ist eine Kernanforderung des EU AI Acts, insbesondere für Hochrisiko-KI-Systeme nach Art. 14. Die Implementierung umfasst mehrere Ebenen:Organisatorisch:- Benennung verantwortlicher Personen für jedes KI-System- Definition von Eskalationsprozessen bei kritischen Entscheidungen- Schulung der Aufsichtspersonen in KI-Funktionsweise und GrenzenTechnisch:- Einbau von Stopp-Mechanismen (Human-in-the-Loop oder Human-on-the-Loop)- Dashboards zur Überwachung von KI-Entscheidungen in Echtzeit- Alerting bei Anomalien oder unerwarteten AusgabenProzessual:- Regelmäßige Überprüfung der KI-Outputs durch Fachpersonal- Dokumentation aller menschlichen Eingriffe- Periodische Bewertung, ob das Aufsichtsniveau angemessen istDer Grad der menschlichen Aufsicht richtet sich nach der Risikokategorie des KI-Systems.

Der EU AI Act ist am 1. August

2024 in Kraft getreten und wird stufenweise anwendbar:- Februar 2025: Verbotene KI-Praktiken und KI-Kompetenzanforderungen gelten- August 2025: Regeln für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) gelten- August 2026: Vollständige Anwendbarkeit aller Bestimmungen, einschließlich der Ethik-Anforderungen an Hochrisiko-KI-Systeme- August 2027: Bestimmte Hochrisiko-KI-Systeme nach Anhang I (z. B. in regulierten Produkten)Unternehmen sollten die verbleibende Zeit nutzen, um ihre KI-Systeme zu inventarisieren, Risikobewertungen durchzuführen und ethische Governance-Strukturen aufzubauen. Eine frühzeitige Umsetzung reduziert das Compliance-Risiko erheblich.

Ethische KI und KI-Compliance sind verwandte, aber unterschiedliche Konzepte:KI-Compliance ist die Erfüllung gesetzlicher Mindestanforderungen — im EU AI Act etwa Konformitätsbewertung, CE-Kennzeichnung und Dokumentationspflichten. Sie ist binär: Ein Unternehmen ist compliant oder nicht.Ethische KI geht darüber hinaus und fragt, ob ein KI-System verantwortungsvoll, fair und im Sinne der Gesellschaft handelt. Die HLEG-Leitlinien definieren Ethik als eigenständige Säule neben Rechtmäßigkeit und Robustheit.In der Praxis ergänzen sich beide:- Compliance schafft den rechtlichen Rahmen- Ethik adressiert Fragen, die das Gesetz nicht regelt (z. B. moralische Grenzen der Automatisierung)- Unternehmen mit ethischen KI-Frameworks erfüllen die EU AI Act-Anforderungen einfacherADVISORI empfiehlt, Ethik und Compliance von Anfang an integriert zu denken statt als getrennte Workstreams.

Ein KI-Ethik-Framework ist ein strukturiertes Regelwerk, das ethische Prinzipien für die Entwicklung und den Einsatz von KI in einem Unternehmen definiert. Es besteht typischerweise aus:Grundsätze: Leitprinzipien basierend auf den HLEG-Anforderungen (Fairness, Transparenz, Rechenschaftspflicht etc.)Governance-Struktur: Rollen und Verantwortlichkeiten — z. B. ein KI-Ethik-Board, ein Chief AI Ethics Officer oder ein interdisziplinäres Gremium.Prozesse: Ethik-Folgenabschätzung vor dem Einsatz neuer KI-Systeme, regelmäßige Fairness-Audits, Bias-Monitoring und Beschwerdeverfahren.Technische Maßnahmen: Bias-Detection-Tools, Erklärbarkeits-Mechanismen, Audit-Trails und Dokumentation.Aufbau in der Praxis:1. Bestandsaufnahme: Welche KI-Systeme gibt es und welches Risikopotenzial haben sie?2. Lückenanalyse: Wo fehlen ethische Leitlinien oder technische Schutzmechanismen?3. Framework-Entwicklung: Prinzipien, Governance und Prozesse definieren4. Pilotierung: Framework an einem konkreten KI-System erproben5. Rollout und kontinuierliche Verbesserung

Fairness-Prüfungen sind ein zentraler Bestandteil ethischer KI-Governance. Der EU AI Act fordert für Hochrisiko-KI-Systeme explizit Maßnahmen gegen Diskriminierung.Prüfmethoden:- Statistische Fairness-Metriken: Demografische Parität, gleichmäßige Fehlerquoten und individuelle Fairness über verschiedene Gruppen hinweg- Datenqualitätsprüfung: Sind Trainingsdaten repräsentativ? Gibt es historische Verzerrungen?- Adversarial Testing: Gezielte Tests mit Grenzfällen und geschützten Merkmalen- Erklärbarkeitsanalyse: Welche Merkmale beeinflussen Entscheidungen am stärksten?Praktische Umsetzung:- Vor dem Deployment: Bias-Audit der Trainingsdaten und des Modells- Im laufenden Betrieb: Kontinuierliches Monitoring der Entscheidungsverteilung- Bei Abweichungen: Eskalation, Ursachenanalyse und Modellanpassung- Dokumentation: Alle Prüfungen und Ergebnisse nachvollziehbar festhaltenWichtig ist, Fairness nicht als einmaliges Audit zu verstehen, sondern als fortlaufenden Prozess.