BSI A5 Basismodul: KI-Governance und Prüfkriterien in der Praxis

Executive Summary

• Neue EU-Vorgaben wie der AI Act und der Cyber Resilience Act machen die Vertrauenswürdigkeit von KI-Systemen zu einer nachweispflichtigen Voraussetzung. Mit dem BSI A5 Basismodul – dem Horizontalen Trustworthiness Basismodul der Prüfarchitektur „AI Audit and Assurance Assessment Architecture“ (A5) – liegt erstmals ein technologie- und branchenübergreifender, praxistauglicher Prüfrahmen vor.
• Organisationen jeder Branche benötigen eine risikobasierte, systematische KI-Governance über den gesamten KI-Lebenszyklus. Einzelmaßnahmen reichen nicht mehr aus.
• Für jeden, der den Einsatz von KI als Anbieter oder als Betreiber in einer Organisation verantwortet, ergeben sich Handlungsfelder in den Bereichen Transparenz, Robustheit, Governance und Fairness.
• Kritische Risiken wie Datenvergiftung, Modellmanipulation, Schwachstellen in der KI-Lieferkette und Fairnessverzerrungen sollen strukturell identifiziert und reduziert werden.
• Das Bundesamt für Sicherheit in der Informationstechnik (BSI) liefert mit dem A5 Basismodul das horizontale Fundament, das durch vertikale, anwendungsspezifische Module ergänzt werden kann – bislang durch das Betriebsmodul Cloud-Infrastruktur mit Querverbindung zum C5-Katalog.

Warum die Zukunft der KI kein Experimentierfeld mehr ist

KI ist für nahezu alle Branchen und Unternehmensbereiche attraktiv, um Effizienz zu steigern – vom Kundenservice über die Produktion bis zum Backoffice. Unsicherheit, was KI-Modellrisiken betrifft, ist jedoch immer wieder ein Hemmnis für die Entwicklung. Tatsächlich birgt der unkontrollierte Einsatz von KI erhebliche Reputations-, Rechts- und operative Risiken. Und die regulatorische Grauzone für KI-Anwendungen verengt sich.

Mit dem EU AI Act und dem Cyber Resilience Act steigen die Anforderungen an Prüfprozesse, Nachvollziehbarkeit und KI-Risikomanagement massiv. Das BSI A5 Basismodul liefert nun ein Framework für vertrauenswürdige KI, das Organisationen entlang der gesamten KI-Wertschöpfungskette helfen kann, sowohl KI-Compliance als auch robuste operative Tätigkeit sicherzustellen. Eine Besonderheit: Die Umsetzungshinweise sind durchgängig nach Anbieter- und Betreiberrolle differenziert. Wer KI-Systeme lediglich einsetzt, findet ebenso konkrete Orientierung wie derjenige, der sie entwickelt.

Das BSI hat den A5 am 6. Juli 2026 als Community Draft (Version 0.9 vom 30.06.2026) veröffentlicht. Anmerkungen konnten bis zum 31. August 2026 eingereicht werden. Der A5 ist damit kein Gesetz und keine Norm, adressiert aber die Nachweisanforderungen aus EU AI Act (KI-Verordnung) und Cyber Resilience Act sowie künftige Mindeststandards für die öffentliche Verwaltung.

Für die Finanzbranche ist dies nicht die erste einschlägige Veröffentlichung vom BSI: Bereits seit 2025 liegt der Test Criteria Catalogue for AI Systems in Finance vor.

So sind die Kriterien des BSI A5 Basismoduls aufgebaut

Jedes Kriterium des Basismoduls trägt eine Kennung aus Präfix und Nummer, zum Beispiel GCS.3.1. Das Präfix ordnet das Kriterium einer Phase des KI-Lebenszyklus zu, von der übergreifenden Governance über Daten und Entwicklung bis zu Validierung und Betrieb.

Die Kürzel im Überblick

• GCS: Governance, Compliance & Scope (übergreifende Governance- und Risikoprozesse)
• DEI: Design, Entwicklung & Integration (Daten- und Modellentwicklungsphase)
• VAV: Verifikation und Validierung (Sicherheits- und Robustheitstests)
• DEP: Deployment (Freigabe und Inbetriebnahme)
• OPS: Betrieb und Überwachung (Monitoring und Incident-Management)
• RET: Retirement (geordnete Außerbetriebnahme)

Hinweis: Die folgenden Abschnitte dieses Beitrags ordnen die Kriterien nach Themen und nicht strikt nach dieser Reihenfolge.

Charakteristisch ist die Logik der Mutterprozesse: Ein Prozess wird einmal übergreifend definiert und in den nachgelagerten Bereichen für einzelne Qualitätsdimensionen konkretisiert. Der Qualitätsmanagementprozess aus GCS.3.1 etwa wirkt in Transparenz, Robustheit, Performance, Bias und Erklärbarkeit hinein, ohne dass die Verfahrenslogik jedes Mal neu erfunden werden muss.

1. KI-Governance & Verantwortung: eine neue Ordnung

Verantwortung muss über den Lebenszyklus von KI-Systemen klar geregelt sein.

Das A5 Basismodul legt u. a. dar:

• Jede Organisation soll einen übergreifenden Qualitätsmanagementprozess für KI-Systeme verankern (GCS.3.1).
• Eine dokumentierte KI-Policy mit Strategie, Aufbau- und Ablauforganisation sowie Rollen- und Rechtekonzept ist zu etablieren; Risikomanagementrichtlinien inklusive Risiko-Eigentümerschaft sind zu dokumentieren (GCS.2.3, GCS.2.1).
• Menschliche Aufsicht ist strukturell zu verankern: von Anfechtungs- und Korrekturmechanismen über Vermeidung der Manipulation von Nutzern bis zu Kompetenz- und Schulungsprozessen (GCS.6). Vorgelagert sind die Risiken eingeschränkter menschlicher Handlungsfähigkeit zu bewerten, allen voran Automation Bias und übermäßige Abhängigkeit vom System (GCS.1.4).

Das betrifft nicht ausschließlich Eigenentwicklungen. Auch die Nutzung vortrainierter Modelle und eingekaufter KI-Produkte soll dokumentiert und unter die KI-Governance gestellt werden (DEI.5.2, DEI.5.3).

Strategischer Nutzen: Organisationen sichern sich regulatorisch ab und erhalten ihre gute Reputation, wenn KI nicht nur auf einer technischen Ebene, sondern auch mit Blick auf die Auswirkungen in der Organisation betrachtet wird.

2. Datenqualität & Datenmanagement: das Fundament der Fairness

Eine KI-Strategie benötigt eine Datenstrategie.

• Datenanforderungen und Abgrenzung von Trainings-, Validierungs- und Testdaten sollen definiert, Datenbereitstellung, -aufbereitung und -speicherung über den gesamten Datenlebenszyklus dokumentiert sein (DEI.1.1, DEI.3.1).
• Betroffenen- und Nutzerrechte (z. B. Auskunft, Berichtigung, Löschung) müssen technisch und organisatorisch umgesetzt werden (GCS.4.1).
• Auch Betriebs- und Eingabedaten im laufenden Einsatz unterliegen einem eigenen Datenmanagement- und Monitoring-Prozess (OPS.1.1, OPS.1.4).

Datenqualität ist nicht „nur“ eine technische Voraussetzung für regulatorisch konforme KI-Governance. Es soll sichergestellt werden, dass die Entscheidungsgrundlagen korrekt, fair und überprüfbar sind.

3. Transparenz und Erklärbarkeit: Voraussetzung für vertrauenswürdige KI

Transparenz ist ein Prüfstein strategischer Steuerbarkeit.

Häufig wird davon gesprochen, dass viele KI-Systeme als „Black Boxes“ operieren – nicht ganz ungerechtfertigt. Doch in regulierten und sicherheitskritischen Umfeldern ist das nur bedingt akzeptabel. Dementsprechend verankert das BSI im A5 Basismodul u. a.:

• einen Risikomanagementprozess für Erklärbarkeitsrisiken sowie einen Qualitätsmanagementprozess für Erklärbarkeit insbesondere bei entscheidungsrelevanten Modellen (GCS.1.3, GCS.3.6)
• Transparenz- und Nutzerschutzprozesse einschließlich der Kennzeichnung von KI-Interaktionen für die Nutzenden (GCS.3.2, GCS.6.5)
• die Rückverfolgbarkeit von Methoden und Entscheidungen von der Konzeption bis zum Betrieb inklusive Data Provenance und Logging (GCS.1.2, DEI.3.1, OPS.1.8)

Strategischer Nutzen: Nur Transparenz wird erlauben, KI-Systeme auch in kritischen Anwendungsfeldern so einzusetzen, dass dies von Stakeholdern akzeptiert wird.

4. Fairness: Bias in KI-Systemen vermeiden

Fairness ist kein ethisches Add-on, sondern regulatorisches Muss.

Das Basismodul fordert von Organisationen, systematisch:

• Biasrisiken im Kontext des beabsichtigten Zwecks zu identifizieren – von historischen Verzerrungen über Stichproben- und Modellverzerrungen bis zu implizitem Bias (GCS.1.7)
• risikobasierte Bias-Messgrößen mit begründeten Toleranzintervallen festzulegen und Verzerrungen im Output zu messen (GCS.3.5)
• verzerrungsmitigierende Maßnahmen umzusetzen und deren Wirksamkeit zu überprüfen (GCS.1.1)

Wer Fairness nicht systematisch steuert und nachweist, riskiert regulatorische Sanktionen. Betreiber müssen zudem einsatzspezifische geschützte Gruppen identifizieren und Ergebnisse – wo anwendbar – als Teil einer Grundrechte-Folgenabschätzung (FRIA) bereithalten.

5. Sicherheit & Robustheit nach BSI A5: KI ist kein Einfallstor

Technische Sicherheit von KI-Anwendungen ist nicht nur ein IT-Thema, sondern auch ein Governance-Thema. Viele Organisationen unterschätzen KI-spezifische Angriffsvektoren und vertrauen auf generische IT-Security.

Das A5 Basismodul systematisiert nach konkreten Angriffsszenarien wie Model Evasion (Umgehung der Erkennung durch gezielt manipulierte Eingaben), Data Poisoning (gezielte Verunreinigung der Trainingsdaten), Model Extraction (Nachbau des Modells durch systematische Abfragen), Model Stealing (Diebstahl von Modellwissen auf gleichem Weg), Membership Inference (Rückschluss, ob bestimmte Daten im Training enthalten waren) und Prompt Injection (Manipulation durch präparierte Eingabetexte).

Vom A5 Basismodul adressierte Maßnahmen sind u. a.

• simulierte Angriffe gegen die bewertete Angriffsfläche, z. B. Adversarial Testing und Red Teaming, zur Überprüfung der Wirksamkeit von Gegenmaßnahmen (VAV.1.1)
• Eingabevalidierung sowie Prüfungen auf fehlerhafte, schädliche oder verzerrte Eingabedaten (GCS.5.3, GCS.3.3, OPS.1.4)

Außerdem hervorzuheben im Basismodul sind

• ein Qualitätsmanagementprozess für KI-spezifische Cybersecurity (VAV.1.1)
• KI-spezifisches Schwachstellenmanagement über Modelle, Daten, Pipelines und Schnittstellen hinweg (GCS.5.4)
• Monitoring- und Incident-Management-Prozesse für sicherheitsrelevante Ereignisse in der KI-Lieferkette (OPS.1.7, OPS.2.4)
• Restrisiken sind zu behandeln, zu dokumentieren und adressatengerecht offenzulegen (GCS.1.1)

Außerdem wird ein Risikomanagementprozess für Robustheit gefordert, einschließlich Kritikalität, Teilausfällen und zweckfremder Nutzung (GCS.1.6), ein Qualitätsmanagementprozess mit Edge-Case-Analyse, Tests unter Extrembedingungen und Verfahren zur Unsicherheitsbestimmung (GCS.3.3) sowie ein fortlaufendes Monitoring auf verrauschte, unvollständige oder untypische Eingaben mit Rückfalloption und Modellherabstufung (OPS.1.3). Für Betreiber ist der Grenzfall im Alltag meist der wahrscheinlichere Schadensfall als der gezielte Angriff.

Das bedeutet für die Governance, dassSicherheitsprüfungen KI-spezifisch erweitert werden müssen – nach Security-by-Design und mit abgestuften Sicherheitskontrollen entlang von Risiko, Sensitivität und Kritikalität (GCS.5.2, GCS.5.3).

6. KI-Governance im Unternehmen etablieren: Best Practices in fünf Phasen

Die A5-Kriterien selbst sind nicht nach diesen Themen, sondern nach den Phasen des KI-Lebenszyklus strukturiert. In diesem Abschnitt zeigen wir, wie sich beide Perspektiven miteinander verbinden lassen.

Ein durchgängiger Pfad vom niedrigschwelligen Einstieg bis zum laufenden Betrieb:

Phase 1 — Orientierung & KI-Inventar (Einstieg)

• Ziel: Überblick schaffen, Risiko erfassen, Handlungsdruck sichtbar machen.
• Kernaktivitäten: Aufnahme aller vorhandenen und geplanten KI-Use-Cases (inklusive „Schatten-KI“, eingekaufter Tools und generischer Assistenten – vgl. DEI.5.3); Erst-Klassifizierung nach EU-AI-Act-Risikologik; grobe regulatorische Betroffenheit.
• Ergebnis: KI-Use-Case-Register und Risiko-Heatmap.

Phase 2 — Readiness- & Gap-Assessment

• Ziel: Feststellen, was für einen verantwortungsvollen Start fehlt.
• Kernaktivitäten: (a) Datengrundlage (Eignungs- und Qualitätskriterien je Use Case, vgl. DEI.2.1), (b) regulatorische Lücken (EU AI Act, DSGVO, branchenspezifische Vorgaben), (c) organisatorische Reife (Rollen, Kompetenzen, Prozesse – vgl. GCS.2, DEP.1.1, GCS.6.4).
• Ergebnis: Gap-Report mit priorisierten Maßnahmen.

Phase 3 — Governance-Design (Zielbild)

• Ziel: Ein schlankes, verbindliches Steuerungsgerüst aufsetzen.
• Kernaktivitäten: KI-Governance-Richtlinie bzw. -Policy (Zweck, Geltungsbereich, Rollen, Kontrollen, Freigabeprozess – GCS.2.3, GCS.2.1, DEP.1.1); Festlegung von Verantwortlichkeiten (z. B. KI-Verantwortlicher, Freigabegremium); Definition eines minimalen, risikobasierten Kontroll-Sets; nur bei Verhältnismäßigkeit Drei-Linien-Struktur.
• Ergebnis: verabschiedete KI-Governance-Policy und Rollen- bzw. Verantwortungsmodell.

Phase 4 — Umsetzungsbegleitung am ersten Use Case

• Ziel: Governance am konkreten Vorhaben erproben.
• Kernaktivitäten: Begleitung des ersten (oder pilothaften) Use Case durch den Freigabeprozess; Ausgestaltung von menschlicher Aufsicht (GCS.6.3), Transparenz- und Kennzeichnungspflichten (GCS.6.5), technischer Dokumentation (DEI.5.1), Monitoring-Konzept (OPS.1.2); gegebenenfalls Bias-, Fairness- und Robustheitsprüfung (GCS.3.5, GCS.3.3).
• Ergebnis: dokumentierter, „governance-konformer“ Referenz-Use-Case als Blaupause.

Phase 5 — Betrieb, Review & Skalierung

• Ziel: Governance verstetigen und mit der Adoption wachsen lassen.
• Kernaktivitäten: laufendes Monitoring (Output-Qualität, gegebenenfalls Model-Drift, vgl. OPS.1.5), Review-Zyklen, KI-Kompetenzaufbau und Schulung der Belegschaft (GCS.6.4), Rollout auf weitere Use Cases.
• Ergebnis: etablierter Betriebs- und Reviewrhythmus.

Strategische Takeaways

• Führungskräfte müssen KI nicht selbst entwickeln – aber alles verantworten. Das A5 Basismodul differenziert zwischen Anbieter- und Betreiberpflichten der KI-Verordnung.
• Transparenz, Fairness und Sicherheit sind keine Add-ons, sondern Pflichtbestandteile regulatorisch konformer KI-Nutzung über den gesamten Lebenszyklus, von der Governance bis zum Retirement.
• Die BSI-Kriterien stellen ein konkretes Rahmenwerk aus Test- und Prüfkriterien für KI-Systeme dar, das operationalisierbar ist und durch Module für einzelne Anwendungsbereiche vertieft werden kann.
• Wer heute KI-Governance aufsetzt, investiert sowohl in KI-Compliance als auch in Zukunftsfähigkeit.

Fazit & nächste Schritte

Die Diskussion um KI muss sich nicht nur in regulierten Branchen von der technischen Spielwiese lösen. Das BSI liefert mit dem A5 Horizontalen Trustworthiness Basismodul ein strukturiertes Fundament für vertrauenswürdige KI, das Organisationen jeder Branche für die Etablierung einer belastbaren KI-Governance heranziehen können.

„Nicht der Einsatz von KI ist risikobehaftet, sondern ihr ungesteuerter Einsatz.“

Denken Sie über Folgendes nach:

• Wo existieren direkt oder indirekt KI-Systeme in meinem Verantwortungsbereich? Bin ich Anbieter oder Betreiber?
• Wie nachweisbar sind Fairness, Transparenz und Sicherheitsmaßnahmen heute?
• Existieren definierte Rollen und Prozesse der KI-Governance auch für vortrainierte Modelle und die KI-Lieferkette?

FAQ: Häufige Fragen zum BSI A5 Basismodul

Was ist das BSI A5 und was regelt das Basismodul?

A5 steht für „AI Audit and Assurance Assessment Architecture“, das ist eine modulare Prüfarchitektur des BSI, mit der sich die Vertrauenswürdigkeit von KI-Systemen systematisch bewerten lässt. Das BSI A5 Horizontales Trustworthiness-Basismodul – so die vollständige Bezeichnung – bildet das technologie- und anwendungsunabhängige Fundament und bündelt die grundlegenden organisatorischen und technischen Maßnahmen für vertrauenswürdige KI. Ergänzt wird es durch vertikale Module, bislang das Betriebsmodul Cloud-Infrastruktur. Das BSI hat den A5 am 6. Juli 2026 als Community Draft in Version 0.9 veröffentlicht; die Kommentierungsfrist lief bis zum 31. August 2026. Der A5 ist damit kein Gesetz und keine Norm.

Welche Testkriterien für KI-Systeme gibt das BSI vor?

Das A5 Basismodul bündelt 55 Einzelkriterien, die jeweils aus Zielsetzung, Anforderung und rollenspezifischen Umsetzungshinweisen bestehen. Als Testkriterien für KI-Systeme wirken sie auf zwei Ebenen: organisatorisch über nachweispflichtige Prozesse wie Qualitäts-, Risiko- und Incident-Management, technisch über messbare Größen wie Datenqualitätsschwellen, Bias-Toleranzintervalle, Performance-Metriken und simulierte Angriffe im Rahmen von Adversarial Testing und Red Teaming (VAV.1.1). Bei der Prüfmethodik orientiert sich das BSI zunächst am Vorbild des C5-Katalogs.

Wie wird das A5 Basismodul vom BSI verfügbar gemacht?

Die A5-Kriterien werden als pdf-Dokument sowie maschinenlesbar im OSCAL-Format veröffentlicht. Dies ermöglicht Stakeholdern die Einbindung der Kriterien in bestehende OSCAL-basierte Werkzeugketten zur Compliance-Bearbeitung und Prüfunterstützung.

Was bedeuten die Kürzel der A5-Kriterien wie GCS, DEI oder OPS?

Jedes Kriterium trägt eine Kennung aus Präfix und Nummer, zum Beispiel GCS.3.1. Das Präfix ordnet das Kriterium einer Phase des KI-Lebenszyklus zu: GCS umfasst die übergreifenden Governance-, Risiko- und Qualitätsmanagementprozesse, DEI die Daten- und Entwicklungsphase von der Datenplanung bis zur Modellarchitektur, VAV die Validierung und Verifikation einschließlich Angriffssimulation, DEP die Freigabe und Inbetriebnahme, OPS den laufenden Betrieb mit Monitoring und Incident-Management und RET die geordnete Außerbetriebnahme. Ein Prozess wird dabei häufig übergreifend definiert und in den nachgelagerten Bereichen konkretisiert. Der Qualitätsmanagementprozess aus GCS.3.1 etwa wirkt in andere Bereiche hinein.

Gab es vor dem A5 schon Prüfkataloge für KI vom BSI?

Ja, mit dem AI Cloud Service Compliance Criteria Catalogue (AIC4) besteht seit 2021 ein Katalog für KI-Dienste aus der Cloud. 2025 folgte Test Criteria Catalogue for AI Systems in Finance (Vorabversion am 27. Mai 2025, finale Version am 30. Juli 2026) aus dem BSI-Projekt AICRIV. Der A5 aus dem Projekt AICRID verallgemeinert diesen Ansatz: horizontal statt sektorspezifisch und modular erweiterbar.

Für wen gilt das A5 Basismodul und was bedeutet die Unterscheidung zwischen Anbieter und Betreiber?

Das Basismodul richtet sich an alle Akteure entlang der KI-Wertschöpfungskette. Anbieter entwickeln und stellen KI-Systeme bereit; Betreiber setzen sie im eigenen Kontext ein. Zu den meisten Kriterien liefert das BSI nach diesen Rollen differenzierte Umsetzungshinweise. Betreiber können sich also nicht auf die Anbieterdokumentation allein verlassen, sondern sollen sie im eigenen Einsatzkontext prüfen und ergänzen.

Welche Anforderungen gelten für Hochrisiko-KI-Systeme?

Die KI-Verordnung stuft KI-Systeme nach ihrem Risiko ein; Hochrisiko-KI-Systeme unterliegen den strengsten Anforderungen, unter anderem an Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit. Das A5 Basismodul ist nicht deckungsgleich mit dem AI Act, deckt aber genau diese Felder mit prüfbaren Kriterien ab. Wer die EU AI Act Anforderungen umsetzen muss, kann das Basismodul deshalb als Nachweisraster nutzen: Es übersetzt abstrakte Rechtspflichten in operationalisierbare Kontrollen für vertrauenswürdige KI. Ob ein System als Hochrisiko-KI-System gilt, ist vorab im Rahmen der Risikoklassifizierung zu bestimmen.

Wie lässt sich Human Oversight bei KI umsetzen?

Menschliche Aufsicht wird erst wirksam, wenn sie an konkrete Kontrollpunkte gebunden ist. Das Basismodul verlangt ein angemessenes Maß an Human Agency & Oversight mit definierten Eskalationswegen (GCS.6.3), Mechanismen zum Verwerfen, Korrigieren oder Unterbrechen von KI-Entscheidungen (GCS.6.2) sowie einen Kompetenz- und Schulungsprozess für alle Beteiligten entlang der KI-Lieferkette (GCS.6.4). Human Oversight bei KI umzusetzen heißt damit: benannte Rollen, dokumentierte Eingriffsrechte und protokollierte Eingriffe (OPS.1.8).

Was unterscheidet KI-spezifische Risiken von klassischen IT-Risiken?

KI-Risiken entstehen oft durch das Lernverhalten des KI-Systems, Verzerrungen in Trainingsdaten, mangelnde Erklärbarkeit des KI-Modells oder adversariale Angriffe. Anders als klassische IT-Risiken sind sie dynamisch, nicht statisch: Sie verändern sich mit den Daten, dem Modellverhalten und dem Einsatzkontext. Ein wirksames KI-Risikomanagement setzt deshalb fortlaufend statt einmalig an und deckt den gesamten Lebenszyklus ab.

Wie hängen BSI A5 und der C5-Katalog zusammen?

Für cloudbasierte KI-Systeme ergänzt das Betriebsmodul Cloud-Infrastruktur das horizontale Basismodul und stellt die Querverbindung zum etablierten C5-Katalog für Cloud-Dienste her. Auch bei der Prüfmethodik orientiert sich das BSI zunächst an dem C5-Vorbild.

BSI A5 oder ISO/IEC 42001 – was brauche ich?

Die beiden Ansätze schließen sich nicht aus, sondern adressieren unterschiedliche Ebenen. ISO/IEC 42001 beschreibt ein zertifizierbares Managementsystem für Künstliche Intelligenz und damit vor allem die organisatorische Steuerung. Der A5 ist ein Prüfkriterienkatalog, der die technische und organisatorische Vertrauenswürdigkeit konkreter KI-Systeme nachweisbar machen soll. In der Praxis lässt sich ein bestehendes KI-Managementsystem als Grundlage nutzen und um die A5-spezifischen Nachweise ergänzen.

Wie lässt sich Fairness technisch und regulatorisch nachweisen?

Durch Bias-Messverfahren, definierte Toleranzintervalle und dokumentierte Mitigationsstrategien wie vom BSI in GCS.1.7 und GCS.3.5 gefordert. Dies wurde vom BSI in der Veröffentlichung „Bias in der künstlichen Intelligenz“ vertieft.

Welche Rolle spielt Transparenz bei regulatorischen Anforderungen?

Transparenz ist eine Grundvoraussetzung für Prüfungen, Nutzerakzeptanz und systemseitige Rückverfolgbarkeit. Das Basismodul verankert sie horizontal von der Kennzeichnung von KI-Interaktionen bis zur Data Provenance.

Sind auch zugekaufte KI-Modelle von Regulierung betroffen?

Ja. Die Nutzung vortrainierter Modelle ist zu begründen und zu dokumentieren, inklusive Ausstiegs- und Kontinuitätsstrategie (DEI.5.2); vorgelagerte KI-Produkte und deren Datenflüsse sind offenzulegen (DEI.5.3), und die KI-Lieferkette ist in Monitoring und Incident-Management einzubeziehen (OPS.1.7, OPS.2.4).

Wie etabliere ich ein KI-Qualitätsmanagement?

Das Basismodul arbeitet mit übergreifenden Mutterprozessen: Der Qualitätsmanagementprozess (GCS.3.1) definiert Bedarf, Anforderungen, Metriken, Thresholds und Testpläne und wird für einzelne Dimensionen wie Transparenz, Robustheit, Performance, Bias und Erklärbarkeit konkretisiert.