KI-Governance für Banken: Daten, Modelle und interne Strukturen

KI-Governance für Banken entfaltet ihren Nutzen dort, wo sie als verbindendes Element verstanden wird. Bereits vorhandene Stärken werden in Finanzinstituten zusammengeführt: beispielsweise die Umsetzung von BCBS 239 und die Three Lines of Defense wie in den EBA-Leitlinien zur internen Governance gefordert. Eine gut konzipierte KI-Governance ersetzt nicht bestehende Rahmenwerke. Vielmehr übernimmt sie die Strenge der Data Governance, erweitert den Anwendungsbereich der Modell-Governance und stärkt die Klarheit der Entscheidungsprozesse der internen Governance.

In diesem Artikel konzentrieren wir uns auf die drei Bereiche, die darüber entscheiden, ob KI-Governance für Finanzinstitute tatsächlich zu einer Reduzierung von Risiken führt oder lediglich zu einer reinen Dokumentationsübung wird:

• Data Governance für KI — das Fundament, auf dem Modelle aufbauen
• KI-Modell-Governance — ausgerichtet auf die spezifischen Risiken von KI-Systemen
• Interne Governance — die Zuordnung von Verantwortlichkeiten über die Three Lines hinweg

Data Governance für KI: Die unverzichtbare Grundlage

Jedes KI-System unterliegt den Einschränkungen der Daten, die während seiner Erstellung verwendet wurden, also der Daten, mit denen das Modell ursprünglich trainiert wurde, der Daten für ein Re-Training, der Dokumente für RAG oder der Daten für die Feinabstimmung eines vortrainierten Modells. Bei zugekauften Modellen kann eine Bank die Vortrainingsdaten des Basismodells zwar nicht beeinflussen, hat jedoch die Kontrolle über die Daten, die sie zusätzlich einbringt. In der Praxis ist es gewöhnlich die schwächste Datenquelle, die den operativen Nutzen selbst des ausgefeiltesten KI-Systems einschränkt. Aus diesem Grund muss die Data Governance für KI über eine bloße Fortführung bestehender Datenmanagementprogramme hinausgehen.

Banken sollten ihre Data Governance so ausweiten, dass sie mindestens folgende Bereiche abdeckt:

• Bewertung der Dateneignung für KI — eine formale Bewertung, ob die Daten für den vorgesehenen Anwendungsfall geeignet sind, einschließlich Repräsentativität, Aktualität, Qualität der Labels und Abdeckung von Sonder- bzw. Grenzfällen
• Verfahren zur Bias-Erkennung — systematische Prüfungen auf verzerrten Output im Zusammenhang mit geschützten Merkmalen und Proxy-Merkmalen
• Nachvollziehbarkeit der Datenherkunft (Data Provenance) — Dokumentation, woher die Daten stammen, wie sie verarbeitet wurden und welche Transformationen vorgenommen wurden, bevor sie das Modell erreicht haben
• Umgang mit sensiblen Merkmalen — Nachweise dafür, dass personenbezogene Daten und abgeleitete Merkmale im Einklang mit der DSGVO, der KI-Verordnung (EU AI Act) und branchenspezifischen Vorschriften behandelt werden

Wenn bei zugekauften Modellen dem Betreiber der Zugriff auf die Trainingsdaten fehlt, verlagert sich die Governance auf Due-Diligence-Prüfung und eine ergebnisorientierte Validierung.

Die Aufsichtsbehörden sind in diesem Punkt konsequent: Die Auslagerung eines Modells bedeutet niemals eine Auslagerung der Verantwortung für die damit verbundenen Risiken.

Modellrisikomanagement: Ein Modell, das sich in der Entwicklungsphase gut bewährt, aber im Produktivbetrieb versagt, lässt sich häufig auf Mängel in der Data Governance zurückführen.

KI-Modell-Governance: Was sich im Modellrisikomanagement ändert

Die Modell-Governance ist der Bereich, der am unmittelbarsten von KI betroffen ist. Traditionelle Rahmenwerke (SR 11-7, MaRisk AT 4.3.4) sind prinzipienbasiert und nicht technologiespezifisch. Die MaRisk-Anforderungen an die Modellvalidierung gelten auch für KI-Modelle, decken deren spezifische Risiken aber nicht ab. Validierungspraktiken und zugehörige aufsichtsrechtliche Erwartungen entwickelten sich bisher rund um lineare und logistische Modelle oder Entscheidungsbäume, bei denen Annahmen explizit waren und Validierungsverfahren weitgehend standardisiert werden konnten.

Die überarbeitete amerikanische Leitlinie (SR 26-2) hingegen nimmt generative und agentische KI ausdrücklich aus ihrem Anwendungsbereich aus.

KI-Systeme verhalten sich tatsächlich anders: Sie lernen aus hochdimensionalen Eingabedaten, können sich schnell verändern und unerwartetes, während der Validierung nicht vorhersehbares Verhalten entwickeln.

Auf dem Weg zu einer KI-Modell-Governance verdienen drei Veränderungen besondere Aufmerksamkeit:

1. Von der regelmäßigen Validierung zum kontinuierlichen KI-Modell-Monitoring. KI-Systeme können sich aufgrund von Data Drift und verändertem Kunden- oder Marktverhalten schneller verschlechtern als klassische Modelle. Finanzinstitute sollten automatisierte Monitoring-Dashboards mit vordefinierten Schwellenwerten für Leistungs-, Stabilitäts- und Fairness-Kennzahlen betreiben. Eine ausschließlich periodische Validierung von KI-Modellen würde eine Kontrolllücke zwischen zwei jährlichen Überprüfungen entstehen lassen.
2. Von optionalen zu verpflichtenden Standards für Erklärbarkeit. Die Anforderungen an die Erklärbarkeit von KI-Modellen in Banken sollten je Anwendungsfall definiert werden und Mindeststandards für kundenbezogene Entscheidungen sowie für Entscheidungen mit großen Auswirkungen bei internen Prozessen festlegen. Methoden wie SHAP und LIME sind in diesem Zusammenhang hilfreich, tragen jedoch nur dann wirksam zur Governance bei, wenn sie fest in das Governance-Rahmenwerk integriert und nicht nur ad hoc eingesetzt werden.
3. Von einmaliger Dokumentation zu einem durchgängigen KI-Lebenszyklus-Management. KI-Modelle entwickeln sich schnell weiter; Retraining-Zyklen können wöchentlich oder sogar täglich stattfinden. Ohne eine strenge Versions- und Änderungskontrolle kann ein Institut den Überblick darüber verlieren, welche Modellversion welche Entscheidung hervorgebracht hat. Dies wird insbesondere bei Kundenbeschwerden, Audits oder Prüfungen der BaFin zu einem Problem.

Über diese drei Veränderungen hinaus müssen die Anforderungen an die menschliche Aufsicht (Human Oversight) für KI-Systeme an jedem Punkt dokumentiert werden, an dem automatisierte Entscheidungen Kunden betreffen oder wesentliche Risiken erzeugen. Dazu gehört die Festlegung, was menschliche Prüfer tatsächlich tun können, welche Informationen ihnen zur Verfügung stehen und welche Entscheidungen sie überstimmen dürfen. Für KI-Systeme mit hohem Risiko wird dies durch den EU AI Act zu einer formalen Anforderung (Art. 14). Allgemeine Aussagen zum sogenannten „Human-in-the-Loop“ werden dann nicht mehr ausreichen.

Schließlich sollte das KI-Lebenszyklus-Management in Finanzinstituten für jedes System festlegen, welche Rollen oder Gremien für Entwicklung, Validierung, Inbetriebnahme, Nutzung und Außerbetriebnahme verantwortlich sind. Klar geregelte Verantwortlichkeit über den gesamten Lebenszyklus hinweg ist die zentrale Kontrolle, die verhindert, dass sich schleichende Risiken unbemerkt über längere Zeit aufbauen.

Interne Governance: Verantwortlichkeit für KI-Risiken verankern

Die interne Governance schafft die Entscheidungsstruktur, die festlegt, wer für KI-Risiken verantwortlich ist und wie die Kontrollfunktionen mit KI-Systemen zusammenwirken. KI-Governance ersetzt diese Strukturen nicht, sie wird in diese Strukturen integriert.

Von den Leitungsorganen wird erwartet, dass sie Transparenz über den Einsatz von KI, die damit verbundenen Risiken sowie die Fähigkeit des Instituts zur Überwachung komplexer automatisierter Systeme gewährleisten. In Dialogen mit der BaFin ist die Verantwortung des Leitungsorgans für KI ein wiederkehrendes Thema: klare Berichtslinien, eindeutig definierte Rollen entlang der drei Verteidigungslinien (Three Lines of Defense) – ein Ansatz, den die MaRisk als zentrales Kontrollmodell übernehmen – sowie ein funktionierender Eskalationsmechanismus für modell-, daten- und KI-bezogene Vorfälle.

Jede Verteidigungslinie muss sich weiterentwickeln:

• Erste Verteidigungslinie (Geschäftsbereiche und IT): Verantwortet die KI-Anwendungsfälle sowie die operativen Kontrollen im Zusammenhang mit Daten, Betrieb und menschlicher Aufsicht.
• Zweite Verteidigungslinie (Risikomanagement und Compliance): Muss spezifische KI-Kompetenzen aufbauen, insbesondere in den Bereichen Erklärbarkeitsstandards, Fairness-Tests und regulatorische Einordnung von KI-Anwendungsfällen im Hinblick auf den EU AI Act, die MaRisk und die damit verbundenen DORA-Anforderungen.
• Dritte Verteidigungslinie (Interne Revision): Muss die Kontrollen entlang des KI-Lebenszyklus, die Vollständigkeit der Dokumentation und den Reifegrad des KI-Risikomanagements beurteilen.

Notwendiger Handlungsbedarf für die meisten Institute: Es sollte formal festgelegt werden, wie Risikomanagement, Compliance und Interne Revision beim Thema KI zusammenarbeiten.

Wenn KI-Governance konsequent in die interne Governance integriert ist, vermeiden Finanzinstitute eine fragmentierte Überwachung und können gegenüber den Aufsichtsbehörden nachweisen, dass KI mit der gleichen Sorgfalt gesteuert wird wie Kreditrisiken, Liquiditätsrisiken oder operationelle Risiken.

Das Gesamtbild: Was KI-Governance für Banken bedeutet

Ein kohärentes KI-Governance-Rahmenwerk für Finanzinstitute baut auf der Disziplin der Data Governance auf, erweitert den Anwendungsbereich der Modell-Governance und stärkt die Klarheit der internen Governance.

Wenn diese drei Bereiche als Gesamtsystem funktionieren, können Finanzinstitute KI verantwortungsvoll und skalierbar einsetzen, ohne sich dabei verborgenen systemischen Risiken auszusetzen, die typischerweise erst dann sichtbar werden, wenn ein Vorfall bereits eingetreten ist.

Frequently Asked Questions

Was ist der Unterschied zwischen KI-Governance und Modell-Governance?

KI-Governance ist umfassender: Sie umfasst Daten, Modelle, interne Strukturen, menschliche Aufsicht, das Management von Drittanbietern sowie die regulatorische Einordnung der Gesamtmenge von KI-Anwendungsfällen. KI-Modell-Governance ist ein Bestandteil der KI-Governance und kein Ersatz für diese.

Wer sollte in einer Bank für KI-Governance verantwortlich sein?

Die Gesamtverantwortung liegt typischerweise bei einer hochrangigen Führungskraft. Häufig ist das der Chief Risk Officer oder ein eigens benannter AI Officer. Die operative Verantwortung ist über die Three Lines of Defense hinweg verteilt. Die letztendliche Verantwortung verbleibt beim Leitungsorgan.

KI-Governance als ausschließlich von der IT getriebene Initiative zu behandeln, ist eine häufige Ursache für ihr Scheitern. Die IT gehört zur ersten Verteidigungslinie und verantwortet damit gerade die Systeme, die von der Governance unabhängig hinterfragt und kontrolliert werden müssen. Zudem liegen die wesentlichen Risiken beispielsweise auch im Bereich der Reputationsrisiken und nicht nur bei den Technologierisiken.

Welche Vorschriften prägen die KI-Compliance für Finanzinstitute?

Der EU AI Act, die DSGVO, DORA, die MaRisk und die EBA-Leitlinien zur Auslagerung stehen in Zusammenhang mit der KI-Governance. Der EU AI Act führt unter anderem Anforderungen an die Klassifizierung von Anwendungsfällen, Risikomanagementsysteme und Transparenz ein. Diese müssen von Finanzinstituten mit ihrem Modellrisikomanagement in Einklang gebracht und entsprechend abgebildet werden.

Welche Anforderungen stellt die BaFin an KI?

Die Anforderungen der BaFin ergeben sich aus bestehenden, technologieneutralen Vorgaben, die auch für KI-Modelle gelten: insbesondere den MaRisk.

Seit Inkrafttreten des KI-Marktüberwachungs- und Innovationsförderungsgesetzes (KI-MIG) am 29. Juli 2026 ist die BaFin zusätzlich Marktüberwachungsbehörde für KI-Systeme im Finanzsektor. Maßgeblich ist dabei, ob die KI in unmittelbarem Zusammenhang mit einer regulierten Finanztätigkeit eingesetzt wird, wie zum Beispiel Kreditwürdigkeitsprüfung oder Anlageberatung. Für KI-Anwendungen ohne diesen Bezug, beispielsweise im Personalwesen, bleibt die Bundesnetzagentur zuständig.

Ein entscheidender Punkt für die Praxis: Die BaFin betrachtet KI nicht isoliert als Technologiethema, sondern als Teil des regulierten Geschäftsbetriebs. Dementsprechend wird eine Verzahnung der KI-Governance mit den bestehenden Governance-, Risiko- und Compliance-Strukturen erwartet.

Wie häufig sollten KI-Modelle überwacht werden?

Für KI-Systeme im Produktivbetrieb sollte kontinuierliches Monitoring der Regelfall sein. Vordefinierte Schwellenwerte für Modell-Performance, Datendrift und Fairness sollten automatisierte Warnmeldungen auslösen.

Die regelmäßige Modellvalidierung bleibt weiterhin wichtig, kann jedoch bei Systemen, die auf sich dynamisch entwickelnder Datengrundlage basieren, kein kontinuierliches Monitoring auf Modell-Drift ersetzen.

Was gehört zu einer Bewertung der Dateneignung?

Eine Bewertung der Dateneignung (Dataset Suitability Assessment) untersucht, ob die Daten für den vorgesehenen Anwendungszweck geeignet sind. Dabei werden unter anderem Repräsentativität, Aktualität, Qualität der Labels, die Abdeckung von Grenzfällen, das Vorhandensein von Bias sowie die Passung zum Umfeld, in dem das Modell eingesetzt werden soll, betrachtet.

Wie findet das Modell der Three Lines of Defense auf KI-Risiken Anwendung?

Die erste Verteidigungslinie verantwortet die KI-Anwendungsfälle und die operativen Kontrollen im Tagesgeschäft.

Die zweite Verteidigungslinie übernimmt die unabhängige Risiko- und Compliance-Überwachung und muss insbesondere über KI-spezifische Kompetenzen in den Bereichen Erklärbarkeit und Fairness verfügen.

Die dritte Verteidigungslinie prüft den Reifegrad der Kontrollen entlang des KI-Lebenszyklus sowie die Wirksamkeit des gesamten KI-Risikomanagement-Rahmenwerks.

Wie implementiert man KI-Governance in einer Bank, ohne Innovation zu bremsen?

Der Ausgangspunkt sollte ein Inventar aller KI-Anwendungsfälle sein. Anschließend sollte jeder Anwendungsfall anhand seines Risikos und seiner regulatorischen Relevanz klassifiziert werden, woraufhin proportionale Kontrollen angewendet werden.

Für Systeme mit hohem Risiko sind umfangreiche Kontrollen erforderlich; für Experimente und Anwendungsfälle mit geringerem Risiko können leichtere, standardisierte Kontrollen ausreichen.

Das Ziel ist risikobasierte Verhältnismäßigkeit statt pauschaler Beschränkungen.