Art. 17 AI Act: Qualitätsmanagementsystem für Hochrisiko-KI-Systeme

Art. 17 Abs. 1 AI Act nennt mindestens zwölf Pflichtbestandteile: Konformitätsstrategie einschließlich Konformitätsbewertungsverfahren, Design- und Entwicklungsverfahren mit Designverifikation, Entwicklungsqualitätskontrolle und -sicherung, Testing- und Validierungsverfahren vor, während und nach der Entwicklung, technische Spezifikationen und anzuwendende Normen, Datenmanagement-Systeme, ein Risikomanagementsystem nach Art. 9, Post-Market-Monitoring nach Art. 72, Incident-Reporting-Verfahren nach Art. 73, Kommunikationsverfahren mit Behörden und Notified Bodies, Dokumentations- und Aufbewahrungssysteme sowie Ressourcenmanagement mit einem Accountability-Framework.

Ein bestehendes ISO‑9001-QMS bildet eine solide Grundlage, muss aber gezielt um KI-spezifische Prozesse ergänzt werden. Die wesentlichen Erweiterungen betreffen Datenqualitätsmanagement für Trainings- und Validierungsdaten, algorithmische Qualitätskontrolle mit Bias-Testing und Robustheitsprüfung, Model-Versioning und Änderungsmanagement für KI-Modelle, Post-Market-Monitoring mit kontinuierlicher Leistungsüberwachung sowie KI-Incident-Handling-Verfahren. Der harmonisierte Standard prEN 18286 orientiert sich bewusst an ISO 9001 und erleichtert die Integration.

Durch die Digital-Omnibus-Verordnung wurden die Fristen verschoben: Für Hochrisiko-KI-Systeme nach Anhang III gilt die QMS-Pflicht ab dem 2. Dezember 2027, für Systeme nach Anhang I ab dem 2. August 2028. Anbieter sollten frühzeitig mit der Gap-Analyse und dem QMS-Aufbau beginnen, da die Implementierung je nach Organisationsgröße und bestehendem QM-Reifegrad sechs bis achtzehn Monate dauern kann.

prEN 18286 ist der erste harmonisierte Standard, der speziell für das Qualitätsmanagementsystem unter dem AI Act entwickelt wurde. Er konkretisiert die zwölf Pflichtbestandteile aus Art. 17 und gibt praktische Umsetzungshinweise. Die Anwendung harmonisierter Standards begründet eine Konformitätsvermutung, das heißt, wer den Standard einhält, kann vereinfacht nachweisen, dass sein QMS den regulatorischen Anforderungen entspricht.

Das Risikomanagementsystem nach Art. 9 ist ein eigenständiger Bestandteil des QMS nach Art. 17. Es muss in den gesamten Lebenszyklus des KI-Systems integriert werden und umfasst Risikoidentifikation, -bewertung, -behandlung und kontinuierliche Überwachung. Das QMS definiert die organisatorischen Prozesse und Verantwortlichkeiten, innerhalb derer das Risikomanagement operiert. Beide Systeme müssen aufeinander abgestimmt und dokumentiert sein.

Art. 17 Abs. 1 lit. f verlangt ein System für Datenmanagement, das den gesamten Datenlebenszyklus abdeckt: Datenerhebung, Datensammlung, Datenanalyse, Datenkennzeichnung, Datenspeicherung, Datenfilterung, Data Mining, Datenaggregation und Datenaufbewahrung. Diese Verfahren gelten für alle Daten, die vor und während des Inverkehrbringens oder der Inbetriebnahme verarbeitet werden. In der Praxis bedeutet das dokumentierte Prozesse für Trainings-, Validierungs- und Testdaten mit Qualitätskriterien und Rückverfolgbarkeit.

Ja, die QMS-Pflicht gilt für alle Anbieter von Hochrisiko-KI-Systemen unabhängig von der Unternehmensgröße. Allerdings sieht Art. 17 Abs. 2 eine Verhältnismäßigkeitsklausel vor: Die Umsetzung muss der Größe der Organisation des Anbieters angemessen sein. Kleinstunternehmen mit weniger als zehn Beschäftigten können vereinfachte Verfahren nutzen. Der Mindeststandard an Strenge und Schutzniveau muss jedoch in jedem Fall eingehalten werden.