ISO 42001 umsetzen: KI steuern, statt sie geschehen zu lassen

Was ist ISO/IEC 42001?

ISO/IEC 42001 ist im Dezember 2023 erschienen und die erste internationale Norm für ein KI-Managementsystem, englisch AI Management System oder kurz AIMS. Sie richtet sich an jede Organisation, die KI-Systeme entwickelt, anbietet oder einsetzt, unabhängig von Größe und Branche. Wie ISO 27001 und ISO 9001 folgt sie der einheitlichen Grundstruktur für Managementsystem-Normen. Sie ist zertifizierbar.

Die Norm besteht aus den Klauseln 4 bis 10 mit den Anforderungen an das Managementsystem und vier Anhängen. Anhang A enthält 38 Referenzmaßnahmen in neun Maßnahmenzielen, Anhang B die Umsetzungsleitlinie dazu, Anhang C mögliche Ziele und Risikoquellen und Anhang D Hinweise zum Einsatz in verschiedenen Branchen. Um sie herum ist eine Normenfamilie entstanden: ISO/IEC 22989 für die Begriffe, ISO/IEC 23894 als Leitfaden zum KI-Risikomanagement, ISO/IEC 42005 zur Folgenabschätzung und ISO/IEC 42006 mit den Anforderungen an Zertifizierungsstellen.

Rollen, Geltungsbereich und KI-Inventar

Klausel 4 verlangt, den Kontext der Organisation, die interessierten Parteien und den Geltungsbereich des AIMS festzulegen. Dazu gehört die Frage, in welcher Rolle die Organisation mit KI zu tun hat. ISO/IEC 22989 unterscheidet unter anderem KI-Anbieter, KI-Produzenten, KI-Kunden und -Nutzer, KI-Partner und betroffene Personen. Viele Organisationen haben mehrere Rollen zugleich: Sie kaufen einen Assistenten ein und entwickeln daneben ein eigenes Modell für ein Fachverfahren.

Die Grundlage dafür ist ein Inventar der eingesetzten KI-Systeme. KI kommt selten als Projekt ins Haus, sondern als Funktion in Werkzeugen, die längst da sind. Ohne vollständige Liste ist jede Einstufung eine Vermutung, siehe Verschoben ist nicht ausgesetzt. In isidaten werden KI-Systeme im Asset-Management geführt, mit Zweck, Rolle, Anbieter und Risikoklasse nach der KI-Verordnung.

Die Anforderungen der Klauseln 4 bis 10

Wer ISO 27001 kennt, findet die Struktur wieder. Neu sind vor allem die KI-spezifischen Teile in der Planung und im Betrieb:

• Kontext (Klausel 4): interne und externe Themen, interessierte Parteien, Rolle der Organisation und Geltungsbereich.
• Führung (Klausel 5): Verpflichtung der obersten Leitung, eine KI-Politik und klar zugewiesene Rollen und Verantwortlichkeiten.
• Planung (Klausel 6): KI-Risikobewertung, KI-Risikobehandlung mit Erklärung zur Anwendbarkeit, Folgenabschätzung für KI-Systeme und KI-Ziele.
• Unterstützung (Klausel 7): Ressourcen, Kompetenz, Bewusstsein, Kommunikation und gelenkte Dokumentation.
• Betrieb (Klausel 8): die Bewertungen in geplanten Abständen und bei wesentlichen Änderungen durchführen und die Behandlung umsetzen.
• Bewertung (Klausel 9): Überwachung und Messung, internes Audit und Managementbewertung.
• Verbesserung (Klausel 10): fortlaufende Verbesserung, Umgang mit Abweichungen und Korrekturmaßnahmen.

Anhang A: 38 Maßnahmen in neun Maßnahmenzielen

Anhang A ist ein Referenzkatalog, aus dem die Organisation die Maßnahmen für ihre Risikobehandlung wählt. Nicht anwendbare Maßnahmen sind in der Erklärung zur Anwendbarkeit zu begründen. Die neun Maßnahmenziele:

• A.2 Richtlinien: eine KI-Politik, ihr Verhältnis zu anderen Richtlinien und ihre regelmäßige Überprüfung.
• A.3 Interne Organisation: Rollen und Verantwortlichkeiten, ein Weg, Bedenken zu melden.
• A.4 Ressourcen: Daten, Werkzeuge, Rechenleistung und Menschen, die für die KI-Systeme gebraucht werden, dokumentiert.
• A.5 Folgenabschätzung: Auswirkungen auf Einzelne, Gruppen und die Gesellschaft bewerten und dokumentieren.
• A.6 Lebenszyklus: Ziele, Anforderungen, Entwurf, Verifikation, Validierung, Inbetriebnahme, Betrieb und Überwachung von KI-Systemen.
• A.7 Daten: Herkunft, Qualität und Aufbereitung der Daten für Entwicklung und Betrieb.
• A.8 Information: was Nutzer und interessierte Parteien über das System erfahren, einschließlich der Meldung von Vorfällen.
• A.9 Nutzung: verantwortungsvolle Nutzung nach festgelegten Zwecken und Vorgaben.
• A.10 Dritte und Kunden: Verantwortung entlang der Lieferkette, bei Anbietern, Partnern und Kunden.

In isidaten liegt der Anhang-A-Katalog als eigener, OSCAL-nativer Kontrollkatalog vor, nicht als Anhängsel von ISO 27001. Umsetzungen werden je Maßnahme dokumentiert und ergeben die Abdeckung, die das Cockpit zusammen mit den Klauseln 4 bis 10 ausweist.

KI-Risikobewertung: was hineingehört

Die KI-Risikobewertung nach Klausel 6.1.2 folgt demselben Muster wie in jedem Managementsystem: Kriterien festlegen, Risiken identifizieren, analysieren und bewerten. Der Unterschied liegt im Gegenstand. Betrachtet werden nicht nur Risiken für die Organisation, sondern auch für Einzelne und die Gesellschaft, und die Risikoquellen sind KI-spezifisch, etwa mangelnde Transparenz, Verzerrungen in den Daten, fehlende Robustheit, unklare Verantwortung oder ein Modell, das sich im Betrieb anders verhält als im Test. ISO/IEC 23894 liefert dafür den ausführlicheren Leitfaden.

Eine brauchbare Vorlage für eine KI-Risikobewertung enthält je Eintrag:

• das KI-System mit Zweck, Rolle der Organisation und Anbieter,
• die verarbeiteten Daten und die betroffenen Personengruppen,
• die Risikoquelle und das mögliche Ereignis,
• Eintrittswahrscheinlichkeit und Auswirkung für Organisation und Betroffene,
• die gewählten Maßnahmen mit Bezug auf Anhang A, einen Verantwortlichen und das Restrisiko.

Im Risikoregister ist ISO 42001 als Rahmenwerk auswählbar. KI-Risiken stehen so neben den übrigen Risiken, mit denselben Maßnahmen und derselben Methode.

Folgenabschätzung für KI-Systeme

Klausel 6.1.4 und das Maßnahmenziel A.5 verlangen eine eigene Folgenabschätzung: Welche Auswirkungen kann ein KI-System auf Einzelne, Gruppen und die Gesellschaft haben, wenn es wie vorgesehen genutzt wird, und wenn nicht? Das Ergebnis ist zu dokumentieren und fließt in die Risikobewertung ein. ISO/IEC 42005 beschreibt, wie eine solche Abschätzung aufgebaut wird.

Sie überschneidet sich mit zwei gesetzlichen Pflichten, ersetzt aber keine davon: der Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO, wenn personenbezogene Daten mit hohem Risiko verarbeitet werden, siehe DSGVO, und der Grundrechte-Folgenabschätzung nach Artikel 27 der KI-Verordnung, die bestimmte Betreiber von Hochrisiko-Systemen trifft, etwa Einrichtungen des öffentlichen Rechts, private Einrichtungen, die öffentliche Dienste erbringen, und Betreiber, die KI zur Kreditwürdigkeitsprüfung oder zur Preisbildung bei Lebens- und Krankenversicherungen einsetzen. Sinnvoll ist, alle drei aus denselben Angaben zum System zu speisen.

ISO 42001 und die EU-KI-Verordnung

Die KI-Verordnung, Verordnung (EU) 2024/1689, ordnet KI-Systeme nach Risiko. Verbotene Praktiken und die Pflicht zur KI-Kompetenz nach Artikel 4 gelten seit Februar 2025, die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck seit August 2025. Seit dem 2. August 2026 gilt die Verordnung allgemein, darunter die Transparenzpflichten aus Artikel 50. Für Systeme, die schon vorher auf dem Markt waren, gilt die Kennzeichnungspflicht nach Artikel 50 Absatz 2 ab dem 2. Dezember 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III hat die Änderungsverordnung (EU) 2026/1744 auf den 2. Dezember 2027 verschoben, für Hochrisiko-KI in Produkten nach Anhang I auf den 2. August 2028.

ISO 42001 ist keine harmonisierte Norm und begründet deshalb keine Konformitätsvermutung. Sie liefert aber genau das Gerüst, das die Verordnung voraussetzt: ein Inventar, Rollen, Risikobewertung, Dokumentation, Schulung und Überwachung. Wer ein AIMS betreibt, hat für die Kompetenzpflicht nach Artikel 4 eine tragfähige Grundlage und kann das Qualitätsmanagement nach Artikel 17 darauf aufbauen. Die Konformitätsvermutung für Artikel 17 begründet aber erst die harmonisierte Norm EN 18286:2026, die seit Oktober 2026 im Amtsblatt genannt ist. Welche Pflichten wann greifen, führt das Rechtskataster auf Paragraphen-Ebene, siehe Das Gesetz ändert sich leise.

ISO-42001-Zertifizierung: Ablauf

Die Zertifizierung läuft wie bei anderen Managementsystem-Normen. Bevor ein Auditor kommt, muss das AIMS eine Weile in Betrieb gewesen sein, denn geprüft wird nicht nur die Dokumentation, sondern ob sie gelebt wird.

1. Vorbereitung: Geltungsbereich, Lückenanalyse, KI-Politik, Inventar, Risikobewertung, Folgenabschätzung und Erklärung zur Anwendbarkeit.
2. Betrieb und Nachweise: Maßnahmen umsetzen, Aufzeichnungen erzeugen, ein internes Audit und eine Managementbewertung durchführen.
3. Stufe 1: die Zertifizierungsstelle prüft Dokumentation und Bereitschaft.
4. Stufe 2: sie prüft, ob das AIMS wirksam umgesetzt ist, und stellt bei Erfolg das Zertifikat aus.
5. Überwachung: das Zertifikat gilt drei Jahre, mit jährlichen Überwachungsaudits und einer Rezertifizierung danach.

Wichtig ist eine akkreditierte Zertifizierungsstelle. ISO/IEC 42006 legt fest, welche Kompetenz deren Auditoren für KI-Managementsysteme brauchen. Das Audit-Management führt internes Audit, Feststellungen und Korrekturmaßnahmen bis zum Abschluss.

ISO 42001 zusammen mit ISO 27001 betreiben

Weil beide Normen dieselbe Grundstruktur haben, lassen sie sich als integriertes Managementsystem führen: ein gemeinsamer Kontext, eine Risikomethode, ein internes Auditprogramm, eine Managementbewertung, eine Dokumentenlenkung. Was ISO 42001 dazubringt, sind die KI-spezifischen Ziele, die Folgenabschätzung und der Blick auf Betroffene außerhalb der Organisation. Die Sicherheit der KI-Systeme selbst, vom Zugang bis zur Lieferkette, bleibt Sache des ISMS nach ISO 27001.

Wie wenig ein KI-Angriff braucht, wenn die Grundlagen fehlen, zeigt Die erste KI-Ransomware kam durch eine offene Tür: Der Einstieg lief über eine bekannte Lücke in einem KI-Framework.

Checkliste: ISO 42001 in neun Schritten einführen

Die Reihenfolge folgt der Norm. Wer bereits ein ISMS hat, kann viele Schritte erweitern statt neu aufzubauen.

1. KI-Systeme im Haus erfassen, auch eingekaufte Funktionen in bestehenden Werkzeugen.
2. Rolle der Organisation je System und Geltungsbereich des AIMS festlegen.
3. KI-Politik verabschieden und Verantwortliche benennen.
4. Kriterien und Methode für KI-Risikobewertung und Folgenabschätzung festlegen.
5. Risiken bewerten, Maßnahmen aus Anhang A wählen und die Erklärung zur Anwendbarkeit erstellen.
6. Beschäftigte schulen, auch im Sinne der KI-Kompetenz nach Artikel 4 der KI-Verordnung.
7. Anbieter von KI-Diensten und Modellen in das Lieferantenmanagement aufnehmen.
8. Internes Audit und Managementbewertung durchführen.
9. Zertifizierungsstelle auswählen und Stufe 1 planen.