ISO/IEC 42001: Was ein KI-Managementsystem tatsächlich verlangt

ISO/IEC 42001 erschien im Dezember 2023 als erste zertifizierbare Managementsystemnorm für künstliche Intelligenz. Innerhalb eines Jahres fragten Vorstände, die sich zuvor nie für eine Managementsystemnorm interessiert hatten, ausgerechnet nach dieser. Hier steht, was sie tatsächlich verlangt, gelesen so, wie ein Auditor sie lesen wird.

Sie ist eine Managementsystemnorm, keine technische Norm

Der häufigste Lesefehler besteht darin, eine Liste von Modellmaßnahmen zu erwarten: Fairness-Schwellen, Mindestgenauigkeiten, zugelassene Architekturen. Nichts davon steht in ISO/IEC 42001, und das war auch nie vorgesehen. Sie folgt derselben harmonisierten Struktur wie ISO/IEC 27001 und ISO 9001: Kontext, Führung, Planung, Unterstützung, Betrieb, Bewertung der Leistung, Verbesserung. Denn ihr Gegenstand ist die Art und Weise, wie Ihre Organisation KI steuert, und nicht die Verlustfunktion, für die Sie sich entschieden haben.

Wer bereits ein zertifiziertes ISMS betreibt, wird die Form sofort wiedererkennen, und ein erheblicher Teil der Mechanik aus den Abschnitten 4 bis 10 lässt sich gemeinsam nutzen: Dokumentenlenkung, internes Audit, Managementbewertung, Korrekturmaßnahmen. Die KI-spezifische Arbeit steckt in den Planungsabschnitten und in Anhang A.

Der Maßnahmenkatalog in Anhang A

Anhang A enthält 38 Maßnahmen, gegliedert unter neun Überschriften. Zusammengefasst verlangen sie von Ihnen Folgendes:

• Richtlinien für KI, die genehmigt, veröffentlicht und tatsächlich überprüft werden, und nicht eine Seite, die fürs Audit geschrieben wurde
• Interne Organisation: benannte Rollen, definierte Verantwortlichkeit und ein Meldeweg für KI-Bedenken
• Dokumentierte Ressourcen: die Daten, Werkzeuge, Rechenleistung und menschliche Expertise, von denen jedes KI-System abhängt
• Folgenabschätzung von KI-Systemen für Einzelpersonen, Gruppen und die Gesellschaft, nicht nur für die Organisation
• Lebenszyklusmanagement: Anforderungen, Entwurf, Verifizierung, Einführung, Betrieb, Überwachung und Außerbetriebnahme
• Daten-Governance: Herkunft, Qualität, Aufbereitung und die Grundlage, auf der Trainingsdaten beschafft wurden
• Informationen für interessierte Parteien: was Sie Nutzern, Kunden und Aufsichtsbehörden über das System mitteilen
• Verantwortungsvolle Nutzung: die Regeln dafür, wie Ihre eigenen Mitarbeitenden KI-Systeme einsetzen, auch solche, die Sie nicht selbst gebaut haben
• Beziehungen zu Dritten: die Aufteilung der Verantwortung zwischen Lieferanten, Partnern und Kunden

Wie bei ISO/IEC 27001 werden Maßnahmen ausgewählt und begründet, nicht pauschal übernommen. Rechnen Sie damit, dass ein Auditor fragt, warum eine ausgeschlossene Maßnahme nicht anwendbar ist, und dass ihn ein „wir sind doch nur Betreiber“ nicht beeindruckt.

Der Abschnitt, über den viele stolpern: die Folgenabschätzung für KI-Systeme

Abschnitt 6.1.4 verlangt einen Prozess zur Bewertung der möglichen Auswirkungen eines KI-Systems auf Einzelpersonen und Personengruppen sowie auf die Gesellschaft. Er verlangt zudem, dass diese Bewertung an festgelegten Punkten des Lebenszyklus durchgeführt, dokumentiert und in die Risikobehandlung zurückgeführt wird.

Das ist die Anforderung, die die meisten Organisationen unterschätzen. Eine Datenschutz-Folgenabschätzung genügt dafür nicht: Eine DSFA ist auf personenbezogene Daten zugeschnitten, während eine KI-Folgenabschätzung Wirkungen berücksichtigen muss, die mit Datenschutz nichts zu tun haben: ein Scoring-Modell, das eine Gruppe systematisch benachteiligt, eine automatisierte Entscheidung ohne praktikablen Weg, sie anzufechten, eine Ausgabe, die in einem sicherheitsrelevanten Kontext selbstbewusst falsch ist.

Im Audit lautet die Feststellung selten „Sie haben keine Folgenabschätzung“. Sie lautet, dass die Folgenabschätzung existiert, einmal zum Start durchgeführt wurde, keinen festgelegten Auslöser für eine Wiederholung nennt und keine sichtbare Verbindung zum Risikoregister hat.

Was ein Auditor tatsächlich sehen will

Fünf Anforderungen kommen fast jedes Mal. Wenn Sie diese mit Dokumenten statt mit Erklärungen beantworten können, stehen Sie ordentlich da:

• Ein Verzeichnis der KI-Systeme im Geltungsbereich, einschließlich derer, die als Funktionen innerhalb anderer Software beschafft wurden, denn dort versteckt sich der Schatten-Bestand immer
• Ihre Rolle für jedes System: Entwickler, Anbieter, Betreiber, denn die Pflichten unterscheiden sich und Organisationen halten regelmäßig mehrere Rollen zugleich
• Nachweise für eine reale menschliche Aufsicht: wer das System übersteuern darf, ob das jemals geschehen ist und ob diese Person das nötige Standing dafür hat
• Datenherkunft für Training und Feinabstimmung sowie die Grundlage, auf der diese Daten beschafft wurden
• Aufzeichnungen der Überwachung nach der Einführung: Drift, Vorfälle, Beschwerden und was daraufhin unternommen wurde

Wie sie sich zu ISO/IEC 27001 und 27701 verhält

Die drei sind so angelegt, dass sie ineinandergreifen. ISO/IEC 27001 regelt die Informationssicherheit, ISO/IEC 27701 erweitert sie um den Datenschutz, und ISO/IEC 42001 regelt die KI-Systeme, die zunehmend auf beiden aufsetzen. Wo ein ISMS bereits zertifiziert ist, ist ein integriertes Managementsystem meist der vernünftige Weg: ein internes Auditprogramm, eine Managementbewertung, eine Mechanik für Korrekturmaßnahmen, drei Geltungsbereiche.

Was sich nicht übertragen lässt, ist das Urteilsvermögen für KI-spezifische Schäden. Ein Auditor, der ein Jahrzehnt mit Zugriffssteuerung verbracht hat, wird ohne weitere Schulung nicht in der Lage sein, eine KI-Folgenabschätzung kritisch zu hinterfragen. Genau diese Lücke ist der Grund, warum es den Lead-Auditor-Kurs für 42001 als eigenständiges Programm gibt und nicht als angehängtes Modul.

Womit Sie anfangen, wenn Sie jetzt starten

Bauen Sie zuerst das Verzeichnis auf. Fast jede Organisation, die ein 42001-Programm beginnt, stellt fest, dass sie mehr KI-Systeme betreibt als angenommen, die meisten davon eingekauft statt selbst gebaut, und mehrere davon treffen Entscheidungen, die niemand eingestuft hat. Solange dieses Verzeichnis fehlt, wird jeder andere Abschnitt auf einen Geltungsbereich angewendet, den Sie nicht beschreiben können. Und ein unbestimmter Geltungsbereich ist die eine Feststellung, die ein Zertifizierungsaudit beendet, bevor es begonnen hat.

Dieser Beitrag ist allgemeine Orientierung und ersetzt die Norm selbst nicht. ISO/IEC 42001:2023 ist urheberrechtlich geschützt und über die ISO oder Ihr nationales Normungsinstitut erhältlich. ZULTIV ist ein Anbieter von Schulungen und Prüfungsleistungen; wir sind keine akkreditierte Zertifizierungsstelle und stellen keine ISO-Zertifikate aus.