ISO/IEC 42001 : ce qu'exige réellement un système de management de l'IA

ISO/IEC 42001 a été publiée en décembre 2023 comme la première norme de système de management certifiable pour l'intelligence artificielle. En moins d'un an, des conseils d'administration qui n'avaient jamais posé la moindre question sur une norme de système de management se sont mis à s'interroger sur celle-ci. Voici ce qu'elle exige réellement, lue comme un auditeur la lira.

C'est une norme de système de management, pas une norme technique

L'erreur de lecture la plus fréquente consiste à attendre une liste de mesures applicables aux modèles : seuils d'équité, planchers d'exactitude, architectures homologuées. ISO/IEC 42001 ne contient rien de tout cela, et cela n'a jamais été son objet. Elle suit la même structure harmonisée qu'ISO/IEC 27001 et ISO 9001 : contexte, leadership, planification, support, réalisation des activités opérationnelles, évaluation des performances, amélioration, car son sujet est la façon dont votre organisation gouverne l'IA, et non la fonction de perte que vous avez retenue.

Si vous exploitez déjà un SMSI certifié, la forme vous sera immédiatement familière, et une bonne partie de la mécanique des articles 4 à 10 peut être mutualisée : maîtrise documentaire, audit interne, revue de direction, actions correctives. Le travail propre à l'IA se situe dans les articles de planification et dans l'Annexe A.

L'ensemble de mesures de l'Annexe A

L'Annexe A comporte 38 mesures organisées sous neuf rubriques. En résumé, elles exigent de vous les éléments suivants :

• Des politiques relatives à l'IA approuvées, publiées et réellement revues, et non une page rédigée pour l'audit
• Une organisation interne : des rôles nommés, une responsabilité définie et une voie de remontée pour les préoccupations liées à l'IA
• Des ressources documentées : les données, les outils, la puissance de calcul et l'expertise humaine dont dépend chaque système d'IA
• Une évaluation d'impact des systèmes d'IA sur les personnes, les groupes et la société, et pas seulement sur l'organisation
• Une gestion du cycle de vie : exigences, conception, vérification, déploiement, exploitation, surveillance et retrait
• Une gouvernance des données : provenance, qualité, préparation et base d'acquisition des données d'entraînement
• Une information des parties intéressées : ce que vous dites du système à vos utilisateurs, à vos clients et aux régulateurs
• Un usage responsable : les règles encadrant la façon dont vos propres équipes utilisent les systèmes d'IA, y compris ceux que vous n'avez pas construits
• Des relations avec les tiers : la répartition des responsabilités entre fournisseurs, partenaires et clients

Comme pour ISO/IEC 27001, les mesures sont sélectionnées et justifiées plutôt qu'adoptées en bloc. Attendez-vous à ce qu'un auditeur demande pourquoi une mesure exclue n'est pas applicable, et à ce qu'il ne se satisfasse pas d'un « nous ne sommes qu'un déployeur ».

L'article qui piège tout le monde : l'évaluation d'impact d'un système d'IA

L'article 6.1.4 exige un processus d'appréciation des conséquences potentielles d'un système d'IA pour les personnes et les groupes de personnes, ainsi que pour la société. Il exige aussi que cette appréciation soit menée à des moments définis du cycle de vie, documentée, et réinjectée dans le traitement du risque.

C'est l'exigence que la plupart des organisations sous-estiment. Une analyse d'impact relative à la protection des données n'y suffit pas : les AIPD sont cadrées autour des données à caractère personnel, alors qu'une évaluation d'impact d'un système d'IA doit prendre en compte des effets sans rapport avec la protection des données : un modèle de scoring qui désavantage systématiquement un groupe, une décision automatisée sans voie de recours praticable, une sortie affirmée avec assurance mais erronée dans un contexte touchant à la sécurité des personnes.

En audit, le constat est rarement « vous n'avez pas d'évaluation d'impact ». C'est que l'évaluation d'impact existe, qu'elle a été faite une fois au lancement, qu'elle ne renvoie à aucun déclencheur défini pour la refaire, et qu'elle n'a aucun lien visible avec le registre des risques.

Ce qu'un auditeur demandera réellement

Cinq demandes reviennent presque à chaque fois. Si vous pouvez y répondre avec des documents plutôt qu'avec des explications, vous êtes en bonne position :

• Un inventaire des systèmes d'IA dans le domaine d'application, y compris ceux achetés sous forme de fonctionnalités intégrées à d'autres logiciels, car c'est toujours là que se cache l'inventaire fantôme
• Votre rôle pour chaque système : développeur, fournisseur, déployeur, car les obligations diffèrent et les organisations cumulent couramment plusieurs rôles à la fois
• Des preuves d'une supervision humaine réelle : qui peut passer outre le système, si cela s'est déjà produit, et si cette personne a l'autorité pour le faire
• La provenance des données d'entraînement et d'affinage, et la base sur laquelle ces données ont été acquises
• Les enregistrements de surveillance après déploiement : dérive, incidents, réclamations, et les suites qui leur ont été données

Comment elle s'articule avec ISO/IEC 27001 et 27701

Les trois sont conçues pour s'emboîter. ISO/IEC 27001 gouverne la sécurité de l'information ; ISO/IEC 27701 l'étend à la protection de la vie privée ; ISO/IEC 42001 gouverne les systèmes d'IA qui viennent de plus en plus se poser au-dessus des deux. Lorsqu'un SMSI est déjà certifié, un système de management intégré est en général la voie raisonnable : un seul programme d'audit interne, une seule revue de direction, une seule mécanique d'actions correctives, trois domaines d'application.

Ce qui ne se transfère pas, c'est le jugement sur les préjudices propres à l'IA. Un auditeur qui a passé dix ans sur le contrôle d'accès ne sera pas, sans formation complémentaire, en mesure de challenger une évaluation d'impact d'un système d'IA. C'est cet écart qui explique que la formation d'auditeur principal 42001 existe comme programme distinct et non comme module ajouté.

Par où commencer si vous démarrez maintenant

Construisez d'abord l'inventaire. Presque toutes les organisations qui lancent un programme 42001 découvrent qu'elles exploitent plus de systèmes d'IA qu'elles ne le croyaient, la plupart achetés plutôt que construits, et plusieurs d'entre eux prenant des décisions que personne n'a classifiées. Tant que cet inventaire n'existe pas, tous les autres articles s'appliquent à un domaine d'application que vous ne savez pas décrire, et un domaine d'application indéfini est le seul constat capable d'arrêter un audit de certification avant même qu'il ne commence.

Cet article constitue une orientation générale et ne remplace pas la norme elle-même. ISO/IEC 42001:2023 est protégée par le droit d'auteur et disponible auprès de l'ISO ou de votre organisme national de normalisation. ZULTIV est un organisme de formation et d'audit ; nous ne sommes pas un organisme de certification accrédité et nous ne délivrons pas de certificats ISO.