ISO/IEC 42001: qué exige realmente un sistema de gestión de IA

ISO/IEC 42001 se publicó en diciembre de 2023 como la primera norma de sistemas de gestión certificable para la inteligencia artificial. En menos de un año, consejos de administración que jamás habían preguntado por una norma de sistemas de gestión empezaron a preguntar por esta. Esto es lo que exige realmente, leída como la leerá un auditor.

Es una norma de sistemas de gestión, no una norma técnica

El error de lectura más común es esperar una lista de controles para los modelos: umbrales de equidad, mínimos de exactitud, arquitecturas homologadas. ISO/IEC 42001 no contiene nada de eso, ni iba a contenerlo nunca. Sigue la misma estructura armonizada que ISO/IEC 27001 e ISO 9001: contexto, liderazgo, planificación, apoyo, operación, evaluación del desempeño, mejora, porque su objeto es cómo gobierna la IA su organización, no qué función de pérdida eligió usted.

Si ya opera un SGSI certificado, la forma le resultará familiar de inmediato, y buena parte de la maquinaria de los capítulos 4 a 10 puede compartirse: control documental, auditoría interna, revisión por la dirección, acción correctiva. El trabajo específico de IA está en los capítulos de planificación y en el Anexo A.

El conjunto de controles del Anexo A

El Anexo A recoge 38 controles organizados bajo nueve encabezados. En resumen, le exigen tener lo siguiente:

• Políticas de IA aprobadas, publicadas y realmente revisadas, no una página escrita para la auditoría
• Organización interna: roles con nombre y apellidos, responsabilidad definida y una vía de escalado para las inquietudes sobre IA
• Recursos documentados: los datos, las herramientas, la capacidad de cómputo y la experiencia humana de los que depende cada sistema de IA
• Evaluación de impacto de los sistemas de IA sobre las personas, los grupos y la sociedad, no solo sobre la organización
• Gestión del ciclo de vida: requisitos, diseño, verificación, despliegue, operación, seguimiento y retirada
• Gobernanza de datos: procedencia, calidad, preparación y la base de adquisición de los datos de entrenamiento
• Información para las partes interesadas: qué les cuenta a usuarios, clientes y reguladores sobre el sistema
• Uso responsable: las reglas que rigen cómo usa su propia gente los sistemas de IA, incluidos los que usted no construyó
• Relaciones con terceros: el reparto de responsabilidades entre proveedores, socios y clientes

Igual que en ISO/IEC 27001, los controles se seleccionan y se justifican, no se adoptan en bloque. Espere que un auditor pregunte por qué un control excluido no es aplicable, y que no le impresione un «solo somos responsables del despliegue».

El capítulo que pilla a mucha gente: la evaluación de impacto del sistema de IA

El capítulo 6.1.4 exige un proceso para evaluar las consecuencias potenciales de un sistema de IA para las personas y los grupos de personas, y para la sociedad, y exige que se realice en momentos definidos del ciclo de vida, que se documente y que se realimente en el tratamiento del riesgo.

Este es el requisito que la mayoría de las organizaciones subestima. Una evaluación de impacto en la protección de datos no lo satisface: las EIPD se acotan en torno a los datos personales, mientras que una evaluación de impacto de IA tiene que considerar efectos que nada tienen que ver con la protección de datos: un modelo de puntuación que perjudica sistemáticamente a un grupo, una decisión automatizada sin una vía práctica para impugnarla, una salida rotundamente equivocada en un contexto relevante para la seguridad.

En auditoría, el hallazgo rara vez es «no tienen evaluación de impacto». Es que la evaluación de impacto existe, se hizo una vez en el lanzamiento, no señala ningún disparador definido para repetirla y no tiene conexión visible con el registro de riesgos.

Qué pedirá realmente un auditor

Cinco peticiones aparecen casi siempre. Si puede responderlas con documentos en lugar de con explicaciones, está en una posición razonable:

• Un inventario de los sistemas de IA dentro del alcance, incluidos los adquiridos como funcionalidades dentro de otro software, que es donde siempre se esconde el inventario en la sombra
• Su rol para cada sistema: desarrollador, proveedor, responsable del despliegue, porque las obligaciones difieren y las organizaciones acumulan varios roles a la vez de forma habitual
• Evidencia de una supervisión humana real: quién puede anular el sistema, si alguna vez lo ha hecho y si tiene la autoridad para hacerlo
• Procedencia de los datos de entrenamiento y de ajuste fino, y la base sobre la que se adquirieron esos datos
• Registros de seguimiento posteriores al despliegue: deriva, incidentes, reclamaciones y qué se hizo al respecto

Cómo encaja junto a ISO/IEC 27001 y 27701

Las tres están diseñadas para engranar. ISO/IEC 27001 gobierna la seguridad de la información; ISO/IEC 27701 la extiende a la privacidad; ISO/IEC 42001 gobierna los sistemas de IA que cada vez más se apoyan sobre ambas. Cuando ya hay un SGSI certificado, un sistema de gestión integrado suele ser el camino sensato: un programa de auditoría interna, una revisión por la dirección, una sola maquinaria de acción correctiva, tres alcances.

Lo que no se transfiere es el criterio sobre el daño específico de la IA. Un auditor que ha pasado una década en control de accesos no estará, sin formación adicional, en condiciones de cuestionar una evaluación de impacto de IA. Esa brecha es la razón de que el curso de auditor líder de 42001 exista como programa aparte y no como un módulo añadido.

Por dónde empezar si empieza ahora

Construya primero el inventario. Casi toda organización que arranca un programa 42001 descubre que opera más sistemas de IA de los que creía, la mayoría adquiridos en lugar de construidos, y varios de ellos tomando decisiones que nadie ha clasificado. Hasta que ese inventario exista, todos los demás capítulos se están aplicando a un alcance que usted no sabe describir, y un alcance indefinido es el único hallazgo capaz de detener una auditoría de certificación antes de que empiece.

Este artículo es orientación general, no un sustituto de la norma. ISO/IEC 42001:2023 está protegida por derechos de autor y se adquiere en ISO o en su organismo nacional de normalización. ZULTIV es un proveedor de formación y aseguramiento; no somos un organismo de certificación acreditado y no emitimos certificados ISO.