Ler uma declaração de aplicabilidade do jeito que um auditor lê
Em preparação
A ISO/IEC 42001 foi publicada em dezembro de 2023 como a primeira norma certificável de sistema de gestão para inteligência artificial. Em menos de um ano, conselhos que nunca haviam perguntado sobre uma norma de sistema de gestão na vida estavam perguntando sobre esta. Aqui está o que ela realmente exige, lida do jeito que um auditor vai ler.
É uma norma de sistema de gestão, não uma norma técnica
O erro de leitura mais comum é esperar uma lista de controles para modelos: limiares de equidade, patamares mínimos de acurácia, arquiteturas homologadas. A ISO/IEC 42001 não contém nada disso, e nunca conteria. Ela segue a mesma estrutura harmonizada da ISO/IEC 27001 e da ISO 9001: contexto, liderança, planejamento, apoio, operação, avaliação de desempenho, melhoria, porque o assunto dela é como a sua organização governa a IA, e não qual função de perda você escolheu.
Se você já opera um SGSI certificado, o formato será imediatamente familiar, e boa parte da mecânica das seções 4 a 10 pode ser compartilhada: controle de documentos, auditoria interna, análise crítica pela direção, ação corretiva. O trabalho específico de IA está nas seções de planejamento e no Anexo A.
O conjunto de controles do Anexo A
O Anexo A traz 38 controles organizados em nove títulos. Em resumo, eles exigem que você tenha:
- Políticas para IA aprovadas, publicadas e efetivamente analisadas criticamente, não uma página escrita para a auditoria
- Organização interna: papéis nomeados, responsabilidade definida e um caminho de reporte para preocupações relacionadas à IA
- Recursos documentados: os dados, as ferramentas, a capacidade computacional e a expertise humana de que cada sistema de IA depende
- Avaliação de impacto dos sistemas de IA sobre indivíduos, grupos e a sociedade, e não apenas sobre a organização
- Gestão do ciclo de vida: requisitos, projeto, verificação, implantação, operação, monitoramento e descontinuação
- Governança de dados: proveniência, qualidade, preparação e a base de aquisição dos dados de treinamento
- Informação às partes interessadas: o que você conta a usuários, clientes e reguladores sobre o sistema
- Uso responsável: as regras que governam como a sua própria equipe usa sistemas de IA, inclusive os que você não construiu
- Relações com terceiros: a alocação de responsabilidades entre fornecedores, parceiros e clientes
Assim como na ISO/IEC 27001, os controles são selecionados e justificados, não adotados em bloco. Espere que um auditor pergunte por que um controle excluído não é aplicável, e que não se impressione com um “nós somos apenas implantadores”.
A seção que pega as pessoas: a avaliação de impacto do sistema de IA
A seção 6.1.4 exige um processo para avaliar as consequências potenciais de um sistema de IA para indivíduos e grupos de indivíduos, e para a sociedade, e exige que ele seja executado em pontos definidos do ciclo de vida, documentado, e realimentado no tratamento de riscos.
Este é o requisito que a maioria das organizações subestima. Um relatório de impacto à proteção de dados pessoais não o satisfaz: os RIPD são delimitados em torno de dados pessoais, ao passo que uma avaliação de impacto de IA precisa considerar efeitos que nada têm a ver com proteção de dados: um modelo de pontuação que prejudica sistematicamente um grupo, uma decisão automatizada sem caminho prático para ser contestada, uma saída confiantemente errada em um contexto relevante para segurança.
Na auditoria, a constatação raramente é “vocês não têm avaliação de impacto”. É que a avaliação de impacto existe, foi feita uma vez no lançamento, não indica nenhum gatilho definido para repeti-la, e não tem ligação visível com o registro de riscos.
O que um auditor realmente vai pedir
Cinco pedidos aparecem quase sempre. Se você consegue respondê-los com documentos em vez de explicações, está em uma posição razoável:
- Um inventário dos sistemas de IA dentro do escopo, incluindo os adquiridos como funcionalidades dentro de outros softwares, que é onde o inventário sombra sempre se esconde
- O seu papel em cada sistema: desenvolvedor, fornecedor, implantador, porque as obrigações diferem e as organizações rotineiramente acumulam vários papéis ao mesmo tempo
- Evidência de supervisão humana real: quem pode sobrepor-se ao sistema, se alguma vez já o fez, e se tem a autoridade para isso
- Proveniência dos dados de treinamento e de ajuste fino, e a base sobre a qual esses dados foram adquiridos
- Registros de monitoramento pós-implantação: desvio, incidentes, reclamações, e o que foi feito a respeito
Como ela se encaixa ao lado da ISO/IEC 27001 e da 27701
As três foram projetadas para se encaixar. A ISO/IEC 27001 governa a segurança da informação; a ISO/IEC 27701 a estende para a privacidade; a ISO/IEC 42001 governa os sistemas de IA que cada vez mais se apoiam sobre as duas. Onde um SGSI já é certificado, um sistema de gestão integrado costuma ser o caminho sensato: um programa de auditoria interna, uma análise crítica pela direção, um único conjunto de mecanismos de ação corretiva, três escopos.
O que não se transfere é o discernimento sobre danos específicos de IA. Um auditor que passou uma década em controle de acesso não estará, sem treinamento adicional, preparado para questionar uma avaliação de impacto de IA. Essa lacuna é a razão pela qual o curso de auditor líder da 42001 existe como um programa separado, e não como um módulo acoplado.
Por onde começar se você está começando agora
Monte primeiro o inventário. Quase toda organização que inicia um programa 42001 descobre que opera mais sistemas de IA do que acreditava, a maioria adquirida em vez de construída, e vários deles tomando decisões que ninguém classificou. Enquanto esse inventário não existir, todas as demais seções estarão sendo aplicadas a um escopo que você não consegue descrever, e um escopo indefinido é a única constatação capaz de parar uma auditoria de certificação antes que ela comece.
Este artigo é orientação geral, não um substituto da norma em si. A ISO/IEC 42001:2023 é protegida por direitos autorais e está disponível na ISO ou no seu organismo nacional de normalização. A ZULTIV é um provedor de treinamento e asseguração; não somos um organismo de certificação acreditado e não emitimos certificados ISO.