ISO 42001 es el sistema de gestión en el que se apoyará tu expediente del Reglamento de IA

La pregunta llega de un comprador, y cada vez es más frecuente: "¿cuál es vuestro marco de gobernanza de IA?". Las respuestas que dan los equipos son un documento de política escrito el trimestre pasado, un enlace a la página de seguridad del proveedor del modelo, o silencio.

ISO/IEC 42001 es la norma que te da una respuesta de verdad. Especifica un sistema de gestión de la inteligencia artificial, de la misma familia y con la misma forma que el sistema de gestión de la seguridad de la información de ISO 27001. Ese encuadre importa más que cualquier cláusula concreta, porque te dice qué es la norma y qué no.

No es una evaluación de si tu modelo es preciso, justo o seguro. Es una evaluación de si tienes un sistema repetible para decidir esas cosas, evidenciar las decisiones y mejorar cuando te equivocas. Los auditores comprueban el sistema, no el modelo.

Lo que ya tienes, si tienes ISO 27001

Si operas un sistema de gestión de seguridad de la información certificado, la parte reutilizable es grande y es la razón de que el coste incremental sea manejable.

La estructura de alto nivel es común a las normas de sistemas de gestión de ISO: contexto de la organización, liderazgo, planificación, apoyo, operación, evaluación del desempeño y mejora. Así que tu definición de alcance, el compromiso de la dirección, el proceso de competencia y concienciación, el control de la información documentada, el programa de auditoría interna, la revisión por la dirección y el proceso de acciones correctivas se trasladan con ediciones y no con reescrituras.

Lo nuevo es el contenido: los controles específicos de IA, la evaluación de impacto, y el hecho de que tu registro de riesgos tiene ahora que considerar daños a las personas y a la sociedad y no solo daños a la organización. Ese último giro es el que más tardan en asimilar los equipos. Una evaluación de riesgos de seguridad de la información pregunta qué nos podría pasar a nosotros. Una evaluación de impacto de IA pregunta qué le podría hacer nuestro sistema a alguien.

La costumbre de la declaración de aplicabilidad se traslada directamente, y es el artefacto que hace auditable todo el conjunto, exactamente como se describe en la declaración de aplicabilidad. Una fila por control, aplicable o no, con la justificación por escrito.

Las partes que sí son nuevas

El inventario de sistemas de IA. No puedes gobernar lo que no has listado. Una fila por sistema de IA, incluidos los comprados y no construidos, con su finalidad, los datos que usa, quién es su dueño y su clasificación de riesgo. Casi todas las organizaciones descubren sistemas que habían olvidado, normalmente en herramientas de recursos humanos, automatización de soporte y algún script que escribió alguien.

Evaluación de impacto. Una evaluación documentada de las consecuencias para personas y grupos, que cubra el mal uso previsible además del uso previsto. Es el artefacto que más directamente hace doble servicio de cara a la regulación.

Gobernanza de datos para IA. Procedencia de los datos de entrenamiento y evaluación, limitaciones y lagunas conocidas, examen de sesgos, y la trazabilidad que te permite responder de dónde salió el comportamiento de un modelo. Si entrenas o ajustas, esto es sustancial. Si solo llamas al modelo de un proveedor, es menor pero no es cero, porque tu corpus de recuperación y tu conjunto de evaluación son datos con las mismas preguntas asociadas.

Controles de ciclo de vida. Objetivos fijados antes del desarrollo, verificación y validación antes de publicar, decisiones de despliegue documentadas, y monitorización en producción con disparadores definidos para reentrenar o retirar. La última parte es donde los equipos están más flojos: que un modelo se degrade en silencio es algo normal y la mayoría de las organizaciones no tienen respuesta definida.

Gestión de proveedores de modelos. Tu proveedor de modelo es un proveedor con preguntas concretas asociadas: qué hace con tus entradas, si entrena con ellas, qué dice su propia documentación y qué pasa cuando retira una versión.

Supervisión humana y transparencia. Quién revisa qué, con qué autoridad para anular, y qué se le cuenta al usuario sobre el papel del sistema y sus límites.

Dónde se encuentra con el Reglamento de IA, y dónde no

La relación es genuinamente útil y se exagera con frecuencia, así que hay que ser preciso.

ISO 42001 te da el sistema de gestión, la disciplina de documentación y buena parte de la evidencia que exigen las obligaciones de proveedor del Reglamento de IA: gestión de riesgos a lo largo del ciclo de vida, gobernanza de datos, documentación técnica, diseño de la supervisión humana y seguimiento posterior a la comercialización tienen todos su sitio ahí.

Lo que no te da es presunción de conformidad. En el derecho europeo de productos, eso viene de normas armonizadas publicadas en el diario oficial, y el trabajo de normalización del Reglamento de IA lo están haciendo los organismos europeos. ISO 42001 es una norma internacional, no una armonizada europea, así que la certificación es evidencia de un sistema maduro y no un atajo jurídico. Quien te diga que certificarse en ISO 42001 te hace cumplir el Reglamento de IA te está vendiendo algo.

El encuadre honesto para un comprador o un consejo: la certificación demuestra que tienes un proceso gobernado, y reduce sustancialmente el trabajo de montar el expediente regulatorio. Las obligaciones están en el reglamento, y cómo se traducen en trabajo de ingeniería está en el Reglamento de IA europeo, traducido a trabajo de ingeniería.

Aplica aquí la misma lógica de mapeo que en todo lo demás. Un conjunto de controles, varios marcos, como se argumenta en un conjunto de controles para cuatro marcos. Tu evidencia de control de accesos sirve a la vez para ISO 27001, SOC 2 y 42001, y mantener tres programas paralelos es la forma de conseguir que se odie el cumplimiento.

¿Merece la pena certificarse?

Certifícate si vendes productos con IA a compradores corporativos o del sector público en Europa, si los cuestionarios de compras ya lo preguntan y te están costando tiempo de venta, o si eres proveedor de un sistema de alto riesgo bajo el Reglamento de IA y quieres una estructura defendible para el expediente que vas a tener que producir igualmente.

No te certifiques si la IA es una herramienta interna pequeña de eficiencia, si nadie lo pregunta, o si todavía no tienes un sistema de gestión de seguridad de la información. En ese último caso, haz ISO 27001 primero. Construir 42001 sobre nada significa montar toda la maquinaria del sistema de gestión solo para el caso de uso de IA, que es el orden caro.

El camino intermedio es real y está poco usado: implementa contra la norma, produce el inventario, las evaluaciones de impacto y la declaración de aplicabilidad, y no pagues la certificación hasta que un comprador exija el certificado. Obtienes el beneficio de gobernanza y la evidencia, y difieres la tarifa de auditoría.

Lo que se hace mal

• Tratarlo como una evaluación del modelo. El auditor va a pedir tu proceso y tus registros, no tus puntuaciones de banco de pruebas.
• Darle alcance de empresa entera. Acótalo a los sistemas de IA, exactamente igual que acotas un sistema de gestión de seguridad a una frontera definida.
• Olvidar la IA comprada. La función de ordenación de tu plataforma de selección está en tu inventario aunque no la hayas construido.
• Escribir la evaluación de impacto una vez. Hay que revisitarla cuando cambian la finalidad, los datos o el modelo, y que el proveedor suba de versión es un cambio.
• Sin dueño. Un sistema de gestión de IA sin una persona responsable con nombre es una carpeta de documentos que envejece.

Qué hacer esta semana

Monta el inventario: una hoja, una fila por funcionalidad que toque IA incluidas las herramientas compradas y los scripts internos, con su finalidad, sus datos, su dueño y si hay una persona afectada por su resultado. Esa única hoja es el primer artefacto del sistema de gestión, la entrada de toda evaluación de impacto y lo que vas a necesitar para el Reglamento de IA te certifiques o no. Una hora con los responsables de ingeniería te da casi todo. Lo construimos en la primera semana de un proyecto de gobernanza de IA.