El Reglamento de IA europeo, traducido a trabajo de ingeniería

La versión cara de este error se despliega en un sprint. Un equipo añade un modelo que ordena candidaturas de empleo y lo llama "una capa fina sobre una API". Nueve meses después, un comprador corporativo alemán pide la documentación técnica, el expediente de gestión de riesgos y el diseño de registro de un sistema de IA de alto riesgo, y no existe nada de eso.

La imagen especular es igual de frecuente: una empresa congela una herramienta interna que resume reuniones porque alguien leyó un titular sobre prohibiciones. Esa herramienta está en el nivel más bajo y no necesita casi nada más que avisar al usuario de que hay IA detrás.

La distancia entre ambas son dos preguntas que se responden en una tarde.

Proveedor o responsable del despliegue decide casi todo

Un proveedor desarrolla un sistema de IA, o encarga su desarrollo, y lo introduce en el mercado con su propio nombre. Si construyes un producto con IA dentro y lo vendes, eres el proveedor, incluso cuando el modelo de debajo es de otro. Llamar a OpenAI, Anthropic o Vertex AI no los convierte en proveedores de tu sistema. Ellos proveen el modelo; tú provees el sistema.

Un responsable del despliegue utiliza un sistema de IA bajo su propia autoridad en un contexto profesional. Un banco que ejecuta un producto comprado de puntuación de fraude es responsable del despliegue, y sus deberes son mucho más ligeros: usar el sistema conforme a las instrucciones, asignar supervisión humana competente, conservar los registros que estén bajo su control e informar a las personas afectadas en ciertos contextos.

Dos trampas. Un responsable del despliegue se convierte en proveedor si pone su propio nombre al sistema, lo modifica sustancialmente o cambia su finalidad prevista: reutiliza una herramienta general para cribar currículos y heredas el paquete completo del proveedor. Y el reglamento alcanza fuera de la Unión, así que una empresa estadounidense sin entidad europea está en ámbito si el sistema se introduce en el mercado de la Unión o su resultado se usa allí.

Los niveles, y dónde caen los productos reales

Las prácticas prohibidas incluyen la puntuación social por autoridades públicas, las técnicas manipuladoras que causan un perjuicio significativo, el rastreo indiscriminado de imágenes faciales, la inferencia de emociones en el trabajo y la educación, y la mayor parte de la identificación biométrica remota en tiempo real en espacios públicos. Léete la lista una vez, entera. Es corta y es absoluta.

El alto riesgo tiene dos vías de entrada. O el sistema es un componente de seguridad de un producto ya cubierto por la legislación europea de productos, o cae en los casos de uso enumerados: biometría, infraestructuras críticas, educación, empleo, acceso a servicios esenciales incluidas la solvencia crediticia y la fijación de precios de seguros, aplicación de la ley, migración y justicia.

El empleo es lo que pilla a las empresas de software normales. Reclutamiento, filtrado de currículos, asignación de tareas, decisiones de promoción y despido, y monitorización del rendimiento del trabajador están todos ahí. La solvencia crediticia arrastra a las fintech.

Existe un filtro para sistemas que, estando en un área enumerada, solo realizan una tarea procedimental estrecha o preparan trabajo para una persona, pero acogerse a él obliga a documentar la evaluación y a registrarse igualmente, y la elaboración de perfiles te mantiene dentro siempre.

El riesgo limitado trae deberes de transparencia: avisar de que se está interactuando con un sistema de IA, marcar el contenido sintético de forma legible por máquina, revelar las ultrafalsificaciones. El riesgo mínimo es todo lo demás, sin obligaciones exigibles.

Qué le pide el alto riesgo a un equipo de ingeniería

Quita el lenguaje jurídico y las obligaciones del proveedor son un sistema que reconocerías. Un proceso de gestión de riesgos que corre a lo largo del ciclo de vida, no un documento escrito el día del lanzamiento. Gobernanza de datos para los conjuntos de entrenamiento, validación y prueba: procedencia, lagunas conocidas, examen de sesgos. Documentación técnica con el contenido del anexo cuarto, que cubre arquitectura, métricas de rendimiento y sus límites, mal uso previsible, diseño de la supervisión e historial de versiones.

Registro automático suficiente para reconstruir cómo se llegó a un resultado: entradas, versión del modelo y del prompt, contexto recuperado, la salida, la decisión humana posterior y una marca de tiempo. Supervisión humana diseñada desde dentro, de modo que la persona asignada pueda ver los límites del resultado, resistirse al sesgo de automatización y detener el sistema. Un revisor con cuatrocientos elementos por hora y un botón de aprobar no es supervisión.

Después, precisión, robustez y ciberseguridad proporcionadas a la finalidad, incluida la resistencia a los intentos de alterar el comportamiento a través de la entrada: la inyección de prompt y el envenenamiento de datos aparecen nombrados, no son teoría. Encima de todo eso, evaluación de la conformidad, marcado CE, registro en la base de datos europea, seguimiento posterior a la comercialización y notificación de incidentes.

Los proveedores de modelos de uso general cargan con un paquete aparte, que incluye documentación del modelo y una política de derechos de autor. El suyo es una entrada de tu expediente técnico, así que pídelo durante la contratación.

Si ya operas ISO 27001, el sistema de gestión y la maquinaria de auditoría se aprovechan, y la norma ISO/IEC 42001 de gestión de IA merece reutilizarse como andamiaje. Trata esto como un único conjunto de controles con varias correspondencias y no como un programa paralelo, igual que en un conjunto de controles para cuatro marcos. La costumbre de la declaración de aplicabilidad encaja perfectamente para dejar constancia de qué obligaciones de IA aplican y por qué.

Las fechas van por fases y las normas están sin terminar

La aplicación está escalonada tras la entrada en vigor, no se enciende de golpe: primero las prohibiciones y la alfabetización en IA, después las obligaciones de los modelos de uso general, luego el grueso de los deberes de alto riesgo, con un plazo más largo para la IA embebida en productos ya sujetos a evaluación de conformidad sectorial. Las fases se cuentan en meses, y la propia secuencia ha atraído propuestas de modificación orientadas a simplificar y retrasar. Comprueba la situación actual de la obligación que te ata, en lugar de fiarte de una fecha que recuerdas de una charla.

Sé igual de lúcido con el detalle. Buena parte de lo que permitiría a un equipo implementar con precisión debe llegar como normas armonizadas de CEN y CENELEC, más directrices de la Comisión y códigos de buenas prácticas, y parte de ese trabajo sigue en curso. La conformidad con una norma armonizada da presunción de conformidad, que es justo lo que los equipos quieren. Hasta que lleguen, implementa contra el texto y estructura la documentación para poder recortarla de otra forma después.

Lo que los equipos olvidan

• La alfabetización en IA aplica en todos los niveles. El personal que trabaja con sistemas de IA debe ser competente. Es uno de los deberes más tempranos y el más fácil de evidenciar con un registro de formación fechado.
• El inventario no existe. Casi todas las empresas encuentran entre tres y cinco funcionalidades de IA olvidadas, normalmente en herramientas de recursos humanos y de soporte.
• Los sistemas comprados también generan obligaciones. La función de ordenación de tu plataforma de recursos humanos te convierte en responsable del despliegue, y necesitas las instrucciones de uso del proveedor.
• El registro es una decisión de diseño, no un ajuste. Añadido después, los casos históricos quedan sin respuesta para siempre.
• Esto no sustituye al RGPD. Los datos personales en conjuntos de entrenamiento, prompts y registros siguen necesitando base jurídica y regla de conservación; está en el RGPD como controles de ingeniería.

Qué hacer esta semana

Monta el inventario. Una hoja, una fila por funcionalidad que toque IA incluidas las herramientas compradas y los scripts internos, con cuatro columnas: qué decide o produce, si eres proveedor o responsable del despliegue, si hay algún caso de uso de alto riesgo enumerado en juego, y quién es el dueño. Una hora con los responsables de ingeniería y con quien administra el sistema de recursos humanos convierte una preocupación sin bordes en una lista con tres filas interesantes. Si dos de ellas caen en empleo o en solvencia crediticia, ese es el momento de pedir ayuda, y es lo primero que acotamos en una revisión de cumplimiento de IA.