ISO/IEC 42001 — sistema de gestión de IA
La única certificación de tercero que tenemos, y qué implica de verdad en el día a día.
ISO/IEC 42001 — Sistema de gestión de IA (AIMS)
Estado publicado: Certificado — referencia en verificación. Ver el centro de confianza para la lectura exacta de esa etiqueta.
ISO/IEC 42001:2023, Information technology — Artificial intelligence — Management system, es la primera norma internacional de sistema de gestión para inteligencia artificial. No certifica un modelo ni un algoritmo: certifica que la organización gobierna su IA con un ciclo Planificar-Hacer-Verificar-Actuar, igual que ISO 9001 hace con la calidad o ISO/IEC 27001 con la seguridad de la información.
Esa distinción importa. Nadie está «certificado en IA». Lo que se audita es si existen políticas, roles, evaluación de impacto, control del ciclo de vida, gobierno de datos, transparencia hacia terceros y mejora continua — y si eso opera de verdad.
1. Alcance del AIMS
El sistema de gestión de IA de Veritas Digital cubre:
| Elemento | Contenido |
|---|---|
| Sistemas en alcance | Los 11 agentes de automatización en producción de Veritas UGC y el conector de agentes de IA que permite a sistemas externos interactuar con la plataforma. |
| Rol de la organización | Veritas Digital actúa como desarrollador y proveedor de los sistemas de IA en alcance, y como usuario de modelos de terceros integrados en ellos. |
| Fuera de alcance | Modelos fundacionales de terceros en su desarrollo (no los entrenamos). Sí está en alcance nuestro uso de ellos, su selección, su configuración y sus límites. |
| Función de los agentes | Automatización operativa y preparación de contenido. Ningún agente emite un certificado probatorio. |
El límite del alcance está definido por una frase que es al mismo tiempo control técnico y decisión de gobierno: un agente solo crea borradores; nada se sella sin aprobación humana.
2. La evidencia real, antes del mapeo
Un AIMS que solo existe en documentos no sobrevive a una auditoría. Estos son los mecanismos implantados sobre los que se apoya todo lo que sigue.
Humano en el bucle, impuesto por arquitectura. El conector de agentes no expone la operación de sellado. Un agente puede preparar el material, describirlo y dejarlo en estado de borrador; el paso irreversible —el que genera huella SHA-256, el anclaje temporal y el certificado firmado— requiere una acción humana identificada. No es una política que alguien pueda saltarse por prisa: es que la ruta no existe.
Auditoría inmutable de cada acción. Toda acción sobre un objeto en la plataforma queda registrada de forma inmutable, incluida la autoría —humana o agente— y el instante. Esto convierte «el agente hizo X» en un hecho reconstruible, no en una suposición. Es la materia prima de cualquier investigación posterior y de la evaluación de impacto.
RBAC de tres roles. El acceso está segmentado en tres roles diferenciados con permisos distintos. Un agente opera siempre con el rol de menor privilegio compatible con su tarea; la capacidad de aprobar y sellar no es un permiso que un agente pueda tener.
Determinismo verificable en la salida. Lo que el sistema produce no depende de la confianza en el sistema: SHA-256 del original, anclaje en Bitcoin mediante OpenTimestamps con altura de bloque real, certificado PDF firmado RSA-SHA256 y verificación pública sin cuenta. Con el fichero .ots y una copia del original, un tercero prueba la fecha con software libre aunque Veritas desaparezca. Un AIMS cuyo resultado es auditable sin el proveedor es una posición defendible; uno que exige creer en el proveedor, no.
Fail-closed en el tratamiento de entradas. El análisis antivirus se ejecuta en cuarentena; si no se completa, el archivo se rechaza. Y el tipo de fichero se determina por magic bytes, no por la extensión declarada. Ante la duda, el sistema no procesa.
3. Mapeo a las cláusulas 4–10 de ISO/IEC 42001
Las cláusulas 4 a 10 son los requisitos auditables del sistema de gestión. Son de obligado cumplimiento; el Anexo A es un catálogo de referencia del que se seleccionan controles.
Cláusula 4 — Contexto de la organización
Determinamos las cuestiones internas y externas relevantes, las partes interesadas y sus requisitos, y fijamos el alcance del AIMS.
- Partes interesadas identificadas: clientes que usan certificación probatoria, terceros que verifican un certificado sin ser clientes, autoridades ante las que un certificado puede presentarse, proveedores de modelos y de infraestructura.
- Cuestión externa determinante: el resultado del sistema puede acabar en un procedimiento. Eso eleva el listón de trazabilidad muy por encima de una automatización de marketing.
- El alcance está documentado en la sección 1 de este documento.
Cláusula 5 — Liderazgo
La dirección asume la responsabilidad del AIMS, aprueba la política de IA y asigna roles.
- Política de IA aprobada por la dirección, coherente con la política de seguridad de la información.
- Responsabilidad final del AIMS: dirección de Veritas Digital LLC. Responsabilidad operativa: Responsable de Cumplimiento.
- Principio rector aprobado: ninguna decisión con efecto jurídico o probatorio se automatiza sin intervención humana.
Cláusula 6 — Planificación
Riesgos y oportunidades, objetivos de IA y planificación de cambios.
Riesgos de IA identificados y tratados en el diseño:
| Riesgo | Tratamiento implantado |
|---|---|
| Un agente sella contenido que un humano no ha revisado | Imposibilidad arquitectónica: el agente no dispone de la operación de sellado |
| Atribución errónea de una acción entre humano y agente | Registro de auditoría inmutable con autoría e instante por acción |
| Escalada de privilegios de un agente | RBAC de tres roles; principio de mínimo privilegio; aprobación fuera del alcance de cualquier rol de agente |
| Entrada maliciosa procesada por el sistema | Cuarentena y análisis fail-closed; detección de tipo por magic bytes |
| Dependencia del proveedor para probar un hecho | Anclaje OpenTimestamps verificable con software libre e independiente de Veritas |
| Deriva o cambio silencioso del modelo de un tercero | Registro de versión de modelo por acción; revisión de cambios de proveedor |
Cláusula 7 — Soporte
Recursos, competencia, concienciación, comunicación e información documentada.
- Recursos de cómputo, datos y herramientas inventariados (ver A.4).
- Competencia: quien aprueba un sellado debe conocer qué afirma y qué no afirma un certificado. La distinción entre «probar existencia e integridad» y «registrar propiedad intelectual» es materia de formación obligatoria, no un matiz de marketing.
- Información documentada: este documento, la política de IA, los registros de auditoría y las evaluaciones de impacto.
Cláusula 8 — Operación
Planificación y control operacional, evaluación de impacto de los sistemas de IA y gestión de cambios.
- Ningún agente entra en producción sin definición escrita de tarea, rol RBAC asignado y punto de aprobación humana identificado.
- Cambios en el comportamiento de un agente: gestionados como cambio con revisión previa.
- Incidentes que involucren a un agente: tratados por el procedimiento de respuesta a incidentes, con el registro inmutable como fuente de reconstrucción.
Cláusula 9 — Evaluación del desempeño
Seguimiento, medición, auditoría interna y revisión por la dirección.
- Indicadores operativos: proporción de borradores generados por agente que son rechazados en la revisión humana, y tiempo entre borrador y decisión humana. Un índice de rechazo que cae a cero es señal de alarma, no de éxito: sugiere aprobación automática de hecho.
- Auditoría interna del AIMS con periodicidad definida y revisión por la dirección.
Cláusula 10 — Mejora
No conformidades, acción correctiva y mejora continua.
- Toda no conformidad se registra con causa raíz y acción correctiva verificada.
- Los hallazgos externos recibidos por el canal de divulgación responsable entran en el mismo circuito cuando afectan a un sistema en alcance.
4. Mapeo al Anexo A de ISO/IEC 42001
El Anexo A agrupa los controles de referencia en objetivos A.2 a A.10. Se seleccionan mediante Declaración de Aplicabilidad, proporcionalmente al riesgo identificado.
| Objetivo | Control | Aplicación en Veritas Digital | Estado |
|---|---|---|---|
| A.2 Políticas relativas a la IA | A.2.2 Política de IA | Política de IA aprobada por la dirección | Implementado |
| A.2.3 Alineación con otras políticas | Alineada con la política de seguridad y con el marco de privacidad | Implementado | |
| A.2.4 Revisión de la política de IA | Revisión anual y ante cambio material de alcance | Implementado | |
| A.3 Organización interna | A.3.2 Roles y responsabilidades de IA | Dirección, Responsable de Cumplimiento, Responsable de Ingeniería; RBAC de tres roles en plataforma | Implementado |
| A.3.3 Comunicación de inquietudes | Canal interno de escalado y canal externo de divulgación responsable | Implementado | |
| A.4 Recursos para sistemas de IA | A.4.2 Documentación de recursos | Inventario de agentes, modelos, herramientas y dependencias | Implementado |
| A.4.3 Recursos de datos | Los datos de entrada son ficheros del cliente; no se usan para entrenamiento | Implementado | |
| A.4.4 Recursos de herramientas | Cadena de herramientas documentada (orquestación, modelos, análisis de ficheros) | Implementado | |
| A.4.5 Recursos de sistema y cómputo | Infraestructura propia endurecida, con capacidad y aislamiento documentados | Implementado | |
| A.4.6 Recursos humanos | Aprobadores humanos identificados y formados por rol | Implementado | |
| A.5 Evaluación de impactos | A.5.2 Proceso de evaluación de impacto | Evaluación previa obligatoria antes de poner un agente en producción | Implementado |
| A.5.3 Documentación de las evaluaciones | Evaluación archivada por agente y revisada ante cambio | Implementado | |
| A.5.4 Impacto sobre individuos o grupos | Analizado el efecto de un certificado erróneo sobre un tercero; mitigado con aprobación humana y verificación pública abierta | Implementado | |
| A.5.5 Impactos sociales | Analizado el uso indebido para dar apariencia de autoridad a contenido falso; mitigado limitando explícitamente lo que el certificado afirma | Implementado | |
| A.6 Ciclo de vida del sistema de IA | A.6.1.2 Objetivos de desarrollo responsable | Objetivo declarado: asistencia, nunca decisión autónoma con efecto probatorio | Implementado |
| A.6.1.3 Procesos de diseño y desarrollo responsable | Punto de aprobación humana como requisito de diseño, no como configuración | Implementado | |
| A.6.2.2 Requisitos y especificación | Cada agente tiene tarea, entradas, salidas y límites escritos | Implementado | |
| A.6.2.3 Documentación de diseño y desarrollo | Documentación por agente bajo control de versiones | Implementado | |
| A.6.2.4 Verificación y validación | Validación previa al despliegue y revisión humana de salidas en operación | Implementado | |
| A.6.2.5 Despliegue | Despliegue controlado con rol RBAC asignado | Implementado | |
| A.6.2.6 Operación y seguimiento | Seguimiento de rechazos en revisión humana y de errores | Implementado | |
| A.6.2.7 Documentación técnica | Mantenida para los sistemas en alcance | Implementado | |
| A.6.2.8 Registro de eventos | Auditoría inmutable de cada acción, con autoría e instante | Implementado | |
| A.7 Datos para sistemas de IA | A.7.2 Datos para desarrollo y mejora | Los datos de clientes no se emplean para entrenar ni mejorar modelos | Implementado |
| A.7.3 Adquisición de datos | Datos aportados por el cliente bajo encargo del tratamiento | Implementado | |
| A.7.4 Calidad de los datos | Tipo determinado por magic bytes; rechazo fail-closed si el análisis no concluye | Implementado | |
| A.7.5 Procedencia de los datos | Huella SHA-256 y sello temporal anclado como registro de procedencia | Implementado | |
| A.7.6 Preparación de los datos | Preparación acotada y registrada; sin transformación silenciosa del original | Implementado | |
| A.8 Información para partes interesadas | A.8.2 Documentación e información para usuarios | El certificado declara qué prueba y qué no prueba; FAQ pública extensa en 7 idiomas | Implementado |
| A.8.3 Reporte externo | Verificación pública sin cuenta ni entrega de datos | Implementado | |
| A.8.4 Comunicación de incidentes | Procedimiento de notificación a afectados y a autoridad cuando proceda | Implementado | |
| A.8.5 Información para partes interesadas | Este documento y el centro de confianza | Implementado | |
| A.9 Uso de sistemas de IA | A.9.2 Procesos para el uso responsable | Uso restringido a preparación de borradores | Implementado |
| A.9.3 Objetivos de uso responsable | Reducir trabajo manual sin trasladar la decisión a la máquina | Implementado | |
| A.9.4 Uso previsto | Uso previsto y usos excluidos declarados por agente | Implementado | |
| A.10 Terceros y clientes | A.10.2 Asignación de responsabilidades | Reparto documentado entre Veritas, proveedores de modelo y cliente | Implementado |
| A.10.3 Proveedores | Ver registro de subencargados | Implementado | |
| A.10.4 Clientes | Condiciones de uso y DPA; canal de reclamación | Implementado |
Regla de asignación de estado: solo se marca Implementado cuando existe evidencia documental o técnica verificable. Ante duda, se marca Parcial o Pendiente. El sesgo de este registro es siempre hacia declarar de menos.
5. Lo que este AIMS no afirma
- No afirma que los modelos no se equivoquen. Afirma que un error de modelo no puede convertirse por sí solo en un certificado emitido.
- No afirma seguridad absoluta. Ningún sistema la tiene.
- No cubre los modelos de terceros en su desarrollo. Cubre nuestra selección, configuración, límites y supervisión de ellos.
- No sustituye a una evaluación de conformidad bajo el Reglamento de IA de la UE cuando esta resulte exigible por la clasificación de un caso de uso concreto. Son marcos distintos con obligaciones distintas.
Fuentes
- ISO/IEC 42001:2023, Information technology — Artificial intelligence — Management system: https://www.iso.org/standard/42001
- ISO, AI management systems: what businesses need to know: https://www.iso.org/artificial-intelligence/ai-management-systems
- ISO/IEC 42001:2023 en la plataforma de consulta en línea: https://www.iso.org/obp/ui/en/#!iso:std:81230:en