Bloque 2 — Gobierno de IA¶
El gobierno de IA es el conjunto de estructuras, políticas y procesos que determinan cómo una organización toma decisiones sobre sistemas de IA, cómo asigna responsabilidades y cómo rinde cuentas de los impactos de esos sistemas.
Sin gobierno, la adopción de IA genera riesgos no controlados: sistemas con propietarios ambiguos, decisiones con efectos sobre personas sin supervisión humana adecuada, uso de datos sin las garantías legales requeridas y dependencias de personas concretas que hacen el proceso frágil.
El gobierno no es una capa burocrática que frena la innovación. Es el mecanismo que permite moverse con velocidad sin acumular riesgos que, cuando se materializan, detienen o revierten el progreso.
Contenido del bloque¶
- Modelo de gobierno de IA: estructura de capas, principios y responsabilidades.
- Comité de IA: constitución, roles, competencias y dinámica de decisión.
- Dinámica de operaciones: reuniones, gates de validación, gestión de incidencias.
- Política de uso aceptable: qué está permitido, restringido y prohibido.
- Política de datos para IA: clasificación, linaje, PII, retención.
- Principios éticos de IA: declaración de principios y cómo operacionalizarlos.
Relación con marcos externos¶
El NIST AI RMF establece que la función GOVERN es transversal: informa y se integra en las tres funciones restantes (MAP, MEASURE, MANAGE). ISO 42001 dedica las cláusulas 5 (Liderazgo) y 6 (Planificación) a los elementos de gobierno del sistema de gestión de IA. Los Principios de IA de la OCDE (principio 1.5) establecen explícitamente la responsabilidad como uno de los cinco valores fundamentales para el desarrollo de IA.
Este bloque implementa esos principios en estructuras y documentos operativos concretos.