Principios éticos de IA¶
Versión: 1.0
Fecha de aprobación: [FECHA]
Propietario: Comité de IA
Por qué una empresa necesita principios éticos propios¶
Los sistemas de IA generan consecuencias que van más allá de las consecuencias técnicas de cualquier software convencional. Cuando un sistema decide qué currículum llega a la mesa de un reclutador, qué crédito se le concede a un cliente o qué precio se le ofrece a un usuario, está tomando decisiones con efectos reales sobre personas reales. Los errores no son simplemente bugs: pueden ser actos discriminatorios, violaciones de privacidad o formas de manipulación.
Los proveedores de IA tienen sus propios principios éticos. Eso es insuficiente para una organización que despliega sus sistemas. Los principios del proveedor regulan el comportamiento del proveedor, no el de la organización desplegadora. La responsabilidad final sobre el impacto de un sistema de IA recae en quien lo despliega, no en quien lo fabrica.
Estos principios están basados en el Microsoft Responsible AI Standard v2 y en los Principios de IA de la OCDE (revisión 2024), adaptados al contexto operativo de una organización que adopta IA como usuario o desplegador.
Los seis principios¶
1. Equidad¶
Los sistemas de IA de [NOMBRE_EMPRESA] no perpetúan ni amplifican sesgos existentes en los datos de entrenamiento ni en el diseño de la tarea.
Qué significa en la práctica:
- Antes de desplegar un sistema de IA que tome o apoye decisiones sobre personas (selección de candidatos, segmentación de clientes, priorización de solicitudes), se realiza una evaluación de equidad que examina si el sistema trata de forma diferente a grupos definidos por características protegidas (género, edad, origen étnico, etc.).
- Los resultados de la evaluación se documentan. Si se detectan disparidades significativas sin justificación legítima, el sistema no pasa a producción hasta que se mitiguen.
- La evaluación no es un evento único: se repite periódicamente en sistemas en producción, especialmente después de reentrenamientos.
Limitación conocida: No existe un estándar técnico universalmente aceptado sobre qué constituye un nivel de disparidad aceptable. La evaluación incluye siempre un juicio humano sobre el contexto de uso.
2. Fiabilidad y seguridad¶
Los sistemas de IA de [NOMBRE_EMPRESA] producen resultados consistentes y predecibles dentro de los parámetros definidos, y se comportan de forma segura en condiciones adversas o ante inputs inesperados.
Qué significa en la práctica:
- Los sistemas en producción tienen métricas de rendimiento definidas antes del despliegue. Un deterioro significativo respecto a la línea base activa una alerta y un proceso de revisión.
- Los sistemas están diseñados con mecanismos de degradación controlada: si el sistema no puede procesar un input con confianza suficiente, devuelve una respuesta conservadora o escala al operador humano en lugar de generar un output incorrecto.
- Los inputs adversariales (intentos de manipular el sistema para que produzca outputs incorrectos) se contemplan en el diseño y en las pruebas.
3. Privacidad¶
Los sistemas de IA de [NOMBRE_EMPRESA] respetan el derecho de las personas a controlar su información personal y no usan datos de personas para finalidades distintas a las que justificaron su recogida.
Qué significa en la práctica:
- El principio de minimización de datos se aplica al diseño de los sistemas de IA: solo se usan los datos estrictamente necesarios para la tarea.
- Los datos personales usados en sistemas de IA están protegidos con los controles técnicos y organizativos definidos en la Política de datos para IA.
- Las personas tienen los derechos reconocidos en el RGPD (acceso, rectificación, supresión, portabilidad, oposición) incluso respecto a los outputs de sistemas de IA que les afecten.
4. Inclusividad¶
Los sistemas de IA de [NOMBRE_EMPRESA] están diseñados para ser accesibles y útiles para todos los perfiles de usuarios a los que van dirigidos, sin crear barreras de acceso basadas en capacidades, idioma u otros factores.
Qué significa en la práctica:
- Las interfaces de los sistemas de IA desplegados para uso interno cumplen con los estándares de accesibilidad aplicables (WCAG 2.1 AA como mínimo para interfaces web).
- Los sistemas de IA que interactúan con clientes están probados con perfiles de usuario diversos, incluyendo personas con conocimientos tecnológicos bajos, personas con discapacidades y personas no nativas en el idioma del sistema.
- Se evalúa si un sistema de IA podría excluir sistemáticamente a algún grupo de usuarios legítimos y se toman medidas para mitigarlo.
5. Transparencia¶
Los sistemas de IA de [NOMBRE_EMPRESA] son explicables en la medida necesaria para que los usuarios afectados y los operadores responsables puedan entender por qué producen los outputs que producen.
Qué significa en la práctica:
- Para cada herramienta o sistema de IA en uso existe una ficha descriptiva accesible: qué hace, qué datos utiliza y qué limitaciones tiene.
- Cuando un sistema de IA toma o apoya una decisión con consecuencias para una persona, esa persona tiene derecho a recibir una explicación comprensible de los factores que influyeron en la decisión.
- La organización no presenta los outputs de los sistemas de IA como si fueran el resultado de razonamiento humano cuando la distinción es material para el receptor.
Limitación conocida: La explicabilidad técnica de los modelos de lenguaje de gran escala (LLMs) es limitada. La transparencia en este contexto se centra en describir el uso que se hace del sistema, no en explicar el funcionamiento interno del modelo.
6. Responsabilidad¶
Un humano identificado es siempre el responsable final de las decisiones y los outputs de los sistemas de IA de [NOMBRE_EMPRESA]. La IA no puede ser el responsable de una decisión.
Qué significa en la práctica:
- Para cada sistema de IA en producción existe un propietario nominado: la persona que responde ante la organización y ante terceros si el sistema produce daño o incumple la normativa.
- Los sistemas de IA no toman decisiones autónomas con efectos significativos sobre personas sin supervisión humana. El nivel de supervisión requerido depende del nivel de riesgo del sistema.
- Los incidentes se investigan para identificar qué falló en los controles humanos, no solo en el sistema técnico.
Cómo operacionalizar los principios¶
La diferencia entre una declaración de principios y un documento útil está en la operacionalización: en que cada principio se traduce en controles concretos, responsables y evidencias verificables.
La siguiente tabla vincula cada principio con el control operativo correspondiente y el documento donde se define:
| Principio | Control operativo principal | Documento de referencia |
|---|---|---|
| Equidad | Evaluación de sesgos antes del despliegue; revisión periódica | Gestión de riesgos de IA |
| Fiabilidad | Seguimiento periódico del funcionamiento de cada herramienta; criterios claros para detenerla si deja de funcionar bien | Cómo identificar dónde puede ayudar la IA en tu día a día |
| Privacidad | Clasificación de datos; DPIA para sistemas con datos personales; minimización | Política de datos para IA |
| Inclusividad | Pruebas con perfiles diversos; accesibilidad en interfaces | Selección de pilotos |
| Transparencia | Ficha descriptiva por sistema; explicación disponible para afectados | Comité de IA |
| Responsabilidad | Propietario nominado por sistema; supervisión humana definida | Comité de IA |
Revisión y actualización¶
Estos principios se revisan anualmente o cuando se produzca un cambio significativo en la normativa aplicable o en las capacidades tecnológicas que haga necesario actualizar su contenido u operacionalización.
Referencia: - OECD AI Principles (2024 revision): oecd.ai/en/wonk/evolving-with-innovation-the-2024-oecd-ai-principles-update - Microsoft Responsible AI Standard v2 (2022): disponible en microsoft.com/en-us/ai/responsible-ai