El Debate Ético y la Búsqueda de una Gobernanza Colectiva
Principios de Chapultepec: Una Declaración Ambiciosa
El 29 de enero, la Secretaría de Ciencia, Humanidades, Tecnología e Innovación (Secihti) y la Agencia de Transformación Digital y Telecomunicaciones (ATDT) presentaron los Principios de Chapultepec, junto con una “Declaración de ética y buenas prácticas para el uso y desarrollo de la Inteligencia Artificial en México”. Este documento representa un esfuerzo por establecer directrices para guiar las políticas públicas, regulaciones e instrumentos institucionales relacionados con la IA en el país. Si bien la intención es noble, existe una preocupación fundamental: la falta de un consenso amplio que pueda asegurar su efectividad real.
Principios Clave y sus Limitaciones
Priorizando los Derechos Humanos
La Declaración se destaca por priorizar los derechos humanos, asegurando que la IA no reduzca las oportunidades, sino que las amplíe. Esto implica un enfoque en la responsabilidad humana frente a decisiones automatizadas y una búsqueda de transparencia razonable.
Explicabilidad: Un Derecho a Entender
Un principio fundamental es la “explicabilidad”, que exige que las decisiones tomadas por algoritmos – ya sea en créditos, programas sociales o cualquier otro ámbito – sean comprensibles. Si no se puede explicar el proceso detrás de una decisión automatizada, la propia decisión debe ser cuestionada. Esto se traduce en un acto de justicia y transparencia.
Diversidad y Datos como Bien Público
La Declaración reconoce la importancia de la diversidad lingüística y cultural de México, considerándolos datos como un bien público. Se asume la premisa de que la tecnología no es socialmente neutral, reconociendo el impacto directo de los avances de la IA en la sociedad. El Estado mexicano busca tomar el control de esta tecnología para evitar posibles daños.
Un Documento Declarativo, No Normativo
Sin embargo, el documento presenta un perfil más declarativo que normativo. Falta la precisión necesaria en conceptos clave como explicabilidad, responsabilidad y evaluación de impacto. No se incluyen procedimientos de auditoría independientes, criterios de certificación técnica ni sanciones por incumplimiento. Una Declaración sin mecanismos de verificación puede ser utilizada para legitimar iniciativas públicas, pero no impide que se produzcan daños reales.
El Contexto y el Impacto en México
¿Para Quién Sirve la Declaración?
En términos prácticos, la Declaración es principalmente útil para las autoridades públicas que diseñan programas y compras tecnológicas. Sirve como una brújula ética para funcionarios, activistas y académicos interesados en los principios de la IA. También se utiliza como una herramienta política para construir legitimidad social sobre el uso estatal de la inteligencia artificial.
Desafíos para la Industria y los Ciudadanos
No obstante, la Declaración no ofrece la certeza que la industria necesita para invertir a gran escala en una nueva tecnología. Tampoco habilita a la ciudadanía con herramientas concretas de defensa o recursos de reparación frente a daños algorítmicos del aparato estatal. El documento no aborda las dinámicas de competitividad y eficiencia que requieren las empresas tecnológicas para innovar.
Hacia un Marco Regulatorio Efectivo
Elementos Adicionales Necesarios
- Un marco de riesgo diferencial que clasifique los usos de la IA según su impacto en derechos fundamentales y servicios críticos.
- Evaluaciones de impacto obligatorias y transparentes (pruebas de sesgo, robustez, seguridad).
- Requisitos de auditoría externa e independiente y registros públicos de sistemas automatizados usados por autoridades.
- Derechos de acceso a la explicación con estándares técnicos y mecanismos reales de reparación administrativa y judicial.
- Métricas de sostenibilidad energética y uso de infraestructura, con límites cuando el consumo sea socialmente insostenible.
- Reglas de gobernanza de datos que aborden interoperabilidad, portabilidad y compensación por uso comercial de datos públicos.
La Necesidad de un Enfoque Multidimensional
La redacción de la Declaración debió haber sido más amplia, incluyendo a otras autoridades como la autoridad de protección de datos, la comisión de competencia económica, el regulador de las telecomunicaciones, universidades públicas y organizaciones de derechos humanos. Además, se necesitaba un compromiso explícito de las empresas tecnológicas que operan en México.
El Futuro de la IA: Adaptación y Aprendizaje
La Declaración debe incorporar revisiones periódicas, cláusulas de adaptación técnica, mecanismos de aprendizaje regulatorio (sandboxes regulatorios) y alineación con experiencias internacionales. También debe promover la infraestructura digital que permita la gobernanza de los datos, un verdadero desarrollo de la IA y una genuina soberanía tecnológica.
Preguntas y Respuestas Clave
- ¿Qué es la Declaración de Chapultepec? Es un documento que establece principios éticos y buenas prácticas para el uso y desarrollo de la Inteligencia Artificial en México.
- ¿Por qué se considera que la Declaración tiene limitaciones? Falta precisión, mecanismos de verificación y una participación amplia.
- ¿Para quién es útil la Declaración? Principalmente para autoridades públicas que diseñan programas tecnológicos.
- ¿Qué se necesita para que la Declaración sea más efectiva? Incorporar elementos adicionales como un marco de riesgo diferencial, auditorías independientes y la participación de la industria.
- ¿Qué se entiende por “explicabilidad” en el contexto de la IA? Se refiere a la capacidad de comprender cómo un algoritmo llega a una decisión.
