La Urgencia de una Regulación en México
México enfrenta un desafío crítico: la falta de una estrategia nacional integral para abordar el desarrollo y la implementación de la inteligencia artificial (IA). A pesar de la creciente importancia global de esta tecnología, el país se encuentra rezagado en comparación con otros países que ya han establecido marcos de gestión de riesgos, inversión pública y gobernanza transversal. La situación actual exige una acción inmediata para proteger a la población y fomentar la innovación de manera responsable.
La Experiencia Internacional: Lecciones para México
Países como la Unión Europea, Canadá y Reino Unido han sido pioneros en el desarrollo de estrategias de IA. La UE lidera con su reglamento de IA, basado en un modelo de “gestión de riesgos” que categoriza las aplicaciones en cuatro niveles: prohibidas, de alto riesgo, de riesgo medio y de bajo o nulo riesgo. Cada categoría se asocia con obligaciones proporcionales de transparencia, evaluación de conformidad y control de la cadena de suministro.
Estados Unidos ha adoptado un enfoque más fragmentado, con regulaciones orientadas a sectores específicos. En 2024, la Administración Biden publicó lineamientos de “IA responsable” sin carácter vinculante. Sin embargo, el país ha enfrentado problemas con el uso de reconocimiento facial en sistemas de vigilancia, que han llevado a detenciones erróneas y discriminación.
Canadá fue el primero en lanzar su Estrategia Pan-Canadiense de IA en 2017, seguida por Reino Unido (2018) y Francia/Alemania (2019). México, sin embargo, ya suma siete años de retraso respecto al primer anuncio internacional.
Riesgos y Desafíos en México
La falta de una estrategia nacional no solo implica un riesgo de competitividad, sino también la posibilidad de daños a los derechos y libertades de las personas. En los Países Bajos, un sistema automatizado para detectar fraude en la distribución de apoyos sociales provocó acusaciones injustas a miles de familias, llevando a la bancarrota a algunos hogares, suicidios y separación de niños de sus padres, todo por sesgos en el algoritmo que discriminaba a migrantes con doble nacionalidad.
En Estados Unidos, el uso de reconocimiento facial en sistemas de vigilancia ha llevado a detenciones erróneas de personas afroamericanas, debido a que los modelos fueron entrenados con predominio de rostros caucásicos y no alcanzan la misma precisión en otras etnias.
Además, proliferan deep fakes con fines de difamación, fraude electoral o violación de la intimidad. La situación exige una respuesta proactiva para evitar que esta tecnología se utilice con fines dañinos.
Propuestas para una Estrategia Nacional
Para abordar estos desafíos, se requiere una estrategia nacional de IA que incluya los siguientes elementos:
- Objetivos a largo plazo: Definir cómo se quiere utilizar la IA para mejorar los servicios públicos, impulsar la productividad industrial y potenciar la investigación científica.
- Presupuesto específico: Asignar recursos financieros adecuados para la implementación de la estrategia.
- Órgano rector transversal: Crear un organismo con capacidad de interlocución entre secretarías clave (Economía, Educación, Salud, Gobernación e Instituto Nacional de Transparencia).
- Marco regulatorio basado en riesgos: Priorizar la regulación de sectores críticos como salud, justicia y bienestar social.
- Laboratorios regulatorios (“sandboxes”): Espacios de prueba donde el sector privado, la academia y las autoridades puedan experimentar con normas en un entorno controlado.
La Visión de Claudia del Pozo
“México debería estar en fase de pruebas, pero no está”, afirma Claudia del Pozo. La experta enfatiza que “una buena regulación no frena la innovación; al contrario, crea un marco donde prospera la innovación positiva”. Sugiere que México debería priorizar la prohibición de usos claramente nocivos (deep fakes pornográficos no consentidos, sistemas de discriminación algorítmica) y avanzar por fases, con espacios de prueba o “sandboxes” donde evaluar medidas antes de su implementación definitiva.
Preguntas y Respuestas Clave
- ¿Por qué es urgente una estrategia de IA para México? Porque el país se encuentra rezagado en comparación con otros países que ya han establecido marcos de gestión de riesgos, inversión pública y gobernanza transversal.
- ¿Qué tipo de regulaciones son necesarias? Regulaciones basadas en riesgos, pero adaptadas al tamaño y capacidades de México, priorizando sectores críticos como salud, justicia y bienestar social.
- ¿Cómo se puede evitar que la IA cause daños? Priorizando la prohibición de usos claramente nocivos (deep fakes pornográficos, sistemas de discriminación algorítmica) y avanzando por fases con espacios de prueba.
- ¿Qué papel deben jugar los “sandboxes” regulatorios? Proporcionar un entorno controlado para experimentar con normas y aprender de aciertos y errores antes de su implementación definitiva.