El Desafío de las Empresas de IA y la Necesidad de una Gobernanza Reforzada
A medida que la inteligencia artificial (IA) avanza rápidamente y se integra cada vez más en nuestras vidas, es poco probable que cree una utopía tecnológica o que acabe con la humanidad. Lo más probable es que el resultado se sitúe en algún punto intermedio: un futuro marcado por la contingencia, el compromiso y, sobre todo, las decisiones que tomemos ahora sobre cómo limitar y guiar el desarrollo de la IA. Como líder global en IA, Estados Unidos desempeña un papel especialmente importante en la configuración de ese futuro. Pero el Plan de Acción de IA anunciado recientemente por el presidente estadounidense, Donald Trump, ha echado por tierra las esperanzas de reforzar la supervisión federal, adoptando en su lugar un enfoque favorable al crecimiento para desarrollar la tecnología. Esto hace que sea aún más urgente que los gobiernos estatales, los inversores y el público se centren en una herramienta menos discutida para la rendición de cuentas: la gobernanza corporativa.
El Modelo Corporación de Beneficio Público (CBP) y sus Problemas
Las empresas estructuradas como Corporaciones de Beneficio Público (CBP) han surgido como una forma de presentar una fachada de responsabilidad y ética en el sector de la IA. Estas empresas, a menudo impulsadas por declaraciones de beneficios generales e indefinidas, se basan en la promesa de “beneficio público” para atraer inversiones y evitar una supervisión más sistémica. Sin embargo, este modelo, especialmente bajo la legislación de Delaware (donde están domiciliadas la mayoría de estas empresas), está plagado de lagunas legales y una aplicación deficiente.
Falta de Transparencia y Responsabilidad
Las empresas de IA, incluso las que se presentan como CBP, no están exentas de problemas. Como documenta la periodista Karen Hao en su libro *Empire of AI*, las principales empresas del sector ya ejercen una vigilancia masiva, explotan a sus trabajadores y agravan el cambio climático. Lo irónico es que muchas de ellas son CBP, una estructura de gobernanza supuestamente diseñada para evitar estos abusos y proteger a la humanidad. Está claro que no está funcionando como se pretendía.
Ejemplos Concretos de Problemas
La empresa xAI, liderada por Elon Musk, es un ejemplo claro. Su misión declarada es “comprender el universo”, pero sus acciones – desde la construcción furtiva de una supercomputadora contaminante cerca de un barrio predominantemente negro de Memphis, Tennessee, hasta la creación de un chatbot que alaba a Hitler – demuestran una indiferencia preocupante hacia la transparencia, la supervisión ética y las comunidades afectadas.
El Modelo de Beneficio Público: Una Promesa Vacía
Las empresas de IA se basan en declaraciones de beneficios generales e indefinidas que supuestamente guían sus operaciones. OpenAI proclama que su objetivo es “garantizar que la IAG beneficie a toda la humanidad”, mientras que Anthropic aspira a “maximizar los resultados positivos para la humanidad a largo plazo”. Estas ambiciones nobles pretenden inspirar, pero su vaguedad puede utilizarse para justificar casi cualquier acción, incluso las que ponen en peligro el bienestar público.
Falta de Supervisión y Rendición de Cuentas
La legislación de Delaware no exige a las empresas que operan como CBP estándares mensurables o evaluaciones independientes. Y si bien exige la presentación de informes bienales sobre el desempeño de los beneficios, los resultados no tienen por qué hacerse públicos. Las empresas pueden cumplir –o incumplir– sus obligaciones a puerta cerrada, sin que el público en general se entere. Las partes interesadas afectadas –como las comunidades marginadas y los contratistas mal pagados– carecen de vías prácticas de recurso.
Reforma: Un Enfoque a Nivel Estatal
Dado que la supervisión federal es escasa, la reforma de este modelo debe hacerse a nivel estatal. Los legisladores estatales, los inversores y el público pueden fortalecer la gobernanza corporativa de la IA impulsando reformas al modelo CBP.
Objetivos Específicos y Mensurables
Para desempeñar un papel significativo en la gobernanza de la IA, el modelo CBP debe actuar como algo más que un escudo reputacional. Eso significa cambiar cómo se define, gobierna, mide y protege el “beneficio público”.
Propuestas Concretas para la Reforma
* **Objetivos Específicos:** Las empresas de IA deberían estar obligadas a comprometerse con objetivos específicos, mensurables y sujetos a plazos definidos en sus documentos de gobierno.
* **Políticas Internas:** Estos objetivos deberían estar respaldados por políticas internas y vinculados a evaluaciones de desempeño.
* **Bonificaciones y Desarrollo Profesional:** Se podrían ofrecer bonificaciones y desarrollo profesional a los empleados que contribuyan al logro de estos objetivos.
* **Seguridad y Sesgo:** Los objetivos podrían incluir garantizar la seguridad de los modelos base, reducir el sesgo en los resultados de los modelos, minimizar la huella de carbono de los ciclos de capacitación e implementación y aplicar prácticas laborales justas.
* **Capacitación:** Se debería capacitar a ingenieros y gerentes de producto en derechos humanos, ética y diseño participativo.
Reforma de las Juntas Directivas
* **Directores con Experiencia:** Las juntas directivas deberían incluir directores con experiencia comprobable en ética, seguridad, impacto social y sostenibilidad de la IA.
* **Director de Ética:** Cada empresa debería contar con un director de ética con un mandato claro, autoridad independiente y acceso directo a la junta.
* **Supervisión Independiente:** Los directores de ética deberían supervisar los procesos de revisión ética y tener autoridad para detener o reestructurar los planes de productos cuando sea necesario.
Transparencia y Rendición de Cuentas
* **Informes Anuales Detallados:** Las empresas de IA estructuradas como CBP deberían estar obligadas a publicar informes anuales detallados que incluyan datos granulares y desagregados sobre seguridad, sesgo y equidad, impacto social y ambiental y gobernanza de datos.
* **Auditorías Independientes:** Auditorías independientes –realizadas por expertos en IA, ética, ciencias ambientales y derechos laborales– deberían evaluar la validez de estos datos, así como las prácticas de gobernanza de la empresa y su alineamiento general con los objetivos de beneficio público.
Preguntas y Respuestas Clave
- ¿Por qué es importante la gobernanza corporativa en el sector de la IA?
- Debido a que las empresas de IA, incluso las que se presentan como CBP, pueden operar sin una supervisión adecuada y poner en riesgo el bienestar público.
- ¿Qué significa la estructura de Corporación de Beneficio Público (CBP)?
- Es una estructura que permite a las empresas presentar una fachada de responsabilidad y ética, pero que puede ser utilizada para evitar la supervisión.
- ¿Por qué es importante incluir a expertos en ética y derechos laborales en las auditorías?
- Para garantizar que se evalúen los impactos sociales y ambientales de la IA, así como las prácticas laborales.
- ¿Por qué es necesario que los informes de las empresas sean públicos?
- Para permitir que el público y los expertos evalúen la validez de las afirmaciones de las empresas sobre su impacto social y ambiental.
