La Inteligencia Artificial y la Violencia Digital: Un Problema en Crecimiento
Las imágenes de Alana Flores, una boxeadora de 24 años que fue víctima de mensajes sexualizantes y abusivos a través de redes sociales, son solo una muestra del creciente problema de la violencia digital impulsada por la inteligencia artificial (IA). Miles de mujeres en México y Latinoamérica han experimentado situaciones similares, donde su imagen y privacidad son vulnerados a través de plataformas digitales. Este problema no solo afecta la salud mental y emocional de las víctimas, sino que también revela sesgos profundamente arraigados en los sistemas de IA y la necesidad urgente de una regulación más efectiva.
Datos Alarmantes sobre Violencia Digital
Según datos del Módulo sobre Ciberacoso (MOCIBA) del INEGI, hasta 2022, las formas más comunes de violencia digital contra mujeres en México eran:
* **Insinuaciones sexuales:** 34.8% de los casos.
* **Recibir contenido sexual:** 33.6% de los casos.
* **Amenazar con publicar información personal, fotos o videos:** 7% de los casos.
En 2015, el 58.1% de las mujeres usuarias entre 12 y 29 años ya habían experimentado violencia digital, aumentando a 60% en 2021. Además, se reportó un incremento del 3.1% a 4.3% en la publicación y venta de contenido sexual sin consentimiento.
La Lucha por Eliminar el Contenido en Internet
Elizabeth Avendaño, abogada del programa Internet Feminista de la Colectiva Luchadoras, describe el impacto complejo que tiene esta violencia en las víctimas. “Quiero que esto pare, quiero que baje su contenido, quiero denunciar la cuenta, quiero que desaparezca el video, las fotos. Ya no quiero que esté público, no quiero que lo sigan compartiendo”, relata una víctima que buscaba simplemente la eliminación del contenido dañino, en lugar de una resolución penal.
La Colectiva Luchadoras ofrece una línea de apoyo especializada, con un enfoque personalizado y no público, atendida por psicólogas expertas en derechos digitales. Este modelo busca acompañar a las víctimas de manera integral, reconociendo que la eliminación del contenido no siempre es suficiente para sanar las heridas.
La organización ha logrado alianzas con plataformas como Meta (WhatsApp, Instagram y Facebook) para facilitar la eliminación de contenido. Sin embargo, se enfrenta desafíos con plataformas como X (antes Twitter), donde las vinculaciones han sido perdidas. Telegram, por su parte, presenta un reto aún mayor debido a sus políticas distintas y la falta de supervisión.
La IA y la Educación Sexual: Un Contexto Problemático
La violencia digital no se limita a acciones directas o ofensivas. La IA y los modelos de programación en plataformas digitales pueden atentar contra los derechos de las mujeres al censurar contenido relacionado con temas fundamentales como el cáncer de mama, la menstruación, salud reproductiva y métodos anticonceptivos.
Las plataformas a menudo censuran cuerpos feminizados y temas relacionados con la salud de las mujeres, debido a sesgos algorítmicos. Por ejemplo, los comerciales de toallas sanitarias han utilizado en el pasado líquidos azules para simular la sangre menstrual, un ejemplo de cómo los sesgos pueden perpetuarse en la representación visual.
Censura y Sesgos Algorítmicos: Una Lucha Constante
El informe “Difusión de contenido íntimo sin consentimiento: una mirada crítica” revela que el 88% de los participantes afirmaron haber sido censurados por el contenido de sus perfiles y cuentas en redes sociales, que estaban directamente vinculados a la reivindicación de sus identidades, sus derechos humanos o su activismo político.
Además de Facebook, Twitter, YouTube y TikTok, otras plataformas también han sido señaladas por la eliminación arbitraria de contenido. La falta de justificación o indicación de la normativa violada dificulta aún más la libertad de expresión.
La Urgencia de una Regulación Integral
María José Icaza Banet, investigadora del Programa de Derechos Digitales de Artículo 19, enfatiza la necesidad de un enfoque que vaya más allá de las regulaciones punitivas. “En lugar de equilibrar los derechos humanos y los intereses económicos, debemos centrar los derechos humanos en cualquier marco regulatorio”, sugiere.
La organización propone reformar el derecho penal para asegurar tipos penales claros y precisos, evitando la ambigüedad y la revictimización de las víctimas. Además, se proponen alternativas no punitivas como demandas por daño moral o derechos de autor, así como la justicia restaurativa y el acompañamiento integral a las víctimas.
La Regulación de la IA: Un Desafío Complejo
En el contexto actual, México está viviendo una transformación en su regulación de telecomunicaciones. Sin embargo, la regulación de la IA presenta desafíos únicos. La implementación de sistemas biométricos y el uso de grandes bases de datos centralizadas del gobierno pueden alimentar la creación de sistemas predictivos, lo que plantea riesgos adicionales para los derechos humanos.
Grecia Macías, maestra en Tecnología por Stanford en Derechos Humanos y Tecnología, argumenta que es fundamental centrarse en los derechos humanos y la protección del usuario. “En lugar de pensar que la regulación desincentivará la innovación, debemos centrarse en los derechos humanos”, explica.
En resumen, el problema de la violencia digital impulsada por la IA es complejo y requiere una respuesta integral que combine regulaciones más estrictas, mecanismos de protección para las víctimas y un cambio cultural hacia una mayor conciencia sobre los sesgos algorítmicos y el impacto de la tecnología en los derechos humanos.
