La inteligencia artificial (IA) está transformando la forma en que se crea y consume el contenido en línea, pero esta revolución tecnológica también está siendo utilizada para alimentar y amplificar problemas sociales preexistentes, como el sexismo. Un nuevo fenómeno en internet se ha convertido en una fuente de contenido misógino, generado por IA y que está generando preocupación a nivel global.
La Propagación de Contenido Misógino Generado por IA
Un creciente número de videos falsos, creados con herramientas de inteligencia artificial como Veo 3 de Google, están inundando plataformas como Instagram, TikTok y Facebook. Estos videos a menudo presentan imágenes chocantes de mujeres, frecuentemente de raza negra, en posiciones y situaciones que se consideran sexualizadas y degradantes. Se han visto decenas de millones de reproducciones de estos videos, que a menudo se disfrazan como contenido real.
Un ejemplo reciente fue la difusión de un video falso que mostraba a una “entrenadora de animales” llamada Jessica Radcliffe siendo atacada por una orca en un parque acuático. A pesar de ser completamente inventado, el video se propagó rápidamente y generó una conmoción global, con usuarios creyendo que la mujer era real. Este tipo de manipulación es solo una manifestación de un problema mucho más profundo: la creciente facilidad con la que se puede crear contenido falso y engañoso utilizando IA.
La Industria de Contenido Misógino Impulsada por la IA
Lo que comenzó como un simple fenómeno de videos falsos se ha transformado en una industria. Creadores de contenido, a menudo utilizando cursos y tutoriales pagados que ofrecen estrategias para monetizar material generado por IA, están aprovechando la demanda de contenido viral y sexualizado. Estos creadores se han vuelto cada vez más autónomos, reduciendo su dependencia de los verificadores de hechos tradicionales y la moderación de contenido.
La proliferación de cuentas de Instagram con “modelos” generados por IA, como las 900 identificadas por Alexios Mantzarlis de la Iniciativa de Seguridad y Confianza en Cornell Tech, ha llevado a acumular 13 millones de seguidores y publicar más de 200,000 imágenes. Estas cuentas se monetizan al redirigir a sus audiencias a plataformas de intercambio de contenido, demostrando la escala y el potencial económico de esta industria.
El Reflejo del Sexismo en la IA
Expertos como Nirali Bhatia, psicóloga especializada en el espacio cibernético basada en India, señalan que la IA no “inventa” la misoginia, sino que simplemente la refleja y amplifica lo que ya existe en la sociedad. “La misoginia que generalmente se mantenía oculta en conversaciones en vestuarios y grupos ahora se está trasmutando a imágenes generadas por IA”, explica Bhatia. “Esto es parte del daño de género mediado por la IA”.
Divyendra Jadoun, consultor de IA, enfatiza que la demanda de este tipo de contenido está impulsada por las audiencias: “Si las audiencias recompensan este tipo de contenido con millones de ‘me gusta’, los algoritmos y los creadores de contenido de IA seguirán produciéndolo”. La lucha no es solo tecnológica, sino social y cultural: “Si las audiencias recompensan este tipo de contenido con millones de ‘me gusta’, los algoritmos y los creadores de contenido de IA seguirán produciéndolo”.
El Desafío para las Plataformas
Las plataformas de redes sociales como YouTube han tomado medidas contra los creadores de contenido “no auténtico” y “producido masivamente”, pero la escala del problema es enorme. La dificultad radica en la rapidez con la que se crea y distribuye el contenido, así como en la creciente sofisticación de las herramientas de IA que permiten crear imágenes y videos hiperrealistas.
Preguntas y Respuestas Clave
- ¿Qué herramientas se están utilizando para crear este contenido?
- Se está utilizando principalmente el generador de IA Veo 3 de Google.
- ¿Cuál es el impacto de esta tendencia?
- Está alimentando el sexismo, amplificando la misoginia y creando una industria de contenido misógino.
- ¿Por qué es tan difícil controlar este tipo de contenido?
- Debido a la velocidad con la que se crea y distribuye el contenido, así como a la sofisticación de las herramientas de IA.
- ¿Qué están haciendo las plataformas para abordar este problema?
- Están tomando medidas contra los creadores de contenido “no auténtico” y “producido masivamente”, pero la lucha es constante.
