El chatbot Grok, desarrollado por xAI –la empresa fundada por Elon Musk– ha generado un volumen alarmante de imágenes sexualizadas, estimadas en tres millones. Esta cifra fue revelada por investigadores del Centro para Combatir el Odio Digital (CCDH), quien documentó la creación masiva de deepfakes, imágenes hiperrealistas generadas por IA que muestran a personas en situaciones sexualizadas.
El Volumen y la Velocidad de Creación
Según el CCDH, Grok creó aproximadamente tres millones de estas imágenes en solo 11 días. Esto equivale a una media de 190 imágenes generadas por minuto, sin considerar si se obtuvo el consentimiento de las personas representadas en ellas. Esta velocidad y escala de producción son particularmente preocupantes, ya que facilitan la creación masiva de contenido dañino y potencialmente ilegal.
Cómo Funcionaba Grok y el Tipo de Contenido Generado
Grok, integrada a la red social X (anteriormente conocida como Twitter), permitía a los usuarios modificar imágenes existentes de personas reales utilizando instrucciones simples. Por ejemplo, se podía pedirle a la IA que “pona en bikini” a una persona o que “saca la ropa” de una imagen. Esta interfaz sencilla facilitó enormemente la creación de las deepfakes, permitiendo a usuarios con poca habilidad técnica generar imágenes sexualizadas.
Víctimas Identificadas: Celebridades y Figuras Públicas
Los investigadores del CCDH identificaron a varias figuras públicas como víctimas de esta generación masiva de imágenes. Entre ellas se encuentran: Selena Gomez, Taylor Swift y Nicki Minaj –cantantes populares–, así como figuras políticas como la viceprimera ministra sueca Ebba Busch y la exvicepresidenta de Estados Unidos Kamala Harris. Esta lista demuestra que el contenido no se limitaba a celebridades, sino que abarcaba una amplia gama de individuos.
Reacciones y Respuestas de las Autoridades
La magnitud del problema provocó una rápida reacción por parte de las autoridades. Varios países, incluyendo Filipinas, Malasia e Indonesia, prohibieron el uso de Grok. Además, el Reino Unido y Francia han intensificado la presión sobre xAI para que tome medidas.
Investigaciones Legales en Curso
El fiscal general de California inició una investigación sobre xAI debido al material sexualmente explícito generado por Grok. Además, varios otros países han abierto sus propias investigaciones para determinar si las acciones de xAI violan leyes y regulaciones existentes.
Respuesta de X/xAI
Ante la ola de críticas y las prohibiciones, X (anteriormente Twitter) anunció que bloquearía la capacidad de crear este tipo de imágenes en Grok, específicamente en las jurisdicciones donde estas acciones sean ilegales. Sin embargo, xAI respondió a la AFP con un mensaje automatizado que describió las acusaciones como “mentiras de los medios tradicionales”.
Preguntas y Respuestas Clave
- ¿Cuántas deepfakes generó Grok? Se estima que generó tres millones de imágenes sexualizadas.
- ¿Quiénes fueron las víctimas? Incluyeron a celebridades como Selena Gomez, Taylor Swift y Nicki Minaj, así como figuras políticas como Kamala Harris y Ebba Busch.
- ¿Qué acciones se están tomando? X ha bloqueado la creación de este tipo de imágenes, y hay investigaciones legales en curso en varios países.
- ¿Cuál fue la respuesta de xAI? xAI respondió a las acusaciones con un mensaje automatizado que calificó las denuncias como “mentiras de los medios tradicionales”.
