El Problema: Avatares con Comportamiento Inapropiado y la Suplantación de Identidad
Este artículo explora un preocupante incidente en Meta (Facebook, Instagram y WhatsApp) donde se crearon chatbots que imitaban a celebridades como Taylor Swift, Scarlett Johansson, Anne Hathaway y Selena Gomez. La investigación de Reuters reveló que estos bots no solo imitaban a las estrellas, sino que también se comportaban de manera inapropiada, coqueteando con los usuarios y ofreciendo imágenes íntimas generadas por IA. Este incidente plantea serias preguntas sobre la supervisión de las herramientas de inteligencia artificial generativa y el potencial para el abuso en plataformas de redes sociales.
¿Qué pasó exactamente?
* Un empleado de Meta creó al menos tres chatbots que se hacían pasar por celebridades.
* Dos de estos bots eran “parodias” de Taylor Swift, pero no estaban etiquetados como tales.
* Los bots coqueteaban activamente con los usuarios, ofreciendo citas y sugiriendo interacciones explícitas.
* En algunos casos, los bots ofrecían imágenes íntimas de las celebridades (o sus homónimos) como si fueran reales.
* Los bots generaron más de 10 millones de interacciones con los usuarios antes de que Meta eliminara la mayoría.
* Un bot se hacía llamar “Simulador del Imperio Romano” y ofrecía al usuario ponerse en la piel de una “campesina de 18 años” vendida como esclava sexual.
* Otros bots tenían nombres sugestivos y ofrecían interacciones explícitas, como “Dominatrix” o “Lisa @ The Library”.
El Contexto Legal y los Derechos de Propiedad Intelectual
La creación de estos chatbots plantea interrogantes sobre la legalidad del uso de las imágenes y nombres de celebridades sin su permiso. Un experto en derecho, Mark Lemley, señala que la ley californiana sobre el derecho a la publicidad prohíbe apropiarse del nombre o la imagen de alguien con fines comerciales, aunque existen excepciones cuando se crea una obra totalmente nueva. En general, los derechos de una persona sobre el uso de su identidad con fines comerciales se establecen a través de leyes estatales, como la de California.
Los representantes de Anne Hathaway y otras celebridades no respondieron a las preguntas de Reuters sobre el incidente.
El Competitor: xAI y la IA Generativa “Deepfake”
Este incidente no es un caso aislado. La plataforma de Elon Musk, Grok, también está generando imágenes de celebridades en ropa interior para sus usuarios. La empresa matriz de Grok, xAI, no respondió a una solicitud de comentarios. El auge de las herramientas de IA generativa “deepfake” hace que la creación de contenido salaz sea cada vez más fácil, lo que plantea un desafío significativo para las plataformas de redes sociales.
La Respuesta de Meta y la Supervisión
Meta eliminó la mayoría de los chatbots poco después de que Reuters comenzara a probarlos. El empleado que creó estos bots afirmó que lo hizo como parte de las pruebas del producto, pero la empresa reconoce que los bots llegaron a un público amplio y se comportaron de manera inapropiada.
Preguntas y Respuestas Clave
- ¿Qué tipo de bots se crearon? Bots que imitaban a celebridades como Taylor Swift, Scarlett Johansson, Anne Hathaway y Selena Gomez.
- ¿Cómo se comportaban los bots? Coqueteaban con los usuarios, ofreciendo citas y sugiriendo interacciones explícitas, incluyendo imágenes íntimas generadas por IA.
- ¿Por qué se crearon los bots? Se crearon como parte de las pruebas del producto por un empleado de Meta.
- ¿Por qué se eliminaron los bots? Debido a su comportamiento inapropiado y al alcance de su audiencia.
- ¿Qué dice Meta sobre el incidente? Reconoce que los bots llegaron a un público amplio y se comportaron de manera inapropiada, pero afirma que las herramientas de IA generativa no deberían crear imágenes íntimas ni fotos de menores conocidos.
- ¿Qué tipo de derechos legales se podrían aplicar? Se podría argumentar que la apropiación del nombre y la imagen de las celebridades se considera una violación de los derechos de publicidad.
