El rápido avance en el campo de la inteligencia artificial generativa, impulsado por herramientas como ChatGPT, ha abierto las puertas a una nueva era de juguetes inteligentes. Esta innovación llega una década después del exitoso Hello Barbie, pero también ha generado preocupaciones y controversia sobre la seguridad y el uso adecuado de estos dispositivos.
El Problema con los Juguetes Inteligentes y la IA Generativa
La reciente investigación del observatorio estadounidense de consumidores PIRG, titulada “Problema en el mundo de los juguetes”, reveló problemas significativos con algunos de estos juguetes inteligentes. El estudio se centró en cuatro dispositivos probados, incluyendo Grok de Curio y Kumma de FoloToy. La principal preocupación fue la capacidad de estos juguetes para responder a preguntas inapropiadas, incluso aquellas que un niño pequeño no podría formular directamente.
El juguete Kumma, presentado por FoloToy como una herramienta de aprendizaje, fue objeto de particular atención. Los investigadores encontraron que el juguete podía responder a preguntas que consideraban inadecuadas para un niño, lo que generó una gran indignación. La startup suspendió temporalmente las ventas de Kumma, pero luego relanzó el juguete con una edad mínima recomendada de tres años. Este incidente puso de manifiesto la necesidad de una mayor regulación y control sobre el diseño y la comercialización de estos juguetes.
Grok: Un Enfoque en la Seguridad y el Control
En contraste con Kumma, Grok de Curio se diseñó con un enfoque más riguroso en la seguridad. Este juguete de peluche, inspirado en un cohete, se negó a responder preguntas que consideró inapropiadas para un niño de cinco años – la edad predeterminada. Además, los padres podían supervisar y modificar las recomendaciones del algoritmo, así como revisar el contenido de las interacciones con el niño. Curio recibió el certificado KidSAFE, que verifica la aplicación de las normas de protección infantil en Estados Unidos. La empresa asegura que está trabajando para abordar las preocupaciones planteadas por PIRG, incluyendo el intercambio de datos de uso con socios como OpenAI y Perplexity.
Miko 3: Recopilación Continua de Datos
Otro juguete probado por PIRG, Miko 3, también funcionaba continuamente y, por lo tanto, recopilaba todo lo que se decía a su alrededor. Esto plantea preocupaciones adicionales sobre la privacidad y la seguridad de los datos de los niños.
Elaves y Sunny: Chatbots para el Aprendizaje de Idiomas
Mientras tanto, empresas como Elaves promocionan sus juguetes con chatbots para el aprendizaje de idiomas. Gokhan Celebi, socio de Elaves, explicó que las conversaciones tendrían un límite de tiempo y se reiniciarían periódicamente para evitar errores. Esto demuestra la variedad de enfoques que están tomando las empresas en este sector.
Olli: Detección de Palabras Inapropiadas
La empresa Olli se especializa en la integración de capacidades de IA en juguetes cotidianos y ha programado su software para alertar a los padres en cuanto se pronuncia una palabra o frase inapropiada durante las interacciones con el asistente de voz. Este sistema de detección temprana es una medida importante para proteger a los niños.
Kathy Hirsh-Pasek: “No es Antitecnología”
Kathy Hirsh-Pasek, profesora de psicología en la Universidad de Temple, argumenta que los juguetes con IA “tienen un enorme potencial para beneficiar a niños de apenas tres años”. Sin embargo, enfatiza que estos juguetes se están lanzando al mercado con prisa, lo que es injusto tanto para los niños como para los padres. “Regulamos cualquier cosa que pueda ser peligrosa” para los niños, afirma Hirsh-Pasek. Su pregunta clave es: “¿por qué no regulamos estos juguetes?”.
Preguntas y Respuestas Clave
- ¿Qué problemas se encontraron con los juguetes Kumma y Grok? Ambos juguetes podían responder a preguntas inapropiadas para niños pequeños.
- ¿Qué medidas tomó FoloToy después del incidente con Kumma? Suspendieron las ventas y luego relanzaron el juguete con una edad mínima recomendada de tres años.
- ¿Qué significa el certificado KidSAFE? Es una certificación que verifica la aplicación de las normas de protección infantil en Estados Unidos.
- ¿Por qué Kathy Hirsh-Pasek no considera que la IA en juguetes es “antitecnología”? Cree que tiene un enorme potencial para beneficiar a los niños pequeños.
- ¿Qué tipo de medidas están tomando las empresas para abordar las preocupaciones sobre la seguridad? Algunas empresas, como Curio con Grok y Olli, están implementando sistemas de detección de palabras inapropiadas.
