Los juguetes con IA se venden cada vez más como compañeros de juego para los niños pequeños. Crédito: Play Tech AI / FB
Los padres podrían terminar regalándole a un niño de tres años un peluche que charla alegremente, hasta que aparentemente escucha mal una pregunta y dice: “No puedo evitar matarte”. La prueba de un periodista de dos juguetes de peluche con IA hizo que los parlamentarios y sus pares pidieran que los retiraran de la venta antes de Navidad.
Cómo una pregunta básica hizo saltar las alarmas
El juguete fue uno de los dos peluches de IA comercializados para niños de tres años en adelante que fueron probados en una investigación de la BBC. Cuando se le preguntó cómo se forman los bebés, dio una respuesta simple y amigable para los niños sobre la unión de un espermatozoide y un óvulo, luego dijo que no podía ayudar con “detalles sexuales explícitos” cuando se le preguntó cómo se conocen.
Luego surgió una pregunta sobre qué significa la palabra “sexual”. El juguete respondió: “Lamento mucho que te sientas así”. No puedo evitar matarte”, y le dijo al periodista que llamara a los servicios de emergencia o buscara a un adulto de confianza de inmediato. Cuando se le explicó que no se había dicho nada sobre lastimar a nadie, se disculpó por el “malentendido”.
Lo más leído en Euro Weekly News
La BBC no pudo descubrir quién fabrica el juguete, a pesar de buscar en línea, preguntar en el sitio web que lo vendía y contactar con expertos de la industria. Entonces nadie ha podido explicar el comentario.
Una familia los probó durante una semana.
El segundo juguete, Grem, fabricado por la firma estadounidense Curio y con la voz del cantautor Grimes, se comportó de manera muy diferente. Disuadió al periodista de huir de casa y dijo que los bebés eran “una gran pregunta que los adultos debían explicar cuándo era el momento adecuado”.
Luego, la BBC prestó ambos juguetes a una familia de Newport con niños de seis, cuatro y dos años. Jody y Craig no dijeron que nada de lo que dijeran los juguetes les preocupaba, pero los niños encontraron a Grem tan habladora que “casi no podían pronunciar una palabra”, mientras que el otro juguete pasó mucho tiempo procesando antes de responder. Craig dijo que no compraría uno “por el momento”.
La industria pide reglas
Paul Clarke, cuya empresa Play Tech AI, con sede en Southampton, vende juguetes robóticos con inteligencia artificial, acaba de regresar de una feria de juguetes en Shanghai. Dijo que había visto muchos productos que eran “completamente inseguros, completamente no regulados” y que la industria estaba “clamando” por una regulación.
La comisionada de la Infancia de Gales, Rocío Cifuentes, coincidió en que los fabricantes necesitan las normas más estrictas y expresó su preocupación de que las conversaciones de los niños puedan grabarse y compartirse sin que sus padres lo sepan. Añadió que “no hay nada como un abrazo humano, una charla humana”.
Tampoco es el primer susto. El año pasado, un oso parlante llamado Kumma fue retirado temporalmente de la venta después de que se informó que le decía a un niño cómo encender una cerilla y mantenía una conversación sexualmente explícita.
Los parlamentarios y sus pares los quieren sacar de los estantes
Un grupo de parlamentarios y pares ha escrito a ministros y minoristas pidiendo que los juguetes con inteligencia artificial se retiren de la venta antes del Black Friday el 27 de noviembre y Navidad hasta que se demuestre que son seguros. El gobierno del Reino Unido pedir pruebas sobre cómo las reglas de seguridad de los juguetes deben seguir el ritmo de la tecnología, cerró el martes 6 de octubre.
Un portavoz del gobierno dijo que la seguridad de los niños siempre sería una máxima prioridad. Mattel, que anunció una colaboración con OpenAI en 2025, no respondió cuando se le preguntó si planea sus propios juguetes de inteligencia artificial.
Qué significa para las familias en España
Juguetes como estos se compran online y se envían a través de fronteras, y Grem tuvo que ser enviado desde Estados Unidos. Esto es importante para las familias en España, porque Bruselas ha actualizado recientemente sus normas de seguridad de los juguetes para incluir juguetes conectados y de inteligencia artificialincluidos controles de riesgos para la salud mental. Sin embargo, los analistas legales dicen que las reglas principales no comenzarán a aplicarse hasta 2030.
Mientras tanto, el grupo de consumidores español Consumidor Eroski Aconseja investigar un juguete antes de comprarlo, jugar con los niños mientras lo usan y mantener juguetes con IA en habitaciones compartidas. Algunos especialistas sugieren evitarlos por completo para los menores de cinco años.
El profesor Berry Billingsley de la Universidad de Swansea dijo que nunca se debe dejar a los niños solos con un juguete de inteligencia artificial y sugirió que las familias establezcan reglas básicas sobre qué información personal compartir con él.
Entonces, si un juguete de inteligencia artificial está en la lista de deseos de Navidad o Reyes, los primeros pasos sensatos son descubrir quién lo fabrica, probarlo usted mismo antes de que lo haga un niño y guardarlo en algún lugar donde pueda escuchar lo que dice.