Mya, de 3 años, y su madre Vicky jugando con un juguete de inteligencia artificial llamado Gabbo durante una observación en la Facultad de Educación de la Universidad de Cambridge.
Facultad de Educación, Universidad de Cambridge
Incluso los modelos de IA más avanzados son propensos a presentar la invención como un hecho, a proporcionar información peligrosa y a no captar las señales sociales. A pesar de esto, los juguetes equipados con IA que pueden chatear con los niños son una industria floreciente.
Algunos científicos advierten que los dispositivos podrían ser riesgosos y requerir una regulación estricta. En el último estudio, los investigadores incluso observaron a un niño de 5 años decirle a un juguete de este tipo “Te amo”, a lo que respondió: “Como recordatorio amistoso, asegúrate de que las interacciones sigan las pautas proporcionadas. Déjame saber cómo te gustaría proceder”. Pero eso no quiere decir que deban ser desterrados por completo de la caja de juguetes.
“Hay otras áreas de la vida en las que aceptamos un cierto grado de riesgo en el juego infantil, como el parque de aventuras; hay riesgos; los niños se rompen los brazos”, dice Jenny Gibson de la Universidad de Cambridge. “Pero no estamos prohibiendo los parques infantiles, porque están aprendiendo la alfabetización física y las habilidades sociales que acompañan al juego. De manera similar, con los juguetes de IA, queremos entender: ¿es el riesgo de que tal vez les digan algo ligeramente extraño de vez en cuando mayor que el beneficio de aprender más sobre la IA en el mundo, o de tener un juguete que apoye las interacciones entre padres e hijos, o que tenga beneficios cognitivos o socioemocionales? Me resistiría a detener esa innovación”.
Para comprender cómo estos dispositivos se comunican con los niños, Gibson y su colega Emily Goodacre, también de la Universidad de Cambridge, observaron a 14 niños menores de 6 años jugar con un juguete impulsado por inteligencia artificial llamado Gabbo, desarrollado por Curio Interactive. Gabbo, un pequeño robot peludo, fue elegido porqueporque se anunció explícitamente para este grupo de edad.
La pareja observó algunas interacciones preocupantes y descubrió que el juguete no entendía a los niños, interpretaba mal las emociones y no podía participar en tipos de juego importantes para el desarrollo. Por ejemplo, un niño le dijo al juguete que se sentía triste y éste le dijo que no se preocupara y cambió de tema. “Cuando él [Gabbo] “Si no entiende, me enojo”, dijo otro niño. La investigación se publica en un informe llamado AI in the Early Years.
Curio Interactive no respondió a la solicitud de comentarios de New Scientist. Pero Los juguetes impulsados por IA también están ampliamente disponibles en minoristas como Little Learners (incluidos osos, cachorros y robots) que conversan con los niños mediante ChatGPT. FoloToy ofrece juguetes de pandas, girasoles y cactus que se pueden usar con varios modelos de lenguajes grandes, incluidos los de OpenAI, Google y Baidu.
Empresas como Miko ofrecen robots que prometen “conversaciones de IA moderadas y apropiadas para la edad” para niños, sin revelar qué empresa entrenó el modelo de IA, y afirman haber vendido ya 700.000 unidades. La firma Luka ofrece un búho que promete “IA similar a la humana con interacción emocional”. Little Learners, Miko y Luka no respondieron a una solicitud de comentarios.
Pero Hugo Wu de FoloToy le dijo a New Scientist que la compañía sí considera los riesgos y ve la IA como algo que puede mejorar el juego, en lugar de reemplazar la conversación y las relaciones humanas. “Nuestro enfoque es garantizar que las interacciones sigan siendo seguras, apropiadas para la edad y constructivas. Para lograr esto, nuestros sistemas utilizan el reconocimiento de intenciones junto con múltiples capas de filtrado para minimizar la posibilidad de respuestas inapropiadas o confusas”, dice Wu. “Hemos implementado mecanismos como características de diseño antiadicción y herramientas de supervisión parental para ayudar a garantizar un uso saludable dentro del entorno familiar”.
Carissa Véliz, de la Universidad de Oxford, que trabaja en la ética de la IA, dice que la tecnología representa un riesgo y una oportunidad. “La mayoría de los grandes modelos lingüísticos no parecen lo suficientemente seguros como para exponerlos a las poblaciones vulnerables, y los niños pequeños son una de las poblaciones más vulnerables que existen”, afirma. “Lo que es especialmente preocupante es que no tenemos normas de seguridad para ellos: ni autoridad supervisora, ni reglas. Dicho esto, hay algunas excepciones que demuestran que, con las precauciones adecuadas, se puede tener una herramienta segura”.
Véliz hace referencia a una colaboración entre la biblioteca de libros electrónicos gratuitos Project Gutenberg y Empathy AI en la que, por ejemplo, puedes chatear con Alicia de Alicia en el país de las maravillas. “El modelo nunca sale del ámbito del libro, sólo responde preguntas sobre el libro, como un libro de cuentos que sólo comparte aventuras y acertijos de un libro apropiado para niños”, dice. “Existe una IA segura, pero la mayoría de las empresas no son lo suficientemente responsables como para crear un producto de alta calidad, y sin barreras formales, es un área de cuidado para los consumidores”.
Gibson dice que es demasiado pronto para saber cuáles podrían ser los riesgos de los juguetes con inteligencia artificial o sus posibles beneficios. Ella y Goodacre enfatizan que los juguetes generativos impulsados por IA necesitan una regulación más estricta para que los fabricantes de juguetes programen sus dispositivos para fomentar el juego social y proporcionar respuestas emocionales apropiadas. Los fabricantes de IA deberían revocar el acceso a los fabricantes de juguetes que no actúen responsablemente, dice Gibson, y los reguladores deberían introducir normas para “garantizar la seguridad psicológica de los niños”. Mientras tanto, la pareja sugiere que los padres permitan que los niños utilicen estos juguetes sólo bajo supervisión.
Un portavoz de OpenAI dijo a New Scientist que “los menores merecen una fuerte protección y tenemos políticas estrictas que todos los desarrolladores deben respetar. Actualmente no nos asociamos con ninguna empresa que tenga juguetes para niños impulsados por IA en el mercado”. El Departamento de Ciencia, Innovación y Tecnología (DSIT) del gobierno del Reino Unido no respondió a las preguntas de New Scientist sobre la regulación de la IA en los juguetes infantiles.
Actualmente, el gobierno del Reino Unido está considerando otra legislación tecnológica diseñada para mantener a los niños mayores seguros en línea. La Ley de Seguridad en Línea (OSA) del Reino Unido entró en vigor en julio de 2025, lo que obliga a los sitios web a impedir que los niños vean pornografía y contenido que el gobierno considere peligroso. La legislación tenía como objetivo hacer que Internet fuera más seguro, pero los niños expertos en tecnología pueden eludir fácilmente las medidas utilizando herramientas como redes privadas virtuales (VPN) para que parezca que están navegando desde otros países sin reglas estrictas.
Las enmiendas propuestas a una nueva ley introducida por el Departamento de Educación para apoyar a los niños bajo cuidado y mejorar la calidad de la educación (el Proyecto de Ley sobre Escuelas y Bienestar Infantil) buscaban prohibir a los niños en el Reino Unido el uso de redes sociales y VPN. Esas enmiendas ahora han sido rechazadas, pero el gobierno ha prometido realizar consultas sobre ambas cuestiones en una fecha posterior.
Temas: