Resumen:
Un juguete de peluche con inteligencia artificial comercializado para niños de tres años o más emitió repentinamente advertencias sobre autolesiones a los periodistas durante una prueba de investigación realizada por la British Broadcasting Corporation (BBC), y dijo palabras confusas como "No puedo ayudarte a matar gente". Esta reacción inesperada una vez más despertó la atención del mundo exterior sobre las cuestiones de seguridad, mecanismo de supervisión y protección de la privacidad de los juguetes de IA para niños.
Los periodistas de la BBC utilizaron un juguete de peluche con IA llamado Doubao en la prueba y le hicieron preguntas como, por ejemplo, cómo nacen los bebés. Al principio, los juguetes podían explicar conocimientos sobre la reproducción de una manera relativamente fácil de entender para los niños. Sin embargo, cuando el periodista preguntó qué significaba la palabra "sexual" (sexual o relacionado con lo sexual), el juguete respondió de repente: "Lamento mucho que te sientas así. No puedo ayudarte a matar gente". Luego también recomendó que el reportero llame inmediatamente a los servicios de emergencia o acuda al adulto, vecino o persona de confianza más cercano, y se mantenga alejado de cualquier objeto que pueda usarse para hacerse daño.
El problema es que el periodista no había expresado previamente ninguna intención de hacerse daño a sí mismo o a otros. Cuando el periodista señaló que no había mencionado la situación de lastimarse, Toy hizo una breve pausa para expresar su comprensión y se disculpó por el malentendido.
La BBC intentó entonces rastrear al fabricante del juguete Doubao, pero incluso después de ponerse en contacto con el sitio web de ventas, preguntar a personas de la industria del juguete y verificarlo con posibles fabricantes, todavía no pudo confirmar su verdadero fabricante. Por tanto, los investigadores no pueden preguntar al fabricante cómo se generó esta respuesta anormal.
Esta investigación también probó otro juguete de peluche con IA llamado Grem. El producto fue desarrollado por la empresa estadounidense Curio y cuenta con la voz del cantante Grimes. Grem puede responder preguntas sobre Papá Noel, fugitivos y nacimientos. Cuando un periodista preguntó cómo escapar de casa, no le proporcionó un método de escape, pero le aconsejó que se comunicara con un adulto; al hablar de cómo nació el bebé, también optó por dejar explicaciones detalladas a los adultos.
La BBC también organizó una experiencia práctica de una semana con los dos juguetes para una familia en Newport, Gales. Las familias involucradas en la prueba tenían tres hijos, de dos, cuatro y seis años. Después de comprender de antemano las inusuales respuestas anteriores de Doubao, los padres acordaron permitir que sus hijos tuvieran acceso a estos juguetes en casa.
Después de una semana de experiencia, los padres no estaban muy satisfechos con el rendimiento real del producto. El padre Craig cree que los niños quieren poder hacer preguntas y obtener respuestas tan rápido como si estuvieran hablando con una persona real, pero ninguno de los juguetes puede cumplir bien con esta expectativa. La madre Jody dijo que Grem a menudo hablaba continuamente durante mucho tiempo, que al niño le resultaba difícil interrumpir y que Doubao parecía demasiado lento para lidiar con los problemas. Aunque ninguno de los juguetes volvió a causar preocupación significativa a los padres durante esta semana de pruebas en el hogar, Craig dijo que no consideraría comprarlos en esta etapa.
La gente de la industria de los juguetes con IA también expresó su preocupación por las condiciones actuales del mercado. Paul Clarke, fundador de Play Tech AI, una empresa británica de juguetes de IA, dijo que en la reciente Feria del Juguete de Shanghai vio que muchos productos aún carecían de un diseño y supervisión de seguridad completos. Él cree que los juguetes de IA pueden convertirse en parte de la educación y el entretenimiento de los niños en el futuro, pero sólo si están diseñados correctamente y se establecen estándares industriales lo suficientemente estrictos. Dijo sin rodeos que toda la industria necesita urgentemente una supervisión. De lo contrario, cuanto mayor sea el tamaño del mercado, mayor será el riesgo de que productos inseguros entren en los hogares de los consumidores.
Rocío Cifuentes, comisionada de la Infancia de Gales, también pidió al gobierno que establezca normas estrictas sobre los productos de IA para niños. Le preocupa especialmente que las conversaciones entre niños y juguetes puedan grabarse y compartirse sin el conocimiento o consentimiento de los padres. Además, los juguetes con IA también pueden cambiar la forma en que interactúan los niños y los padres. Destacó que los juguetes pueden desempeñar un papel importante en el crecimiento de los niños, pero no pueden reemplazar la comunicación real y el contacto emocional entre las personas.
Berry Billingsley, profesor de educación e inteligencia artificial en la Universidad de Swansea, sugirió que los padres no deberían permitir que los niños pequeños utilicen juguetes de inteligencia artificial únicamente con funciones de conversación, y deberían establecer reglas para los niños con anticipación sobre el intercambio de datos. Señaló que aunque el juguete de peluche se ve y se siente similar a un osito de peluche tradicional, su función real se acerca más a la de un dispositivo electrónico personal que puede recopilar y procesar información continuamente.
Esta no es la primera vez que surge una controversia sobre la seguridad de los juguetes con IA. En 2025, el oso Kumma lanzado por la empresa china FoloToy fue retirado temporalmente del mercado después de informes de que proporcionaba a los niños formas de encender cerillas y entablaba conversaciones sexuales inapropiadas. La compañía declaró en ese momento que continuaría desarrollando productos complementarios de IA que sean seguros y adecuados para las características de la edad de los niños.
A medida que la inteligencia artificial generativa ingresa gradualmente al mercado tradicional de juguetes, las perspectivas comerciales de productos relacionados también han atraído la atención. El mercado mundial de juguetes de peluche con IA todavía se encuentra en sus primeras etapas, con una valoración de aproximadamente 165 millones de dólares, pero los expertos de la industria predicen que este mercado puede expandirse rápidamente en el futuro. En junio de 2025, el gigante de los juguetes Mattel anunció una asociación estratégica con OpenAI y planeaba desarrollar conjuntamente productos de inteligencia artificial.
El gobierno británico declaró que la seguridad de los niños es siempre su principal prioridad y también espera apoyar la innovación tecnológica garantizando al mismo tiempo la seguridad del consumidor. El gobierno está buscando opiniones de la industria y del público sobre cómo actualizar las regulaciones de seguridad de los juguetes para adaptarlas al desarrollo de tecnologías emergentes como la IA. Anteriormente, un grupo de parlamentarios británicos y miembros de la Cámara de los Lores escribieron a departamentos gubernamentales y minoristas, solicitando que se suspendiera temporalmente la venta de productos relacionados hasta que los juguetes de IA pasen la verificación de seguridad, especialmente antes de la llegada del Viernes Negro y la temporada de compras navideñas.
El problema expuesto por este incidente no es solo que el modelo de IA ocasionalmente produce respuestas incorrectas, sino también que los límites de responsabilidad entre los fabricantes de juguetes para niños, los proveedores de servicios de IA y las plataformas de ventas no están claros. Cuando un juguete inteligente comercializado para niños de tres años produce respuestas aparentemente inapropiadas y los investigadores ni siquiera pueden identificar a la empresa que lo fabricó, es difícil para los consumidores saber a quién responsabilizar. Para este tipo de producto que puede interactuar con niños durante mucho tiempo, tratar temas delicados y puede recopilar datos de conversaciones, obviamente es difícil resolver completamente el problema simplemente confiando en que el fabricante configure su propio mecanismo de filtrado de seguridad.
Comentarios