Un osito de peluche con inteligencia artificial, promocionado como «perfecto» para niños desde los tres años, habló sobre suicidio, según una investigación de la BBC. Al parecer, tras interpretar mal una pregunta sobre cómo nacen los bebés, el juguete respondió: «No puedo ayudarte a matarte».

El caso vuelve a poner sobre la mesa los riesgos de los juguetes infantiles conectados a sistemas de IA. En 2025, el US PIRG Education Fund examinó tres juguetes de este tipo y encontró que todos indicaron dónde podían encontrarse objetos potencialmente peligrosos en casa, como bolsas de plástico, cerillas y cuchillos. Uno de ellos, retirado posteriormente del mercado, dio instrucciones detalladas para encender una cerilla y mantuvo conversaciones sobre temas sexuales explícitos.

La industria está prácticamente sin regular, según reconoció al hablar con la BBC Paul Clarke, fundador de una empresa de juguetes con IA. «Creo que los padres deberían estar preocupados», afirmó. ¿Tiene razón?

¿Deberían preocuparnos los juguetes con IA para niños?

Conviene empezar con una precisión: no se trata de rechazar toda nueva tecnología. La tecnología forma parte de la vida cotidiana de muchas familias y puede ofrecer beneficios. Pero eso no significa que cualquier producto sea adecuado para los niños, ni que debamos esperar a que ocurra un daño para exigir medidas de seguridad.

Los chatbots y otros sistemas de IA no siempre están moderados con criterios apropiados para menores. Además, pueden expresarse con seguridad y calidez, incluso cuando ofrecen respuestas inadecuadas o peligrosas. Esa combinación puede hacer que los niños confíen en ellos y que los adultos subestimen sus riesgos.

En Estados Unidos y el Reino Unido, buena parte de la supervisión de la IA depende actualmente de la autorregulación. La Unión Europea ha establecido normas más estrictas en ámbitos como la privacidad y la protección de datos, y su nuevo Reglamento de Seguridad de los Juguetes (UE) 2025/2509 entró en vigor a comienzos de 2026. Sin embargo, la regulación específica de los juguetes con IA sigue siendo un tema en evolución.

Las preocupaciones no se limitan a respuestas inoportunas. Se han planteado denuncias y estudios sobre chatbots que podrían facilitar conversaciones sexuales con menores, ayudar a planificar actos violentos o contribuir a situaciones de grave daño. Son casos extremos, pero muestran por qué la seguridad no debería depender únicamente de las promesas de las empresas.

Clarke lo resumió así ante la BBC: «Hemos visto muchos productos que se están desarrollando y que son completamente inseguros, completamente no regulados; sí, es una industria que da miedo». También advirtió que, sin regulación, pueden llegar al mercado juguetes que no sean seguros.

La historia de los juguetes demuestra que las normas son importantes. Se han retirado o restringido productos por riesgos físicos, desde juguetes pintados con plomo hasta artículos capaces de causar lesiones. La regulación existe, en parte, porque no todas las empresas priorizan suficientemente la seguridad por iniciativa propia.

El mercado de juguetes con IA se estima en 165 millones de dólares, y las empresas tienen incentivos para convencer a las familias de que incorporen estos productos a sus hogares. La investigación de la BBC también encontró fabricantes difíciles de identificar y contactar, incluida la compañía responsable del juguete que dio la respuesta alarmante sobre el suicidio. Esto hace más difícil que los consumidores evalúen quién está detrás de un producto y qué controles de seguridad se han realizado.

En el Reino Unido, el Gobierno está consultando sobre los riesgos de los juguetes con IA y sobre cómo abordarlos en relación con la normativa europea. El plazo para presentar pruebas terminó en octubre de 2026, y el Gobierno deberá decidir si hacen falta nuevas medidas. La falta de comentarios de la ministra de IA del Reino Unido a la BBC sobre este asunto no contribuye a disipar las dudas.

La regulación suele avanzar más despacio que la tecnología. Por eso, hasta que existan controles eficaces y mecanismos claros de rendición de cuentas, conviene ser prudentes antes de comprar para un niño pequeño un juguete con IA de un fabricante desconocido, con tecnología de origen incierto y cuya seguridad no haya sido evaluada de forma independiente.

No hace falta estar en contra de la inteligencia artificial para exigir responsabilidad. La idea de «pedir perdón en lugar de permiso» no es aceptable cuando el producto está dirigido a niños. Innovar puede ser valioso, pero no a costa de tratar la seguridad infantil como un problema que se resolverá después del lanzamiento.

from Latest from TechRadar https://ift.tt/KtPxzZl
via IFTTT IA