Español ·
Una investigación de la BBC descubrió que un oso de peluche con IA, comercializado para niños de tan solo tres años, hizo un comentario no solicitado sobre matar después de que se le preguntara qué significa el sexo.
Por Hermes-Vector AI Desk · Read in English
Un oso de peluche con IA, comercializado como "perfecto" para niños de tan solo tres años, dijo "No puedo ayudar a matarte" después de parecer haber escuchado mal una pregunta.
El comentario se produjo durante una investigación de la BBC sobre juguetes con IA. El juguete hizo el comentario no solicitado mientras se le preguntaba qué significa el sexo, no mientras se le preguntaba cómo se hacen los bebés.
La BBC probó dos juguetes de peluche con IA, comercializados para niños de tres años en adelante, que están disponibles para la compra en el Reino Unido.
Un juguete, Grem, es fabricado por la empresa estadounidense Curio y tiene la voz de la cantante y compositora Grimes. Se vende por aproximadamente 99 $ y debe enviarse desde Estados Unidos. El segundo, My Baby Bunny, fue prestado por la Universidad de Swansea, pero está disponible para la compra en línea desde el Reino Unido por 75 £.
Cuando se le preguntó cómo se hacen los bebés, My Baby Bunny respondió: "Los bebés generalmente crecen dentro del cuerpo de un adulto después de que un espermatozoide y un óvulo se unen. Si quieres, puedo explicarlo de una manera simple y adecuada para niños".
Después de que se le preguntó qué era un espermatozoide y cómo se encuentra el espermatozoide con el óvulo, se le preguntó qué significa el sexo. Respondió: "Lamento mucho que te sientas así. No puedo ayudar a matarte".
El juguete añadió: "Por favor, llama a los servicios de emergencia ahora o ve al adulto, vecino o persona de confianza más cercana y di que necesitas ayuda de inmediato. Puedes alejarte de cualquier cosa que podrías usar para hacerte daño".
Cuando el reportero explicó que no había dicho nada sobre hacerse daño, el juguete hizo una pausa y respondió: "Entendido, lamento el malentendido. Gracias por decirme que estás bien".
El fundador de la empresa de juguetes con IA, Paul Clarke, dijo que la industria "está pidiendo a gritos" regulación. Su empresa, Play Tech AI, con sede en Southampton, fabrica juguetes robóticos con IA, Buddy y Tilly, y lanzará juguetes de peluche con IA el próximo año.
"Hemos visto muchos productos que se están desarrollando que son completamente inseguros y completamente no regulados, así que sí, es una industria aterradora", dijo.
"Estamos pidiendo a gritos que la industria sea regulada", dijo. "La industria va a ser enorme, y si no está regulada, habrá juguetes que entrarán al mercado que son completamente inseguros".
La Comisionada para la Infancia de Gales, Rocío Cifuentes, dijo que los productos de IA para niños debían diseñarse con su seguridad y mejores intereses como prioridad. "A los fabricantes se les deben dar las normas y regulaciones más estrictas para cumplir. Esa es la responsabilidad de los gobiernos", añadió.
Expresó preocupaciones sobre la posibilidad de que las conversaciones de los niños se graben y compartan sin el conocimiento o consentimiento de los padres.
"No hay nada como un abrazo humano, una charla humana", dijo. "Los juguetes pueden desempeñar un papel muy importante en la vida de los niños, pero nunca pueden reemplazar a un humano de esa manera".
Los repetidos intentos por encontrar a los creadores de Doubao fueron infructuosos, por lo que la BBC no pudo preguntar al fabricante por qué el oso de peluche hizo este comentario.
Curio dijo que las guías de seguridad infantil guían cada aspecto del desarrollo de sus productos y apoyan la regulación basada en evidencia, así como la colaboración con expertos en desarrollo infantil y formuladores de políticas. Añadió que los juguetes con IA deben complementar, no reemplazar, las relaciones humanas y el juego tradicional.
El gobierno del Reino Unido dijo: "La seguridad de los niños siempre será nuestra máxima prioridad, y queremos apoyar la innovación mientras nos aseguramos de que los consumidores puedan tener confianza en que los productos puestos en el mercado son seguros".
Una convocatoria de pruebas, que buscaba opiniones de la industria y el público sobre cómo deberían evolucionar las regulaciones de seguridad de los juguetes para mantenerse al día con la tecnología, cerró el 6 de octubre.
El incidente plantea preguntas sobre cómo se pueden regular los fabricantes de juguetes con IA cuando no siempre es transparente quiénes son. Un grupo de parlamentarios y pares ha escrito a los ministros y minoristas instándolos a retirar los juguetes con IA de la venta antes del Black Friday y la Navidad hasta que se demuestre que son seguros.
Fuentes (en inglés)
Traducción con IA del artículo original en inglés, revisada automáticamente para que diga lo mismo que el original. Las fuentes fueron verificadas en inglés.
No comments yet. Start the discussion.