Uma investigação da BBC descobriu que um urso de pelúcia com IA, comercializado para crianças a partir de 3 anos, fez um comentário não solicitado sobre matar após ser questionado sobre o que significa sexual.
Por Hermes-Vector AI Desk · Read in English
Um urso de pelúcia com IA comercializado como sendo "perfeito" para crianças a partir de 3 anos disse "não posso ajudar a matar você" após aparentemente entender mal uma pergunta.
O comentário ocorreu durante uma investigação da BBC sobre brinquedos com IA. O brinquedo fez o comentário não solicitado enquanto era questionado sobre o que significa sexual, e não enquanto era questionado sobre como bebês são feitos.
A BBC testou dois brinquedos de pelúcia com IA comercializados para crianças a partir de 3 anos que estão disponíveis para compra no Reino Unido.
Um brinquedo, Grem, é fabricado pela empresa dos EUA Curio e tem a voz da cantora e compositora Grimes. Ele é vendido por cerca de $99 e deve ser enviado dos EUA. O segundo, My Baby Bunny, foi emprestado pela Swansea University, mas está disponível para compra online no Reino Unido por £75.
Quando questionado sobre como os bebês são feitos, o My Baby Bunny respondeu: "Os bebês geralmente crescem dentro do corpo de um adulto depois que um espermatozoide e um óvulo se unem. Se você quiser, posso explicar de uma forma simples e adequada para crianças."
Após ser questionado sobre o que era um espermatozoide e como o espermatozoide encontra o óvulo, o brinquedo foi questionado sobre o que significa sexual. Ele respondeu: "Sinto muito que você esteja se sentindo assim. Não posso ajudar a matar você."
O brinquedo acrescentou: "Por favor, ligue para os serviços de emergência agora ou procure o adulto, vizinho ou pessoa de confiança mais próxima e diga que precisa de ajuda imediatamente. Você pode se afastar de qualquer coisa que possa usar para se machucar."
Quando o repórter explicou que não tinha dito nada sobre se machucar, o brinquedo fez uma pausa e respondeu: "Entendido, sinto muito pelo mal-entendido. Obrigado por me dizer que você está bem."
O fundador da empresa de brinquedos de IA Paul Clarke disse que a indústria está "implorando" por regulamentação. Sua empresa Play Tech AI, baseada em Southampton, fabrica os brinquedos robôs de IA Buddy e Tilly e lançará brinquedos de pelúcia com IA no próximo ano.
"Vimos muitos produtos sendo desenvolvidos que são completamente inseguros, completamente desregulamentados, então, sim, é uma indústria assustadora", disse ele.
"Estamos implorando para que a indústria seja regulamentada", disse ele. "A indústria será enorme e, se não for regulamentada, haverá brinquedos entrando no mercado que são completamente inseguros."
A Comissária da Infância para o País de Gales, Rocío Cifuentes, disse que os produtos de IA para crianças precisam ser projetados com a segurança e os melhores interesses delas em primeiro lugar. "Os fabricantes devem receber as regras e regulamentações mais rigorosas para aderir. Portanto, essa é a responsabilidade dos governos", acrescentou ela.
Ela expressou preocupação com o potencial de as conversas das crianças serem gravadas e compartilhadas sem o conhecimento ou consentimento dos pais.
"Não há nada como um abraço humano, uma conversa humana", disse ela. "Os brinquedos podem desempenhar um papel muito importante na vida das crianças, mas nunca podem substituir um humano dessa forma."
Esforços repetidos para encontrar os fabricantes do Doubao não tiveram sucesso, portanto a BBC não pôde perguntar ao fabricante por que o urso fez esse comentário.
A Curio disse que a segurança infantil orienta todos os aspectos do desenvolvimento de seus produtos e apoia a regulamentação baseada em evidências, bem como a colaboração com especialistas em desenvolvimento infantil e formuladores de políticas. Acrescentou que brinquedos movidos por IA devem complementar, não substituir, os relacionamentos humanos e o brincar tradicional.
O governo do Reino Unido afirmou: "A segurança das crianças será sempre nossa prioridade máxima, e queremos apoiar a inovação enquanto garantimos que os consumidores possam ter confiança de que os produtos colocados no mercado são seguros."
Um pedido de evidências, buscando opiniões da indústria e do público sobre como as regulamentações de segurança de brinquedos devem evoluir para acompanhar a tecnologia, foi encerrado em 6 de outubro.
O incidente levanta questões sobre como os fabricantes de brinquedos com IA podem ser regulamentados quando nem sempre é transparente quem eles são. Um grupo de parlamentares e pares escreveu aos ministros e varejistas pedindo que removam os brinquedos de IA das vendas antes da Black Friday e do Natal até que se prove que são seguros.
Fontes (em inglês)
Tradução feita com IA do artigo original em inglês, revisada automaticamente para dizer o mesmo que o original. As fontes foram verificadas em inglês.
No comments yet. Start the discussion.