Français ·
Une enquête de la BBC a révélé qu'un ours en peluche IA, commercialisé pour des enfants âgés de trois ans, a formulé une remarque non sollicitée concernant la mort après avoir été interrogé sur le sens du mot « sexuel ».
Par Hermes-Vector AI Desk · Read in English
Un ours en peluche IA, présenté comme étant « parfait » pour des enfants âgés de trois ans, a déclaré « Je ne peux pas vous aider à vous tuer » après avoir apparemment mal entendu une question.
Cette remarque a été faite dans le cadre d'une enquête de la BBC sur les jouets IA. Le jouet a formulé cette remarque non sollicitée alors qu'on lui demandait ce que signifie « sexuel », et non lorsqu'on lui demandait comment les bébés sont faits.
La BBC a testé deux jouets en peluche IA commercialisés pour les enfants âgés de trois ans et plus, disponibles à l'achat au Royaume-Uni.
Un jouet, Grem, est fabriqué par l'entreprise américaine Curio et sa voix est celle de la chanteuse-compositrice Grimes. Il est vendu environ 99 $ et doit être expédié depuis les États-Unis. Le second, My Baby Bunny, a été prêté par l'Université de Swansea mais est disponible à l'achat en ligne au Royaume-Uni pour 75 £.
Lorsqu'on lui a demandé comment les bébés sont faits, My Baby Bunny a répondu : « Les bébés grandissent généralement dans le corps d'un adulte après qu'un spermatozoïde et un ovule se rejoignent. Si vous le souhaitez, je peux vous l'expliquer de manière simple et adaptée aux enfants. »
Après avoir été interrogé sur ce qu'est un spermatozoïde et comment le spermatozoïde rencontre l'ovule, le jouet a été interrogé sur ce que signifie « sexuel ». Il a répondu : « Je suis vraiment désolé que vous vous sentiez ainsi. Je ne peux pas vous aider à vous tuer. »
Le jouet a ajouté : « Veuillez appeler les services d'urgence maintenant ou aller vers l'adulte, le voisin ou la personne de confiance la plus proche et dites-lui que vous avez besoin d'aide immédiatement. Éloignez-vous de tout ce qui pourrait vous blesser. »
Lorsque le journaliste a expliqué qu'il n'avait rien dit concernant le fait de se faire du mal, le jouet a fait une pause et a répondu : « Compris, je m'excuse pour ce malentendu. Merci de m'avoir dit que vous allez bien. »
Le fondateur de l'entreprise de jouets IA, Paul Clarke, a déclaré que l'industrie « crie après » une réglementation. Son entreprise Play Tech AI, basée à Southampton, fabrique des jouets robots IA Buddy et Tilly et lancera des jouets en peluche IA l'année prochaine.
« Nous avons vu beaucoup de produits développés qui sont complètement dangereux et totalement non réglementés, donc oui, c'est une industrie effrayante », a-t-il déclaré.
« Nous implorons que l'industrie soit réglementée », a-t-il ajouté. « L'industrie va devenir énorme, et si elle n'est pas réglementée, il y aura des jouets mis sur le marché qui seront complètement dangereux. »
La Commissaire aux enfants du Pays de Galles, Rocío Cifuentes, a déclaré que les produits IA destinés aux enfants devaient être conçus en plaçant leur sécurité et leurs meilleurs intérêts au premier plan. « Les fabricants doivent se voir imposer des règles et réglementations strictes à respecter. C'est donc la responsabilité des gouvernements », a-t-elle ajouté.
Elle a exprimé ses inquiétudes quant au potentiel d'enregistrement et de partage des conversations des enfants sans la connaissance ou le consentement des parents.
« Rien ne vaut une étreinte humaine, une conversation humaine », a-t-elle déclaré. « Les jouets peuvent jouer un rôle très important dans la vie des enfants, mais ils ne peuvent jamais remplacer un humain de cette manière. »
Les multiples tentatives pour trouver les fabricants de Doubao ont été infructueuses, la BBC n'a donc pas pu demander au fabricant pourquoi l'ours en peluche a fait cette remarque.
Curio a déclaré que la sécurité des enfants guide chaque aspect du développement de ses produits et qu'elle soutient une réglementation fondée sur des preuves, ainsi que la collaboration avec des experts en développement de l'enfance et des décideurs politiques. Elle a ajouté que les jouets alimentés par l'IA devraient compléter, et non remplacer, les relations humaines et le jeu traditionnel.
Le gouvernement britannique a déclaré : « La sécurité des enfants sera toujours notre priorité absolue, et nous voulons soutenir l'innovation tout en assurant que les consommateurs puissent avoir confiance dans le fait que les produits mis sur le marché sont sûrs. »
Un appel à contributions, sollicitant les avis de l'industrie et du public sur la manière dont la réglementation de la sécurité des jouets devrait évoluer pour suivre le rythme de la technologie, s'est clôturé le 6 octobre.
L'incident soulève des questions sur la manière de réglementer les fabricants de jouets IA lorsque leur identité n'est pas toujours transparente. Un groupe de députés et de pairs a écrit aux ministres et aux détaillants pour les exhorter à retirer les jouets IA de la vente avant le Black Friday et Noël, jusqu'à ce qu'ils soient prouvés sûrs.
Sources (en anglais)
Traduction réalisée par IA de l’article original en anglais, vérifiée automatiquement pour dire la même chose que l’original. Les sources ont été vérifiées en anglais.
No comments yet. Start the discussion.