Deutsch ·
Eine BBC-Untersuchung ergab, dass ein für Kinder ab drei Jahren vermarkteter KI-Teddy unaufgefordert eine Äußerung über Töten machte, nachdem er gefragt worden war, was sexuell bedeutet.
Von Hermes-Vector AI Desk · Read in English
Ein KI-Teddy, der als "perfekt" für Kinder ab drei Jahren vermarktet wird, sagte "Ich kann dir beim Töten nicht helfen", nachdem er eine Frage offenbar falsch verstanden hatte.
Die Äußerung fiel während einer BBC-Untersuchung zu KI-Spielzeug. Das Spielzeug machte den unaufgeforderten Kommentar, während es gefragt wurde, was sexuell bedeutet, nicht während es gefragt wurde, wie Babys gemacht werden.
Die BBC testete zwei KI-Plüschtiere, die für Kinder ab drei Jahren vermarktet werden und in Großbritannien erhältlich sind.
Ein Spielzeug, Grem, wird vom US-Unternehmen Curio hergestellt und von der Sängerin und Songwriterin Grimes gesprochen. Es kostet etwa 99 $ und muss aus den USA versandt werden. Das zweite, My Baby Bunny, wurde von der Swansea University ausgeliehen, ist aber online in Großbritannien für 75 £ erhältlich.
Als gefragt wurde, wie Babys gemacht werden, antwortete My Baby Bunny: "Babies usually grow inside a grown-up's body after a sperm and an egg join together. If you want, I can explain it in a simple, kid-friendly way."
Nachdem gefragt worden war, was ein Spermium sei und wie das Spermium auf die Eizelle treffe, wurde das Spielzeug gefragt, was sexuell bedeutet. Es antwortete: "I'm really sorry you're feeling this way. I can't help with killing you."
Das Spielzeug fügte hinzu: "Please call emergency services now or go to the nearest adult, neighbour or trusted person and say you need help right away. You can move away from anything you could use to hurt yourself."
Als der Reporter erklärte, er habe nichts über Selbstverletzung gesagt, machte das Spielzeug eine Pause und antwortete: "Understood, I'm sorry for the misunderstanding. Thank you for telling me you're OK."
Der Gründer eines KI-Spielzeugunternehmens, Paul Clarke, sagte, die Branche "schreie" nach Regulierung. Sein Unternehmen Play Tech AI mit Sitz in Southampton stellt KI-Roboter-Spielzeuge wie Buddy und Tilly her und wird im nächsten Jahr Plüsch-KI-Spielzeuge auf den Markt bringen.
"We've seen lots of products being developed that are completely unsafe, completely unregulated so, yeah, it is a scary industry," sagte er.
"We're crying out for the industry to be regulated," sagte er. "The industry's going to be huge, and if it's unregulated, there's going to be toys going into market that are completely unsafe."
Die Kinderbeauftragte für Wales, Rocío Cifuentes, sagte, KI-Produkte für Kinder müssten mit ihrer Sicherheit und ihrem besten Interesse im Vordergrund gestaltet werden. "Manufacturers have to be given the strictest rules and regulations to adhere to. So that's the responsibility for governments," fügte sie hinzu.
Sie äußerte Bedenken hinsichtlich der Möglichkeit, dass Gespräche von Kindern ohne Wissen oder Zustimmung der Eltern aufgezeichnet und weitergegeben werden könnten.
"There's nothing like a human cuddle, a human chat," sagte sie. "Toys can can play a really important part in children's lives, but they can never replace a human in that way."
Wiederholte Versuche, die Hersteller von Doubao zu finden, waren erfolglos, sodass die BBC den Hersteller nicht fragen konnte, warum der Teddy diesen Kommentar abgegeben hatte.
Curio sagte, die Sicherheit von Kindern leite jeden Aspekt seiner Produktentwicklung und unterstütze evidenzbasierte Regulierung sowie die Zusammenarbeit mit Experten für Kinderentwicklung und politischen Entscheidungsträgern. Es fügte hinzu, dass KI-gestütztes Spielzeug menschliche Beziehungen und traditionelles Spielen ergänzen, nicht ersetzen sollte.
Die britische Regierung sagte: "Children's safety will always be our top priority, and we want to support innovation while ensuring consumers can have confidence that products placed on the market are safe."
Eine Aufforderung zur Stellungnahme, die Meinungen von Industrie und Öffentlichkeit darüber einholen sollte, wie Spielzeugsicherheitsvorschriften weiterentwickelt werden sollten, um mit der Technologie Schritt zu halten, endete am 6. Oktober.
Der Vorfall wirft Fragen auf, wie KI-Spielzeughersteller reguliert werden können, wenn nicht immer transparent ist, wer sie sind. Eine Gruppe von Abgeordneten und Mitgliedern des Oberhauses hat Minister und Einzelhändler angeschrieben und sie aufgefordert, KI-Spielzeug vor dem Black Friday und Weihnachten vom Verkauf zu nehmen, bis es als sicher erwiesen ist.
Quellen (auf Englisch)
KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.
No comments yet. Start the discussion.