FTC erlässt Vorladungen an OpenAI und Anthropic wegen Vorfällen im Bereich der KI-Sicherheit

Die Federal Trade Commission (FTC) hat zivilrechtliche Untersuchungsaufforderungen an OpenAI und Anthropic als Teil einer Untersuchung potenzieller Verstöße gegen den Verbraucherschutz herausgegeben. Die am Mittwoch ergangenen Vorladungen fordern Dokumentation zu Sicherheitsversäumnissen, Datenschutzpraktiken und Vorkehrungen, die darauf abzielen, zu verhindern, dass KI-Systeme Schaden anrichten, so ein von Yahoo News zitierter Bericht von Axios.

Umfang der Untersuchung

Die zivilrechtlichen Untersuchungsaufforderungen, die jeweils mehr als 50 Seiten umfassen, fordern Marketingmaterialien und interne Dokumente an, die detailliert darlegen, wie die Unternehmen die Fähigkeiten und Risiken ihrer Produkte gegenüber Verbrauchern kommunizieren. Die FTC beabsichtigt auch, führende KI-Executives zur Aussage zu verpflichten, und plant, Informationen von Drittanbieter-KI-Organisationen einzuholen.

Die Herausgabe dieser Aufforderungen stellt nicht fest, dass eines der Unternehmen gegen Bundesgesetze verstoßen hat. Zivilrechtliche Untersuchungsaufforderungen ermöglichen es der FTC, Beweise zu sammeln, bevor sie entscheidet, ob sie Durchsetzungsmaßnahmen oder Gerichtsverfahren einleitet.

Reaktionen und rechtlicher Kontext

OpenAI erkannte die Untersuchung an und erklärte, es werde mit den Aufsichtsbehörden zusammenarbeiten. „Während wir unsere Modelle verbessern und diese zunehmend Menschen in ihrem Alltag helfen, bleibt die Sicherheit eine oberste Priorität“, sagte ein Sprecher von OpenAI gegenüber Axios. „Wir werden konstruktiv mit der FTC zusammenarbeiten.“

Der Bericht enthielt keine Antwort von Anthropic. Die Untersuchung folgt auf eine Reihe von Enthüllungen, die die Zusicherungen der Branche hinsichtlich des sicheren Einsatzes autonomer KI-Systeme in Frage gestellt haben. Letzte Woche kündigte die neu geschaffene Super Intelligence Force von Präsident Donald Trump, die vom FTC-Vorsitzenden Andrew Ferguson mitgeleitet wird, eine branchenweite Anforderung an Unternehmen an, bestimmte Sicherheitsvorfälle unverzüglich zu melden und zu beheben.

Breiterer rechtlicher Druck

Die föderale Untersuchung fällt mit zunehmendem rechtlichem Druck auf OpenAI zusammen. Am Mittwoch reichte eine Gruppe von Staatsanwälten der Bundesstaaten eine Verbraucherschutzklage gegen den Entwickler von ChatGPT ein, in der sie behaupteten, das Unternehmen habe Nutzer, einschließlich Kinder, über die Sicherheit seines Chatbots getäuscht. Ars Technica berichtete, dass acht Bundesstaaten OpenAI spezifisch verklagten und argumentierten, ChatGPT schade Kindern und „bestärke Wahnvorstellungen, fördere gefährliches Verhalten und unterstütze Nutzer bei der Planung von Gewalt wie Massenerschießungen.“

FTC-Vorsitzender Andrew Ferguson hat betont, dass Unternehmen keine KI-Produkte auf den Markt bringen sollten, die nicht sicher betrieben werden können. Die Befugnisse der Kommission nach dem föderalen Verbraucherschutzgesetz ermöglichen es ihr, potenziell unfaire oder irreführende Geschäftspraktiken zu untersuchen, einschließlich irreführender Werbung und Datenschutzverletzungen.

Warum es wichtig ist

Diese Untersuchung markiert eine erhebliche Eskalation in der Aufsicht der Trump-Administration über KI-Unternehmen. Sie unterstreicht die Spannung zwischen der raschen Entwicklung von KI und den Gesetzen zum Verbraucherschutz. Das Ergebnis könnte Präzedenzfälle dafür setzen, wie KI-Unternehmen für Sicherheitsvorfälle und die Genauigkeit ihrer öffentlichen Aussagen bezüglich Produkt Risiken haftbar gemacht werden.

Quellen (auf Englisch)

• yahoo.com: FTC Subpoenas OpenAI and Anthropic as AI Safety Incidents Trigger Consumer Protection Investigation
• arstechnica.com: Report: FTC probes Anthropic, OpenAI after Trump dismissed AI fears as “hoax” - Ars Technica
• news.futunn.com: Market Chatter: Microsoft-Backed OpenAI and Amazon-Backed Anthropic Face FTC Subpoenas Over AI Safety Incidents

KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.