La FTC assigne OpenAI et Anthropic pour des incidents de sécurité de l'IA

La Federal Trade Commission (FTC) a émis des demandes d'enquête civile à l'encontre d'OpenAI et d'Anthropic dans le cadre d'une enquête sur d'éventuelles violations de la protection des consommateurs. Selon un rapport d'Axios cité par Yahoo News, les assignations à comparaître, émises mercredi, demandent des documents concernant les défaillances de sécurité, les pratiques en matière de confidentialité et les mesures de protection conçues pour empêcher les systèmes d'IA de causer des dommages.

Portée de l'enquête

Les demandes d'enquête civile, chacune dépassant 50 pages, sollicitent les supports marketing et les documents internes détaillant la manière dont les entreprises communiquent les capacités et les risques de leurs produits aux consommateurs. La FTC entend également contraindre les hauts dirigeants de l'IA à témoigner et prévoit de solliciter des informations auprès d'organisations tierces spécialisées dans l'IA.

L'émission de ces demandes n'établit pas qu'une des deux entreprises ait enfreint la loi fédérale. Les demandes d'enquête civile permettent à la FTC de recueillir des preuves avant de décider si elle engage des procédures d'application de la loi ou des poursuites judiciaires.

Réponses et contexte juridique

OpenAI a reconnu l'enquête et a déclaré qu'elle coopérerait avec les autorités de régulation. « À mesure que nous améliorons nos modèles et qu'ils aident de plus en plus les gens dans leur vie quotidienne, la sécurité reste une priorité absolue », a déclaré un porte-parole d'OpenAI à Axios. « Nous engagerons une collaboration constructive avec la FTC. »

Le rapport ne comprenait pas de réponse d'Anthropic. L'enquête fait suite à une série de divulgations qui ont remis en cause les garanties de l'industrie concernant le déploiement sûr des systèmes d'IA autonomes. La semaine dernière, la nouvelle Super Intelligence Force du président Donald Trump, coprésidée par le président de la FTC Andrew Ferguson, a annoncé une exigence à l'échelle de l'industrie obligeant les entreprises à signaler et à remédier immédiatement à certains incidents de sécurité.

Pression juridique plus large

L'enquête fédérale coïncide avec une pression juridique croissante sur OpenAI. Mercredi, un groupe de procureurs généraux des États a intenté un procès pour violation de la protection des consommateurs contre le développeur de ChatGPT, alléguant que l'entreprise a induit les utilisateurs, y compris les enfants, en erreur sur la sécurité de son chatbot. Ars Technica a rapporté que huit États ont spécifiquement poursuivi OpenAI, arguant que ChatGPT nuit aux enfants et « renforce les illusions, encourage les comportements dangereux et aide les utilisateurs à planifier des actes de violence comme des fusillades de masse. »

Le président de la FTC, Andrew Ferguson, a souligné que les entreprises ne devraient pas commercialiser de produits d'IA qui ne peuvent pas être exploités en toute sécurité. Le pouvoir de la commission en vertu de la loi fédérale sur la protection des consommateurs lui permet d'enquêter sur des pratiques commerciales potentiellement déloyales ou trompeuses, y compris la publicité trompeuse et les violations de la confidentialité.

Pourquoi c'est important

Cette enquête marque une escalade significative dans le contrôle exercé par l'administration Trump sur les entreprises d'intelligence artificielle. Elle met en lumière la tension entre le développement rapide de l'IA et les lois sur la protection des consommateurs. L'issue de cette enquête pourrait établir des précédents quant à la responsabilité des entreprises d'IA en cas d'incidents de sécurité et à l'exactitude de leurs déclarations publiques concernant les risques des produits.

Sources (en anglais)

• yahoo.com: FTC Subpoenas OpenAI and Anthropic as AI Safety Incidents Trigger Consumer Protection Investigation
• arstechnica.com: Report: FTC probes Anthropic, OpenAI after Trump dismissed AI fears as “hoax” - Ars Technica
• news.futunn.com: Market Chatter: Microsoft-Backed OpenAI and Amazon-Backed Anthropic Face FTC Subpoenas Over AI Safety Incidents

Traduction réalisée par IA de l’article original en anglais, vérifiée automatiquement pour dire la même chose que l’original. Les sources ont été vérifiées en anglais.