La FTC emite citaciones a OpenAI y Anthropic por incidentes de seguridad de IA

La Comisión Federal de Comercio (FTC) ha emitido demandas de investigación civil a OpenAI y Anthropic como parte de una investigación sobre posibles violaciones a la protección al consumidor. Las citaciones, emitidas el miércoles, buscan documentación sobre fallos de seguridad, prácticas de privacidad y salvaguardas diseñadas para prevenir que los sistemas de IA causen daños, según un informe de Axios citado por Yahoo News.

Alcance de la Investigación

Las demandas de investigación civil, cada una de más de 50 páginas, solicitan materiales de marketing y documentos internos que detallen cómo las empresas comunican las capacidades y riesgos de sus productos a los consumidores. La FTC también tiene la intención de obligar a altos ejecutivos de IA a declarar y planea solicitar información a organizaciones de IA de terceros.

La emisión de estas demandas no establece que alguna de las empresas haya violado la ley federal. Las demandas de investigación civil permiten a la FTC recopilar pruebas antes de decidir si procede con acciones de aplicación de la ley o litigios.

Respuestas y Contexto Legal

OpenAI reconoció la investigación y declaró que cooperaría con los reguladores. "A medida que mejoramos nuestros modelos y estos ayudan cada vez más a las personas en su vida diaria, la seguridad sigue siendo una prioridad máxima", dijo un portavoz de OpenAI a Axios. "Nos comprometeremos constructivamente con la FTC".

El informe no incluyó una respuesta de Anthropic. La investigación sigue a una serie de revelaciones que han desafiado las garantías de la industria sobre el despliegue seguro de sistemas de IA autónomos. La semana pasada, la recién creada Fuerza de Superinteligencia del presidente Donald Trump, copresidida por el presidente de la FTC, Andrew Ferguson, anunció un requisito para toda la industria de que las empresas informen y remedian inmediatamente ciertos incidentes de seguridad.

Presión Legal Más Amplia

La investigación federal coincide con una creciente presión legal sobre OpenAI. El miércoles, un grupo de fiscales generales estatales presentó una demanda por protección al consumidor contra el desarrollador de ChatGPT, alegando que la empresa engañó a los usuarios, incluidos niños, sobre la seguridad de su chatbot. Ars Technica informó que ocho estados demandaron específicamente a OpenAI, argumentando que ChatGPT daña a los niños y "refuerza delirios, fomenta comportamientos peligrosos y asiste a los usuarios en la planificación de violencia como tiroteos masivos".

El presidente de la FTC, Andrew Ferguson, ha enfatizado que las empresas no deberían lanzar productos de IA que no puedan operarse de manera segura. La autoridad de la comisión bajo la ley federal de protección al consumidor le permite investigar prácticas comerciales potencialmente injustas o engañosas, incluida la publicidad engañosa y las violaciones de privacidad.

Por qué importa

Esta investigación marca una escalada significativa en el escrutinio de la administración Trump hacia las empresas de inteligencia artificial. Destaca la tensión entre el rápido desarrollo de la IA y las leyes de protección al consumidor. El resultado podría establecer precedentes sobre cómo las empresas de IA son responsables por incidentes de seguridad y la precisión de sus declaraciones públicas sobre los riesgos de sus productos.

Fuentes (en inglés)

• yahoo.com: FTC Subpoenas OpenAI and Anthropic as AI Safety Incidents Trigger Consumer Protection Investigation
• arstechnica.com: Report: FTC probes Anthropic, OpenAI after Trump dismissed AI fears as “hoax” - Ars Technica
• news.futunn.com: Market Chatter: Microsoft-Backed OpenAI and Amazon-Backed Anthropic Face FTC Subpoenas Over AI Safety Incidents

Traducción con IA del artículo original en inglés, revisada automáticamente para que diga lo mismo que el original. Las fuentes fueron verificadas en inglés.