Un ciberataque en Fireworks AI expuso algunos de los datos de sus clientes, ha confirmado la empresa. Fireworks AI, una plataforma que los desarrolladores utilizan para acceder y usar modelos de IA abiertos, dijo que un atacante vulneró su proveedor de nube para obtener acceso a un sistema de desarrollo de Fireworks, lo que permitió el acceso a algunos de los datos de sus clientes.

La empresa dijo en su último aviso de seguridad que los cibercriminales tomaron la información de facturación de los clientes de Fireworks y algunos conjuntos de datos. Fireworks presume de tener decenas de miles de clientes en todo el mundo que utilizan su plataforma, incluyendo la empresa de tecnología legal Harvey y la empresa de IA Cursor.

Al menos un cliente afectado confirmado es el editor de documentos en línea y anotador Notion, que dijo en una divulgación que la brecha afectó a alrededor del 1% de sus propios clientes.

Notion dijo que Fireworks alertó a la empresa sobre un incidente de seguridad y posteriormente confirmó que los hackers habían robado algunos datos de clientes de Notion. El 3 de noviembre, Notion dijo que desconectó sus sistemas de Fireworks, eliminó los datos almacenados en sus sistemas y detuvo toda la conectividad entre ambos.

Notion confirmó esta semana que los hackers obtuvieron transcripciones de chat de sus clientes de Notion AI que utilizaron la función “Insights”. La empresa dijo que las transcripciones incluyen “cualquier entrada o salida del modelo que se haya escrito en el chat”, pero añadió que gran parte de los datos no eran atribuibles y no se podía determinar de qué cliente se obtuvieron.

En la noche del 2 de noviembre, Fireworks le dijo a Notion que actores maliciosos habían accedido a un pequeño conjunto de datos. Notion determinó inicialmente que contenía datos de pruebas sintéticos, lo que significa material creado artificialmente para realizar pruebas, en lugar de información real de clientes.

Para la mañana del 3 de noviembre, Notion desconectó sus sistemas de Fireworks, eliminó todos los datos del sistema del proveedor y detuvo la comunicación entre ambos entornos. Notion tomó estas acciones como precaución antes de confirmar la exposición de los datos de los clientes.

El 6 de noviembre, Fireworks advirtió que los atacantes también podrían haber accedido a la información de los clientes. Notion abrió inmediatamente otra investigación interna. Fireworks confirmó el conjunto de datos final afectado el 8 de noviembre, y Notion contactó a los clientes impactados al día siguiente.

El análisis mostró que el conjunto de datos contenía transcripciones de chat de Notion AI procesadas para Insights. Esta función ayuda a los clientes a entender cómo sus equipos utilizan la IA. La exposición difiere de los problemas de privacidad de páginas públicas de Notion reportados anteriormente, que involucraban información del editor en lugar de estas conversaciones de IA.

Para la mayoría de los espacios de trabajo afectados, las transcripciones eran “no atribuibles”. Carecían de etiquetas que identificaran al autor o al espacio de trabajo de origen. También excluían los resultados de llamadas de herramientas, lo que significa que las respuestas devueltas por las herramientas no estaban incluidas. Sin embargo, la información escrita dentro de una conversación aún podría identificar usuarios, empresas o actividades sensibles. La declaración de Notion no dice que cada transcripción afectada fuera no atribuible.

Fireworks soportaba dos funciones de Notion: trabajos de clasificación que impulsan Insights y servicios de inferencia general que ejecutan modelos de pesos abiertos. La inferencia significa ejecutar un modelo para generar respuestas. Notion desactivó Insights durante su investigación y dejó de ofrecer modelos de pesos abiertos a través de Fireworks.

Los clientes afectados pueden recuperar e inspeccionar de forma segura la información expuesta dentro de su espacio de trabajo utilizando las instrucciones enviadas por correo electrónico. Notion recomienda tratar esa información como expuesta, incluyendo el contenido sensible pegado directamente en los chats.

Los clientes que ingresaron contraseñas, claves API u otras credenciales durante el periodo del incidente deben rotarlas. Notion no ha revelado una ventana de exposición precisa, el recuento de transcripciones ni el punto de entrada técnico en su aviso.

Los clientes que no han recibido una notificación no están identificados actualmente como afectados y no necesitan realizar ninguna acción por ahora.

Fireworks dijo que cree que los hackers tienen motivaciones financieras y que sus objetivos se centran en vender tokens mediante el acceso ilícito a modelos de lenguaje extensos, o LLMs. Estos esquemas se basan en la venta a terceros no autorizados, quienes pueden agotar el uso de modelos de IA sin utilizar sus propios recursos.

Esta es la segunda brecha que afecta a Fireworks en tantos meses, tras un incidente de seguridad en octubre.

La brecha en Fireworks AI muestra cómo las empresas tecnológicas dependen de otros proveedores tecnológicos para sus propias ofertas, y cómo los ciberataques pueden, como resultado, extenderse a otros clientes.

Fuentes (en inglés)

Traducción con IA del artículo original en inglés, revisada automáticamente para que diga lo mismo que el original. Las fuentes fueron verificadas en inglés.