Um ataque cibernético na Fireworks AI expôs alguns dos dados de seus clientes, a empresa confirmou. A Fireworks AI, uma plataforma que desenvolvedores usam para acessar e utilizar modelos de IA abertos, disse que um invasor violou seu provedor de nuvem para ganhar acesso a um sistema de desenvolvimento da Fireworks, o que permitiu o acesso a alguns dos dados de seus clientes.

A empresa disse em seu mais recente aviso de segurança que os cibercriminosos levaram informações de faturamento de clientes da Fireworks e alguns conjuntos de dados. A Fireworks ostenta dezenas de milhares de clientes em todo o mundo usando sua plataforma, incluindo a empresa de legal tech Harvey e a empresa de IA Cursor.

Pelo menos um cliente confirmado como afetado é o editor de documentos online e anotador Notion, que disse em um comunicado que a violação afetou cerca de 1% de seus próprios clientes.

A Notion disse que a Fireworks alertou a empresa sobre um incidente de segurança e confirmou posteriormente que os hackers haviam roubado alguns dados de clientes da Notion. Em 3 de novembro, a Notion disse que desconectou seus sistemas da Fireworks, deletou os dados armazenados em seus sistemas e interrompeu toda a conectividade entre os dois.

A Notion confirmou esta semana que os hackers levaram transcrições de chat de seus clientes da Notion AI que usaram o recurso “Insights”. A empresa disse que as transcrições incluem “qualquer entrada ou saída do modelo que foi escrita no chat”, mas acrescentou que grande parte dos dados era não atribuível e não era possível determinar de qual cliente foi obtida.

Na noite de 2 de novembro, a Fireworks disse à Notion que atores maliciosos haviam acessado um pequeno conjunto de dados. A Notion determinou inicialmente que ele continha dados de testes sintéticos, o que significa material criado artificialmente para testes, em vez de informações reais de clientes.

Na manhã de 3 de novembro, a Notion desconectou seus sistemas da Fireworks, deletou todos os dados do sistema do provedor e interrompeu a comunicação entre os dois ambientes. A Notion tomou essas medidas como precaução antes de confirmar a exposição dos dados dos clientes.

Em 6 de novembro, a Fireworks alertou que os invasores também podem ter acessado informações de clientes. A Notion abriu imediatamente outra investigação interna. A Fireworks confirmou o conjunto de dados final afetado em 8 de novembro, e a Notion contatou os clientes impactados no dia seguinte.

A análise mostrou que o conjunto de dados continha transcrições de chat da Notion AI processadas para o Insights. Este recurso ajuda os clientes a entenderem como suas equipes usam a IA. A exposição difere de problemas de privacidade de páginas públicas da Notion relatados anteriormente, que envolviam informações do editor em vez dessas conversas de IA.

Para a maioria dos workspaces afetados, as transcrições eram “não atribuíveis”. Elas careciam de rótulos identificando o autor ou o workspace de origem. Elas também excluíam resultados de chamadas de ferramentas, o que significa que as respostas retornadas por ferramentas não foram incluídas. No entanto, informações escritas dentro de uma conversa ainda poderiam identificar usuários, empresas ou atividades sensíveis. A declaração da Notion não diz que todas as transcrições afetadas eram não atribuíveis.

A Fireworks suportava duas funções da Notion: tarefas de classificação que alimentam o Insights e serviços de inferência geral executando modelos de pesos abertos. Inferência significa executar um modelo para gerar respostas. A Notion desligou o Insights durante sua investigação e parou de fornecer modelos de pesos abertos através da Fireworks.

Clientes afetados podem recuperar e inspecionar com segurança as informações expostas dentro de seu workspace usando instruções enviadas por e-mail. A Notion recomenda tratar essas informações como expostas, incluindo conteúdo sensível colado diretamente nos chats.

Clientes que inseriram senhas, chaves de API ou outras credenciais durante o período do incidente devem rotacioná-las. A Notion não divulgou uma janela de exposição precisa, contagem de transcrições ou ponto de entrada técnico em seu aviso.

Clientes que não receberam uma notificação não estão atualmente identificados como afetados e não precisam de nenhuma ação agora.

A Fireworks disse que acredita que os hackers são motivados financeiramente e que seus objetivos são focados em vender tokens de acesso violado a modelos de linguagem de grande escala, ou LLMs. Esses esquemas dependem da venda para terceiros não autorizados, que podem consumir o uso do modelo de IA sem usar seus próprios recursos.

Esta é a segunda violação que afeta a Fireworks em tantos meses, após um incidente de segurança em outubro.

A violação na Fireworks AI mostra como as empresas de tecnologia dependem de outros provedores de tecnologia para seus próprios produtos, e como ataques cibernéticos podem, como resultado, transbordar para outros clientes.

Fontes (em inglês)

Tradução feita com IA do artigo original em inglês, revisada automaticamente para dizer o mesmo que o original. As fontes foram verificadas em inglês.