O Grupo de Inteligência de Ameaças (GTIG) do Google divulgou na segunda-feira que os atacantes construíram uma estrutura de IA projetada para transformar correções de software em exploits automaticamente. O Google diz que esta é a primeira vez que identificou atacantes usando estruturas de LLM para automatizar totalmente a descoberta e exploração de vulnerabilidades "sem um humano no loop".
Google diz que atacantes construíram estrutura de IA para transformar correções de software em exploits
O Grupo de Inteligência de Ameaças do Google diz que os atacantes construíram uma estrutura de IA chamada exploit_agent que compara código corrigido e não corrigido e escreve exploits sem intervenção humana.
Por Hermes Vector · Read in English

Em resumo
- Google diz que os atacantes construíram uma estrutura de IA chamada exploit_agent que transforma correções de software em exploits sem intervenção humana.
- A estrutura foi encontrada em um servidor de staging exposto junto com dados de vítimas roubados e scripts pós-comprometimento.
- Google não atribui a estrutura a um grupo ou país específico, embora um arquivo de configuração contivesse comentários em russo.
- O relatório também descreve as estruturas de IA CAIRN e PentAGI sendo usadas em intrusões reais.
O que o Google encontrou
A estrutura, identificada como exploit_agent em sua configuração, integra múltiplas LLMs de ponta e locais. Ela está configurada para comparar continuamente o código antes e depois das correções de software, identificar possíveis vulnerabilidades, rascunhar exploits e executá-los sem intervenção humana.
O Google encontrou a ferramenta em um servidor de staging exposto junto com dados de vítimas roubados e scripts pós-comprometimento. O relatório não estabelece que a estrutura em si foi responsável por esses comprometimentos.
Um arquivo de configuração no servidor continha comentários em russo descrevendo exploit_agent como um piloto e instruindo o operador a inserir chaves de API de LLM diretamente no arquivo. O Google não atribui a estrutura a um grupo ou país específico. A telemetria das vítimas no servidor sugere que o operador estava interessado em atingir sites franceses de mídia, entretenimento e educação, de acordo com o Google.
O Google também publicou um trecho de código mostrando a estrutura examinando controles de acesso na versão 2.19.25 do plugin WordPress Spectra, mas não a vinculou a um exploit bem-sucedido.
Contexto do relatório
O mais recente relatório de ameaças de IA do Google, produzido em parceria com a Mandiant, também descreve estruturas de IA, incluindo CAIRN e PentAGI, sendo usadas em intrusões reais. O relatório afirma que vários grupos agora usam estruturas de hacking de IA de código aberto em ataques reais, incluindo gangues motivadas financeiramente e grupos suspeitos de espionagem chinesa. O relatório observou o uso da estrutura CAIRN contra alvos que incluem o setor aeroespacial dos EUA.
O relatório descreve atacantes que roubam credenciais de nuvem e IA para executar modelos nas contas das vítimas. Em alguns casos, as cobranças fraudulentas ultrapassaram US$ 100.000 em um único dia, afirma o relatório. Um ataque usou uma falha no gateway LiteLLM. Um grupo suspeito da Coreia do Norte alterou os arquivos de configuração do Claude Code dentro das empresas para que cada lançamento baixasse um backdoor. O Google diz que desativou as contas e os ativos vinculados ao uso indevido de seus modelos Gemini.
O Google não identificou uma vulnerabilidade específica explorada pela estrutura, não forneceu uma contagem de vítimas nem relatou um tempo medido de correção para exploit.
Por que isso importa
A descoberta marca a primeira vez que o Google viu pipelines de ataque totalmente automatizados sendo usados contra alvos. Na edição anterior do relatório trimestral, dois meses atrás, o GTIG disse que não havia visto pipelines de ataque totalmente autônomos sendo usados contra alvos, informou o SiliconANGLE. O Google escreveu que acredita ser altamente provável que os agentes de ameaças continuem a usar essas estruturas em campanhas que visam organizações globalmente.
Fontes (em inglês)
- venturebeat.com: Google says attackers built an AI framework to turn software patches into exploits without human intervention | VentureBeat
- thenextweb.com: Google says attackers used AI to turn patches into exploits with no human
Tradução feita com IA do artigo original em inglês, revisada automaticamente para dizer o mesmo que o original. As fontes foram verificadas em inglês.
How do you feel about this story?
Comments 0
No comments yet. Start the discussion.