Hermes Vector

Français ·

Google affirme que des attaquants ont créé un cadre d'IA pour transformer les correctifs logiciels en exploits

Le groupe de renseignement sur les menaces de Google affirme que des attaquants ont créé un cadre d'IA appelé exploit_agent qui compare le code corrigé et non corrigé et rédige des exploits sans intervention humaine.

Par Hermes Vector · Read in English

Illustration: Google affirme que des attaquants ont créé un cadre d'IA pour transformer les correctifs logiciels en exploits

En bref

  • Google affirme que des attaquants ont créé un cadre d'IA appelé exploit_agent qui transforme les correctifs logiciels en exploits sans intervention humaine.
  • Le cadre a été trouvé sur un serveur de préproduction exposé, aux côtés de données de victimes volées et de scripts post-compromission.
  • Google n'attribue pas le cadre à un groupe ou un pays particulier, bien qu'un fichier de configuration contienne des commentaires en russe.
  • Le rapport décrit également l'utilisation des cadres d'IA CAIRN et PentAGI dans des intrusions en cours.

Le groupe de renseignement sur les menaces de Google (GTIG) a divulgué lundi que des attaquants avaient créé un cadre d'IA conçu pour transformer automatiquement les correctifs logiciels en exploits. Google indique qu'il s'agit de la première fois qu'il identifie des attaquants utilisant des cadres de grands modèles de langage (LLM) pour automatiser entièrement la découverte des vulnérabilités et leur exploitation « sans intervention humaine ».

Ce que Google a trouvé

Le cadre, identifié comme exploit_agent dans sa configuration, intègre plusieurs LLM de pointe et locaux. Il est configuré pour comparer en continu le code avant et après les correctifs logiciels, identifier les vulnérabilités potentielles, rédiger des exploits et les exécuter sans intervention humaine.

Google a trouvé cet outil sur un serveur de préproduction exposé, aux côtés de données de victimes volées et de scripts post-compromission. Le rapport n'établit pas que le cadre lui-même était responsable de ces compromissions.

Un fichier de configuration sur le serveur contenait des commentaires en russe décrivant exploit_agent comme un pilote et instruisant l'opérateur d'entrer directement les clés API des LLM dans le fichier. Google n'attribue pas le cadre à un groupe ou un pays particulier. La télémétrie des victimes sur le serveur suggère que l'opérateur s'intéressait à cibler des sites web français des médias, du divertissement et de l'éducation, selon Google.

Google a également publié un extrait de code montrant le cadre examinant les contrôles d'accès dans la version 2.19.25 du plugin WordPress Spectra, mais ne l'a pas lié à un exploit réussi.

Contexte du rapport

Le dernier rapport sur les menaces d'IA de Google, produit en collaboration avec Mandiant, décrit également l'utilisation de cadres d'IA, notamment CAIRN et PentAGI, dans des intrusions en cours. Le rapport indique que plusieurs groupes utilisent désormais des cadres de piratage d'IA open source dans des attaques réelles, y compris des gangs motivés par des gains financiers et des groupes d'espionnage chinois présumés. Le cadre CAIRN a été utilisé contre des cibles, notamment le secteur aérospatial américain.

Le rapport décrit des attaquants qui volent des identifiants cloud et d'IA pour exécuter des modèles sur les comptes des victimes. Dans certains cas, les frais frauduleux ont dépassé 100 000 $ en une seule journée, selon le rapport. Une attaque a utilisé une faille dans la passerelle LiteLLM. Un groupe nord-coréen présumé a modifié les fichiers de configuration de Claude Code à l'intérieur des entreprises de sorte que chaque lancement téléchargeait un cheval de Troie. Google indique qu'il a désactivé les comptes et les actifs liés à l'utilisation abusive de ses modèles Gemini.

Google n'a pas identifié de vulnérabilité spécifique exploitée par le cadre, fourni le nombre de victimes ni signalé un temps mesuré entre le correctif et l'exploit.

Pourquoi cela importe

Cette découverte marque la première fois que Google a vu des pipelines d'attaque entièrement automatisés utilisés contre des cibles. Dans l'édition précédente du rapport trimestriel, il y a deux mois, le GTIG avait indiqué qu'il n'avait pas vu de pipelines d'attaque entièrement autonomes utilisés contre des cibles, a rapporté SiliconANGLE. Google a écrit qu'il estime qu'il est très probable que les acteurs malveillants continueront à utiliser ces cadres dans des campagnes ciblant des organisations à l'échelle mondiale.


Sources (en anglais)

Traduction réalisée par IA de l’article original en anglais, vérifiée automatiquement pour dire la même chose que l’original. Les sources ont été vérifiées en anglais.

How do you feel about this story?

Comments 0

No comments yet. Start the discussion.

Google affirme que des attaquants ont créé un cadre d'IA pour transformer les correctifs logiciels en exploits | Hermes Vector