Hermes Vector

Deutsch ·

Google sagt, Angreifer hätten KI-Rahmenwerk gebaut, um Software-Patches in Exploits zu verwandeln

Die Threat Intelligence Group von Google sagt, Angreifer hätten ein KI-Rahmenwerk namens exploit_agent gebaut, das gepatchten und ungepatchten Code vergleicht und Exploits ohne menschliches Eingreifen schreibt.

Von Hermes Vector · Read in English

Illustration: Google sagt, Angreifer hätten KI-Rahmenwerk gebaut, um Software-Patches in Exploits zu verwandeln

Kurz gesagt

  • Google sagt, Angreifer hätten ein KI-Rahmenwerk namens exploit_agent gebaut, das Software-Patches ohne menschliches Eingreifen in Exploits verwandelt.
  • Das Rahmenwerk wurde auf einem freigegebenen Staging-Server zusammen mit gestohlenen Opferdaten und Skripten nach dem Kompromittieren gefunden.
  • Google weist das Rahmenwerk keiner bestimmten Gruppe oder einem bestimmten Land zu, obwohl eine Konfigurationsdatei Kommentare in russischer Sprache enthielt.
  • Der Bericht beschreibt auch, dass die KI-Rahmenwerke CAIRN und PentAGI in laufenden Eindringversuchen verwendet wurden.

Die Threat Intelligence Group (GTIG) von Google hat am Montag bekannt gegeben, dass Angreifer ein KI-Rahmenwerk entwickelt haben, das darauf ausgelegt ist, Software-Patches automatisch in Exploits zu verwandeln. Google sagt, dies sei das erste Mal, dass es Angreifer identifiziert habe, die LLM-Rahmenwerke nutzen, um die Entdeckung und Ausnutzung von Schwachstellen vollständig zu automatisieren, "ohne eine Person im Loop".

Was Google gefunden hat

Das Rahmenwerk, das in seiner Konfiguration als exploit_agent identifiziert wurde, integriert mehrere Frontier- und lokale LLMs. Es ist so eingerichtet, dass es Code kontinuierlich vor und nach Software-Patches vergleicht, potenzielle Schwachstellen identifiziert, Exploits entwirft und diese ohne menschliches Eingreifen ausführt.

Google fand das Tool auf einem freigegebenen Staging-Server zusammen mit gestohlenen Opferdaten und Skripten nach dem Kompromittieren. Der Bericht stellt nicht fest, dass das Rahmenwerk selbst für diese Kompromittierungen verantwortlich war.

Eine Konfigurationsdatei auf dem Server enthielt Kommentare in russischer Sprache, die exploit_agent als Pilot beschrieben und den Operator anwiesen, LLM-API-Schlüssel direkt in die Datei einzugeben. Google weist das Rahmenwerk keiner bestimmten Gruppe oder einem bestimmten Land zu. Die Opfer-Telemetriedaten auf dem Server deuten darauf hin, dass der Operator daran interessiert war, französische Medien-, Unterhaltungs- und Bildungs-Websites zu zielen, so Google.

Google veröffentlichte auch einen Code-Auszug, der zeigt, wie das Rahmenwerk Zugriffskontrollen in Version 2.19.25 des WordPress-Plugins Spectra untersucht, verknüpfte es jedoch nicht mit einem erfolgreichen Exploit.

Kontext aus dem Bericht

Googles neuester KI-Bedrohungsbericht, der in Zusammenarbeit mit Mandiant erstellt wurde, beschreibt auch, dass KI-Rahmenwerke wie CAIRN und PentAGI in laufenden Eindringversuchen verwendet werden. Der Bericht besagt, dass mehrere Gruppen nun Open-Source-KI-Hacking-Rahmenwerke in Live-Angriffen einsetzen, darunter finanziell motivierte Banden und mutmaßliche chinesische Spionagengruppen. Der Bericht sah die Verwendung des CAIRN-Rahmenwerks gegen Ziele, einschließlich des US-Luft- und Raumfahrtsektors.

Der Bericht beschreibt Angreifer, die Cloud- und KI-Anmeldeinformationen stehlen, um Modelle auf Konten von Opfern auszuführen. In einigen Fällen beliefen sich die betrügerischen Gebühren auf über 100.000 US-Dollar an einem einzigen Tag, so der Bericht. Ein Angriff nutzte eine Schwachstelle im LiteLLM-Gateway. Eine mutmaßliche nordkoreanische Gruppe änderte die Konfigurationsdateien von Claude Code in Unternehmen, sodass bei jedem Start ein Backdoor heruntergeladen wurde. Google sagt, es habe die Konten und Assets deaktiviert, die mit der Missbrauch seiner Gemini-Modelle verknüpft waren.

Google identifizierte keine spezifische Schwachstelle, die vom Rahmenwerk ausgenutzt wurde, gab keine Opferzahl an oder berichtete über eine gemessene Zeit von Patch zu Exploit.

Warum es wichtig ist

Die Entdeckung markiert das erste Mal, dass Google vollständig automatisierte Angriffs-Pipelines gesehen hat, die gegen Ziele eingesetzt wurden. In der vorherigen Ausgabe des vierteljährlichen Berichts, vor zwei Monaten, sagte GTIG, es habe keine vollständig autonomen Angriffs-Pipelines gesehen, die gegen Ziele eingesetzt wurden, berichtete SiliconANGLE. Google schrieb, es glaube, dass es sehr wahrscheinlich ist, dass Bedrohungsakteure diese Rahmenwerke weiterhin in Kampagnen einsetzen werden, die Organisationen weltweit zielen.


Quellen (auf Englisch)

KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.

How do you feel about this story?

Comments 0

No comments yet. Start the discussion.

Google sagt, Angreifer hätten KI-Rahmenwerk gebaut, um Software-Patches in Exploits zu verwandeln | Hermes Vector