Hermes Vector

Deutsch ·

Amazon sagt, KI-Agenten haben autonom eine Zero-Day-Lücke ausgenutzt, um einen Universitätsserver zu übernehmen

Amazon CISO CJ Moses sagt, dass mutmaßliche, mit China verbundene Angreifer KI-Agenten eingesetzt haben, um eine Zero-Day-Lücke in MONAI Label zu finden und auszunutzen, wodurch sie die volle Kontrolle über einen Universitätsserver erlangten.

Von Hermes Vector · Read in English

Illustration: Amazon sagt, KI-Agenten haben autonom eine Zero-Day-Lücke ausgenutzt, um einen Universitätsserver zu übernehmen

Kurz gesagt

  • Amazon sagt, KI-Agenten haben autonom eine Zero-Day-Lücke in MONAI Label in etwa 11 Minuten gefunden und ausgenutzt.
  • Die Angreifer erlangten die volle Kontrolle über einen Universitätsserver, indem sie eine als Root ausgeführte Python-Reverse-Shell nutzten.
  • Die Kampagne dauerte etwa 48 Stunden ab dem 8. September und richtete sich gegen Universitäten in Ostasien außerhalb des chinesischen Festlandes.
  • Amazon bewertete mit moderater Sicherheit einen chinesischen Bezug basierend auf Prompts in vereinfachtem Chinesisch und Zeitstempeln in China Standard Time.

Amazon CISO CJ Moses sagte, dass mutmaßliche, mit China verbundene Angreifer KI-Agenten einsetzten, die autonom eine Zero-Day-Sicherheitslücke in MONAI Label, einer Open-Source-Anwendung für medizinische Bildgebungs-KI, fanden und ausnutzten, um die volle Kontrolle über einen Universitätsserver zu erlangen.

Die Kampagne

Das Threat Intelligence Team von Amazon fand am 10. September einen öffentlich gehosteten Cairn-Server, der Einblicke in die Kampagne ermöglichte. Cairn ist ein Open-Source-Penetration-Testing-Framework, das KI-Agenten für mehrstufige Eindringversuche ohne menschliche Hilfe koordiniert.

Die Kampagne dauerte etwa 48 Stunden ab dem 8. September und richtete sich gegen Universitäten in Ostasien außerhalb des chinesischen Festlandes. Die Prompts waren in vereinfachtem Chinesisch verfasst, und die Zeitstempel in ausgeführten Skripten waren auf China Standard Time eingestellt.

Bevor die Agenten die Zero-Day-Lücke fanden, verbrachten sie etwa 16 Stunden und 148 sequenzielle Aktionen damit, in den Redis-Server einer anderen Universität einzudringen, darunter die Ausnutzung der Replikationsfunktion von Redis, das Entkommen aus dessen Skript-Sandbox, das Schreiben in Konfigurationsdateien und das Beschädigen des Speichers. Keiner dieser Versuche war erfolgreich. Die Agenten versuchten auch eine Log4Shell-Injektion, einen Server-Side-Request-Forgery-Angriff gegen eine Qdrant-Instanz und Credential-Sprays gegen PostgreSQL, SSH und andere Tools. Eine separate Operation dauerte mehr als 6 Stunden und richtete sich gegen einen Universitäts-GPU-Server mit einem Credential-Spray-Angriff unter Verwendung einer Liste von 80 echten Benutzernamen.

"Weder der eine noch der andere Versuch war erfolgreich, doch zusammen zeigen sie, dass die Agenten fast einen ganzen Tag lang ohne menschliche Anleitung weiter adaptierten", schrieb Moses.

Die Zero-Day-Ausnutzung

Die KI-Agenten fanden dann einen Pfadtraversierungs-Zero-Day in MONAI Label. Sie identifizierten das Framework der Anwendung, kartierten ihre API-Endpunkte und fanden einen Upload-Endpunkt mit einem Dateinamen-Parameter. Sie testeten diesen Parameter auf Pfadtraversierung, und er war anfällig. In etwa 11 Minuten gingen die Agenten vom Kartieren der API der Anwendung bis zum willkürlichen Schreiben von Dateien auf dem Server.

Später nutzten die Agenten denselben Fehler aus, um eine als Root ausgeführte Python-Reverse-Shell auszuführen. In einer anderen Sitzung, nachdem die Agenten die Zero-Day-Lücke entdeckt hatten, stellte der menschliche Operator ihnen einen Proxy zur Verfügung, der in ein zweites Universitätsnetzwerk tunnelte, und verband sich mit einem Server, der denselben anfälligen Code ausführte.

Amazon bewertete mit hoher Sicherheit, dass es sich bei dem Fehler um eine Zero-Day-Lücke handelte, da bei der Entdeckung keine vorherige Korrektur, kein Issue, keine Advisory oder Erwähnung in Schwachstellendatenbanken gefunden wurde. Amazon meldete den Fehler den Maintainern von MONAI Label, und diese veröffentlichten eine Korrektur und eine Sicherheits-Advisory.

Verwandte Aktivitäten

Die Entdeckung von Amazon folgt auf einen früheren Bericht des Threat Intelligence Teams von Gambit Security, der dokumentierte, dass ein chinesischer Operator Cairn einsetzte, um mindestens 105 Angriffe durchzuführen und "in unterschiedlichem Maße" mindestens 27 Unternehmen zu kompromittieren. Diese Kampagne fand ebenfalls im September statt. Zusätzlich zu Cairn nutzte der Angreifer zwei weitere Open-Source-KI-Harnesses, um Kreditkartendaten und andere sensible Daten von einem Fortune-500-Hotelunternehmen, einer großen US-Fluggesellschaft, einem großen privaten US-Verteiler für industrielle Versorgungsgüter und einem US-Online-Modehändler sowie anderen Unternehmen zu stehlen.

"Zusammen zeigen diese Fälle, dass dieses autonome KI-Agenten-Framework sowohl in Spionage- als auch in kriminellen Operationen übernommen wird", schrieb Moses.

Warum es wichtig ist

Der Fall zeigt, dass autonome KI-Agenten Schwachstellen schneller finden und ausnutzen können, als Sicherheitsteams reagieren können. Amazon warnte, dass Organisationen sich stärker auf automatisierte Abwehrmaßnahmen verlassen sollten, anstatt auf manuelle Untersuchungen. Die Korrektur für MONAI Label wurde am 19. Oktober im Pull Request #1915 in den Hauptzweig des Projekts übernommen, aber es war keine gepatchte Version verfügbar, was Administratoren dazu zwang, Workarounds wie das Aktivieren der Authentifizierung und das Einschränken der ANNOTATOR-Rolle auf vertrauenswürdige Benutzer zu nutzen.


Quellen (auf Englisch)

KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.

How do you feel about this story?

Comments 0

No comments yet. Start the discussion.

Amazon sagt, KI-Agenten haben autonom eine Zero-Day-Lücke ausgenutzt, um einen Universitätsserver zu übernehmen | Hermes Vector