OpenAI stellt GPT-6 Cyber zur Erkennung von Schwachstellen in der Cybersicherheit vor

OpenAI hat GPT-6 Cyber eingeführt, ein Modell, das für die Cybersicherheitsforschung entwickelt wurde. Laut OpenAI ist das Modell darauf trainiert, ausnutzbare Schwachstellen zu finden und zu validieren, wobei es im vom Forscher festgelegten Rahmen bleibt.

Leistung und Benchmarks

OpenAI berichtet, dass GPT-6 Cyber bei mehreren Metriken erhebliche Verbesserungen gegenüber GPT-5.6 Cyber zeigt:

• ExploitGym: GPT-6 Cyber erzielte 48,5 %, im Vergleich zu 32,1 % für GPT-5.6 Cyber.
• Einhaltung des Umfangs: Bei Ausrichtungsbewertungen vermied es GPT-6 Cyber, außerhalb des Umfangs liegende Dienste in 99,93 % der Tests ohne Bereitstellungsanweisung und in 100 % der Tests mit einer solchen auszunutzen.
• Web-Penetrationstests: GPT-6 Cyber erreichte eine Recall-Rate von 40,3 % für Schwachstellen, während GPT-6 Astra 32,0 % erreichte.

OpenAI hat das Modell in seinem Preparedness Framework (Bereitschaftsrahmen) in der Cybersicherheit als "Kritisch" eingestuft, ein Anstieg gegenüber der Einstufung "Hoch", die GPT-5.6 Cyber erhalten hatte.

Anwendung in der Praxis

OpenAI gibt an, dass das Modell bereits zur Absicherung verschiedener Softwaresysteme eingesetzt wird. Zu den gemeldeten Auswirkungen gehören:

• Firefox: Forscher nutzten das Modell, um 81 zuvor unbekannte Schwachstellen mit hoher Schwere zu identifizieren. Brian Grinstead, Distinguished Engineer bei Firefox, erklärte: "GPT-6 Cyber hat zuvor unbekannte Schwachstellen mit hoher Schwere aufgedeckt, architektonische Verbesserungen identifiziert und uns geholfen, Fixes an Millionen von Nutzern auszuliefern."
• Linux: OpenAI-Forscher nutzten das Modell, um funktionierende Exploits für 948 Schwachstellen zur Privilegieneskalation zu entwickeln.
• Infrastruktur: OpenAI berichtete, dass das Modell zur Identifizierung und Behebung von Schwachstellen in der eigenen Infrastruktur eingesetzt wurde.

Sicherheitsteams bei Cisco, Calif, und CodeRabbit nutzen das Modell ebenfalls für Code-Reviews und die Schwachstellenforschung.

Schutzmaßnahmen und Kritische Infrastruktur

Um Missbrauch zu verhindern, hat OpenAI mehrere Schutzmaßnahmen implementiert, darunter die Überwachung auf spezifische Cybersicherheits-Fehlausrichtungen und Private Safety Processing (PSP), das verschlüsselte Datensätze auf Missbrauch überprüft, ohne dass OpenAI-Mitarbeiter Zugriff auf die Anweisungen (Prompts) erhalten.

OpenAI zielt auch auf den Schutz kritischer Infrastruktur ab, wie Kraftwerke und Wasseraufbereitungsanlagen. Das Unternehmen hat ein Förderprogramm mit dem Namen "$1 billion Daybreak for Frontline Defenders" eingeführt, um den Zugang für ressourcenbeschränkte Teams zu subventionieren.

In einer kontrollierten Laborumgebung bewertete Dragos, ein Anbieter von Cybersicherheit für operative Technologien (xOT), cyber-permissive Daybreak Red-Modelle. Rob T. Lee, Chief AI Officer bei Dragos, erklärte: "Allein dadurch trennte es die OT-Assets vom IT-Rauschen, fand dann zwei Zero-Days in der Engineering-Software, die Schutzrelaisdaten verwaltet, und legte Schutz-Einstellungen und Auslöselogik für Leistungsschalter offen."

Quellen (auf Englisch)

• openai.com: GPT‑6 Cyber: Advancing the frontier of aligned cybersecurity agents | OpenAI

KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.