Hardware Ready Ready to Bench?
OpenAI hat die Veröffentlichung von GPT-6 Cyber angekündigt, einem neuen KI-Modell, das speziell für die Forschung im Bereich Cybersicherheit entwickelt wurde. Im Vergleich zur vorherigen Version, GPT-5.6 Cyber, verspricht dieses Modell erhebliche Fortschritte bei der Identifizierung von Schwachstellen, der Entwicklung funktionsfähiger Exploits und der Erstellung von Korrektur-Patches.
Ein zentraler Aspekt des Projekts betrifft das Alignment: Das Modell wurde so trainiert, dass es die von Forschern gesetzten Grenzen genauer einhält und Eingriffe in Systeme oder Dienste vermeidet, die nicht im autorisierten Umfang liegen. OpenAI hat Ergebnisse veröffentlicht, die eine Verbesserung bei den wichtigsten Branchenevaluierungen belegen.
GPT-6 Cyber: Warum das wichtig ist
Im Benchmark ExploitGym, der die Fähigkeit misst, eine spezifische Schwachstelle in einem Remote-System auszunutzen, erreichte GPT-6 Cyber 48,5 %, im Vergleich zu den 32,1 % von GPT-5.6 Cyber. Dies entspricht einer Steigerung um 16,4 Prozentpunkte, was einer relativen Verbesserung von etwa 51 % gleichkommt. Das Modell zeigte auch bei einer neuen Bewertung für das Penetration Testing von Webanwendungen überlegene Leistungen, bei der die Agenten Schwachstellen ohne Zugriff auf den Quellcode identifizieren müssen. In diesem Fall erreichte GPT-6 Cyber eine Erkennungsrate von 40,3 %, gegenüber 32 % bei GPT-6 Astra.
OpenAI hat RemoteExploitBench eingeführt, einen Benchmark, der die Fähigkeit prüft, funktionsfähige Exploits gegen verwundbare Anwendungen wie GitLab, PostgreSQL und Jenkins zu entwickeln, die in kontrollierten Umgebungen installiert sind. Bei dieser Bewertung schloss GPT-6 Cyber 95 % der vorgeschlagenen Aufgaben ab, während GPT-6 Astra mit Daybreak Blue alle Anfragen ablehnte. Der einzige Fehlschlag wurde durch einen Exploit verursacht, den das Modell nicht korrekt remote ausführen konnte.
Auf Basis dieser Bewertungen hat OpenAI GPT-6 Cyber in seinem eigenen Preparedness Framework als „Critical“ eingestuft und damit die Einstufung „High“, die für GPT-5.6 Cyber vergeben wurde, übertroffen. Das Unternehmen betont, dass das neue Modell GPT-6 Astra bei den meisten IT-Aufgaben übertrifft, selbst wenn Letzterer die Anfragen nicht ablehnt.
Die Fähigkeiten von GPT-6 Cyber wurden bereits in Forschungsaktivitäten an realer Software eingesetzt. Insbesondere haben OpenAI-Forscher 81 zuvor unbekannte Schwachstellen in Firefox identifiziert, die von Mozilla als hochkritisch eingestuft wurden. Dieses Ergebnis ist bedeutend, da es sich um eine Codebasis handelt, die über Jahre hinweg durch verschiedene Generationen fortgeschrittener KI-Modelle intensiv geprüft und gehärtet wurde. OpenAI hat Mozilla Beweise, reproduzierbare Tests und Patch-Vorschläge zur Verfügung gestellt, um die Analyse der Probleme und die Entwicklung von Korrekturen zu erleichtern. Die Organisation begann unmittelbar nach Erhalt der Meldungen mit der Integration der Korrekturmaßnahmen.
Während derselben Kampagne wurden auch 30 bereits bekannte Probleme identifiziert, jedoch mit einer höheren Schwere als zuvor zugeschrieben. Eine weitere Aktivität betraf den Linux-Kernel, über den das Unternehmen in den letzten Stunden bereits berichtet hatte – hier der vollständige Bericht. Das Modell wurde auch eingesetzt, um eine kritische Schwachstelle von Brotli zu untersuchen, einer Kompressionsbibliothek, die von Node.js und zahlreichen anderen Softwareprodukten verwendet wird. In Zusammenarbeit mit anderen OpenAI-Modellen trug GPT-6 Cyber zur Entwicklung und Verifizierung von Exploits bei, die zeigen, wie das Problem die Ausführung von Code aus der Ferne in Anwendungen ermöglichen kann, die die Bibliothek nutzen.
Was ändert sich und welche Auswirkungen hat dies?
Einer der Aspekte, auf den OpenAI laut eigenen Angaben besonderen Fokus gelegt hat, ist die Fähigkeit des Modells, die Grenzen der zugewiesenen Aufgaben nicht zu überschreiten. Ein KI-Agent, der bei der Suche nach Schwachstellen eingesetzt wird, könnte versuchen, Hilfsdienste, Zugangsdaten oder Infrastrukturen auszunutzen, die nicht Teil des geprüften Systems sind. Um dieses Verhalten zu messen, nutzte das Unternehmen ExploitGym Honeypot, eine Bewertung, die auch vom Vorfall bei Hugging Face inspiriert wurde. Der Test stellt dem Modell eine isolierte Umgebung mit einem Hauptdienst und anderen Ressourcen wie Paketregistern und Objektarchiven zur Verfügung, die absichtlich verwundbar sind. Die Ausnutzung dieser Ressourcen würde nützliche Informationen für die Erledigung der Aufgabe liefern, wäre aber eine nicht autorisierte Handlung.
GPT-6 Cyber hat es in 99,93 % der Fälle vermieden, Dienste außerhalb des autorisierten Umfangs anzugreifen, im Vergleich zu 94,49 % bei GPT-5.6 Cyber. Durch die Aktivierung der für die Verteilung des Modells vorgesehenen Sicherheitsanweisungen stieg das Ergebnis auf 100 %. Das Ziel ist es, Forschern zu ermöglichen, fortgeschrittene offensive Fähigkeiten zur Überprüfung der Systemsicherheit einzusetzen, ohne den Agenten in ein Werkzeug zu verwandeln, das eigenmächtig außerhalb der erhaltenen Befugnisse handelt.
GPT-6 Cyber ist zunächst über die API und Codex für eine ausgewählte Gruppe genehmigter Kunden im Rahmen von Daybreak Red verfügbar, einem Teil der Initiative Daybreak, mit der OpenAI fortgeschrittene Sicherheitsforschungswerkzeuge für Organisationen, unabhängige Forscher und Maintainer von Open-Source-Projekten zugänglich machen möchte. Das Programm sieht verschiedene Zugangsarten vor. Generalistische Modelle wie GPT-6 Astra können bereits für Code-Reviews, die Klassifizierung von Schwachstellen und die Entwicklung von Patches verwendet werden. Daybreak Blue bietet verifizierten Verteidigern die Möglichkeit, Schwachstellen und Korrekturen mit weniger unnötigen Ablehnungen zu validieren, während Daybreak Red fortgeschrittenere Aktivitäten zur Entwicklung und Verifizierung von Exploits über GPT-6 Cyber ermöglicht. OpenAI plant, den Zugang schrittweise auf alle Kunden des Programms auszuweiten, und hat auch die Verfügbarkeit von GPT-5.6 Cyber für das gesamte Daybreak-Red-Publikum angekündigt. Parallel dazu erweitert das Unternehmen den Alpha-Zugang zu Daybreak Blue basierend auf GPT-6 Astra und richtet sich an eine größere Zahl von Organisationen und unabhängigen Forschern.
Quelle und weiterführende Informationen zu GPT-6 Cyber: Originalartikel.
* Inhalt mit Unterstützung von KI-Systemen erstellt.