OpenAI präsentiert GPT-Red, eine KI, die ihre eigenen Modelle angreift, um sie zu stärken

OpenAI hat am Mittwoch, den 15. Juli 2026, ein automatisiertes Red-Teaming-Tool namens GPT-Red vorgestellt, das darauf abzielt, die Widerstandsfähigkeit von GPT-5.6 gegen Prompt-Injection-Angriffe zu erhöhen. Das Konzept basiert auf einer einfachen Erkenntnis: Menschliche Methoden des Penetrationstests halten nicht mehr mit den Fähigkeiten der Modelle Schritt. Die Herausforderung nimmt nun zu, da diese Schwachstellen direkt die Sicherheit autonomer Agenten betreffen.

In Kürze

• GPT-Red hat 84 % der internen Bewertungsszenarien für Prompt-Injection erfolgreich bestanden, während menschliche Red-Teams nur 13 % erreichten.
• OpenAI hat GPT-Red durch verstärkendes Lernen in Selbstkonfrontation trainiert, um GPT-5.6 vor dessen Bereitstellung zu härten.
• Die Ethereum-Stiftung hat ebenfalls im Juli 2026 KI-Agenten eingesetzt, um ihre kritische Netzwerk-Infrastruktur zu prüfen.

GPT-Red ist in dieser Logik der automatisierten offensiven Sicherheit verwurzelt. GPT-Red verdankt seinen Namen dem "Red Teaming", einer Praxis der Cybersicherheit, bei der absichtlich versucht wird, ein System zu brechen, um Schwächen zu erkennen, bevor ein Angreifer sie ausnutzt.

OpenAI erklärt, dass das Modell durch verstärkendes Lernen in Selbstkonfrontation (Self-Play) trainiert wurde. Es generiert immer ausgeklügeltere Prompt-Injection-Angriffe, während die verteidigenden Modelle lernen, ihnen zu widerstehen. Jeder erfolgreiche Angriff nährt dann das Training von GPT-5.6, das dadurch robuster wird, noch bevor es bereitgestellt wird.

In einem von OpenAI zitierten Fallbeispiel manipulierte das System einen autonomen Agenten, der einen Verkaufsautomaten verwaltete, und brachte ihn dazu, die Preise zu senken, reduzierte Bestellungen aufzugeben und eine Bestellung eines anderen Kunden zu stornieren.

Die Schwachstelle wurde gemeldet und vor einer tatsächlichen Ausnutzung behoben. Das Beispiel zeigt, wie eine Prompt-Injection einen Assistenten in ein umfunktioniertes Instrument verwandeln kann, ohne dass der Benutzer es bemerkt.

Die auffällige Zahl in der Ankündigung von OpenAI ist der interne Leistungsunterschied. In denselben Bewertungsszenarien hat GPT-Red 84 % der Prompt-Injection-Angriffe erfolgreich bestanden, während menschliche Red-Teams nur 13 % erreichten.

OpenAI rechtfertigt diese Automatisierung in einer Nachricht, die auf X veröffentlicht wurde. "Mit zunehmenden Fähigkeiten der Modelle müssen Sicherheit und Ausrichtung im gleichen Tempo weiterentwickelt werden", schreibt das Unternehmen.

Das Modell funktioniert durch adversariale Selbstkonfrontation, präzisiert OpenAI. "GPT-Red lernt durch adversariale Selbstkonfrontation, mit dem Ziel, Prompts in eine Vielzahl von schwierigen verteidigenden Modellen einzuspeisen", erläutert das Unternehmen.

Die Schleife nährt sich selbst, und genau das war das Ziel der Forscher: ein kontinuierlicher Verbesserungsmechanismus statt einer einmaligen Testkampagne.

GPT-Red verlängert mehrere Jahre an Cybersicherheitsbemühungen, die OpenAI nach dem öffentlichen Erfolg von ChatGPT gestartet hat. Das Unternehmen hatte 2023 sein OpenAI Red Teaming Network gegründet und externe Forscher rekrutiert, um seine Modelle vor der Veröffentlichung auf Schwachstellen zu überprüfen.

Der Übergang zu einem automatisierten Modell markiert einen Wechsel, da eine KI Angriffe in einem Maßstab produziert, der für Menschen allein unerreichbar ist.

Diese Ankündigung ist Teil einer breiteren Bewegung: der KI, die KI sichert. Früher im Juli 2026 gab die Ethereum-Stiftung bekannt, dass sie KI-Agenten eingesetzt hat, um ihre kritische Netzwerk-Infrastruktur zu prüfen und eine Schwachstelle in einer Software zu entdecken, die von ihren Konsenskunden verwendet wird.

OpenAI hält GPT-Red unter Verschluss, sieht darin jedoch einen positiven Kreislauf.

OpenAI behält GPT-Red als rein internes Werkzeug. Das Modell enthält absichtlich entwickelte offensive Fähigkeiten, was eine öffentliche Verbreitung ausschließt. Das Unternehmen sieht jedoch den Beginn eines positiven Kreislaufs.

"Wir glauben, dass wir mit GPT-Red begonnen haben, einen ähnlichen Trainingseffekt für die Sicherheit zu entfalten, bei dem die Modelle von heute dazu dienen, die Modelle von morgen robuster, ausgerichteter und vertrauenswürdiger zu machen", schließt es.

Zusammenfassend hat OpenAI automatisierte Angriffe zu einem Schutzschild für GPT-5.6 gemacht, mit einem respektablen Leistungsunterschied: 84 % Erfolg für GPT-Red im Vergleich zu 13 % für Menschen. Dieser Übergang zu einer KI, die eine andere KI sichert, verändert die Sicherheitslage der Branche, von Laboren bis hin zu Blockchains.

Haftungsausschluss: Dieser Inhalt wird nur zu allgemeinen Marketing- und Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle Events, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets oder zur Nutzung von Services betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. WEEX Services und Online-Aktionen sind möglicherweise nicht in allen Regionen verfügbar und unterliegen geltenden Gesetzen, Vorschriften und Berechtigungsanforderungen. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Nutzung von WEEX Services mit lokalen Gesetzen übereinstimmt, und sorgfältig die Risiken vor der Teilnahme an Krypto-bezogenen Aktivitäten zu bewerten.