OpenAI deckt groß angelegte Distillation-Kampagne gegen seine Modelle auf

OpenAI hat eine koordinierte Kampagne zur Extraktion versteckter Schlussfolgerungen aus seinen Modellen entdeckt, bei der über 16.000 Anfragen von mehr als 4.000 Konten registriert wurden. Das Unternehmen hat daraufhin die Übertragung verschlüsselter Reasoning-Blöcke eingeschränkt und die Kontoüberprüfungen verschärft.
OpenAI deckt groß angelegte Distillation-Kampagne gegen seine Modelle auf
OpenAI gab bekannt, dass man eine koordinierte Kampagne zur Extraktion versteckter Schlussfolgerungen (Hidden Reasoning) aus seinen KI-Modellen entdeckt habe. Auf dem Höhepunkt der Aktivität wurden innerhalb von zwei Tagen mehr als 16.000 entsprechende Anfragen über das System geleitet, die von über 4.000 verschiedenen Konten stammten.
Das Unternehmen betonte ausdrücklich, dass die Verschlüsselung nicht gebrochen wurde: Die Angreifer bewegten lediglich verschlüsselte Chain-of-Thought-Blöcke (CoT) von einem Dialog in einen anderen und forderten das Modell auf, diese im Klartext zu reproduzieren.
Zuvor hatte Anthropic behauptet, Moonshot habe die Antworten des Kimi-Modells durch Claude-Antworten ersetzt. OpenAI hat nun seine eigenen Untersuchungsergebnisse veröffentlicht. Zwar beansprucht OpenAI nicht, dass Moonshot hinter der gesamten Kampagne stand, verknüpft jedoch den Hauptaktivitätscluster mit den Entwicklern von Kimi und beschreibt die Bemühungen als Versuch, seine Modelle zu destillieren (Distillation).
Im Anschluss an die Untersuchung schloss OpenAI die Möglichkeit, verschlüsselte Reasoning-Blöcke zwischen Benutzern und Workspaces zu übertragen, verschärfte die Kontoüberprüfung und implementierte spezifische Schutzmaßnahmen gegen die Ausgabe versteckter Schlussfolgerungen. Das Unternehmen teilte die Erkenntnisse zudem mit anderen KI-Labors und Behörden.
Weitere Details sind im Bericht von OpenAI verfügbar.
Warum das wichtig ist
AnalyseDieser Fall verdeutlicht, wie die Architektur von KI-Modellen zum Leck für das Training konkurrierender Systeme werden kann, und setzt einen wichtigen Präzedenzfall dafür, wie KI-Labors auf Missbrauch durch Modelldistillation reagieren.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern
Verwandt im Ökosystem
Praktische Leitfäden, Terminologie und Agenten-Skills
OpenAI GPT (Flaggschiff-Modelle der GPT-Serie)
Die zentrale, universelle Reihe großer Sprachmodelle von OpenAI (GPT-4, GPT-4o). Optimiert für komplexe Textanalyse, Programmierung, Kreativität und tägliche intellektuelle Arbeit.
OpenAI o-Serie / Reasoning (Modelle für tiefgehendes Schlussfolgern)
Die neue Generation der künstlichen Intelligenz von OpenAI (o1-, o3-Serie), optimiert für mehrstufiges implizites Denken, höhere Mathematik, Quantenphysik und komplexe algorithmische Programmierung.
ChatGPT-Prompt lässt die KI das filmische Gegenteil deines Lebens erzeugen
Ein informeller Prompt für ChatGPT bittet das Modell, aus bisherigen Gesprächen auf Gewohnheiten, Werte und Persönlichkeit zu schließen und dann eine fiktive Person samt Bild zu erstellen, deren Leben möglichst gegensätzlich ist.
OpenAI veröffentlicht Apps SDK UI für ChatGPT-Plugin-Oberflächen
OpenAI hat den Quellcode von Apps SDK UI veröffentlicht — eine React- und Tailwind-Bibliothek mit vorgefertigten Komponenten für interaktive Oberflächen in ChatGPT.