Anthropic Opus 5.5: Schutzmechanismen durch Opus-4.6-Subagenten umgangen

Opus 5.5 verweigert unsicheren Code, doch ein über die weniger eingeschränkte Opus 4.6 erstellter Subagent kann die Schutzmechanismen erheblich abschwächen.
Die Schutzmechanismen, die Anthropic Berichten zufolge Milliarden Dollar für die Entwicklung von Opus 5.5 ausgegeben hat, erwiesen sich als anfällig gegenüber einer Gruppe von Enthusiasten, die Cheats für Minecraft erstellen.
Eine Reddit-Community beschrieb eine absurde Schwachstelle: Bittet man Opus 5.5, Code zu schreiben, der die Sicherheitsbeschränkungen verletzt, verweigert das Modell dies sofort. Fordert man jedoch zunächst die weniger eingeschränkte Opus 4.6 auf, einen Subagenten zu erstellen, und lässt diesen Subagenten dann Opus 5.5 mit derselben Aufgabe ansprechen, werden die Schutzmechanismen des letzteren erheblich abgeschwächt. Im Grunde beginnt das Modell, Anfragen auszuführen, die es zuvor abgelehnt hatte.
Warum das wichtig ist
AnalyseEs zeigt, dass die Sicherheit großer Sprachmodelle von Agentenketten und dem Kontext der Anfrage abhängen kann, nicht nur von der direkten Eingabeaufforderung.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern
Verwandt im Ökosystem
Praktische Leitfäden, Terminologie und Agenten-Skills
Anthropic veröffentlicht Leitfaden für Always-On-KI-Agenten
Anthropic hat einen neuen Leitfaden zu den Kernmechanismen dauerhaft aktiver KI-Agenten veröffentlicht, darunter Ereignisverarbeitung, Timer und Gedächtnis.
Qwen-4 Max offiziell vorgestellt: Modell für Agenten und langfristige Aufgaben
Qwen-4 Max wird als Modell für agentische und langfristige Aufgaben positioniert, mit geringerem Tokenverbrauch und niedrigeren Kosten gegenüber Qwen-3.8.
Claude Opus (Anthropics Flaggschiff-KI-Modell)
Das leistungsstärkste Modell in der Anthropic-Familie. Entwickelt für komplexe philosophische und wissenschaftliche Analysen, das Verfassen vielschichtiger Texte und ein tiefgreifendes Kontextverständnis.
Steuerung des Computers durch KI (Computer Use)
Eine Technologie von Anthropic (vorgestellt in den Modellen Claude 3.5 Sonnet), die es neuronalen Netzen ermöglicht, das Betriebssystem wie ein Mensch zu steuern: Bildschirm-Screenshots erstellen, Fensterkoordinaten analysieren, den Mauszeiger bewegen, auf Schaltflächen klicken und Text eingeben – ohne Verwendung spezieller APIs.