MIT-Forschende zeigen, dass GPT-6 Astra andere KI-Modelle durch direkte Gewichtsänderungen verbessern kann
In einem Experiment erhöhte Astra die Genauigkeit von Qwen3.5-0.8B auf MATH-500 von 7,9 % auf 48,1 %, indem nur 0,016 % der Modellgewichte geändert wurden.
Forschende des MIT haben gezeigt, dass GPT-6 Astra andere KI-Modelle verbessern kann, indem sie deren Gewichte direkt verändert — ohne zusätzliches Training.
Im Experiment erhöhte Astra die Genauigkeit von Qwen3.5-0.8B im mathematischen Benchmark MATH-500 von 7,9 % auf 48,1 %, indem nur 0,016 % der Gewichte des neuronalen Netzes geändert wurden.
Die Forschenden gaben Astra über ein Python-Notebook Zugriff auf die Gewichte von Qwen und erlaubten bis zu 50 Testläufe bei mathematischen Aufgaben.
Bei der Analyse stellte Astra fest, dass das Modell ständig seine eigenen Gedankengänge wiederholte, bis es das Limit für die Antwortlänge erreichte.
Die Ursache lag in einem internen Signal, das von zwei Schichten des neuronalen Netzes erzeugt wurde. Astra beseitigte dessen Wirkung durch eine direkte Korrektur der Modellgewichte.
Danach stoppte Qwen das Hängenbleiben in Schleifen und konnte Lösungen für Aufgaben zu Ende führen, mit denen sie grundsätzlich bereits umgehen konnte.
Insgesamt steigerte eine gezielte Änderung, die nur 0,016 % der Gewichte betraf, die Genauigkeit bei mathematischen Aufgaben von 7,9 % auf 48,1 %.
Warum das wichtig ist
AnalyseDer Ansatz deutet darauf hin, dass KI-Systeme andere Modelle durch direkte Gewichtsmanipulation debuggen und optimieren könnten, was vollständige Retraining-Läufe überflüssig machen kann.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern
Verwandt im Ökosystem
Praktische Leitfäden, Terminologie und Agenten-Skills
Claude wird intelligenter
Claude wird intelligenter, was auf mögliche Verbesserungen der Modellfähigkeiten hindeutet.
GPT-6 Astra soll Gewichte eines anderen KI-Modells ohne Nachtraining geändert haben
GPT-6 Astra soll nur 0,016 % der Gewichte von Qwen3.5-0.8B ohne Gradienten oder Nachtraining verändert haben, um Reasoning-Schleifen, Mathematikergebnisse und Instruction Following zu verbessern.
Frontier-Modelle
Die leistungsstärkste Klasse künstlicher Intelligenz an der Spitze der globalen Forschung (Claude 3.7 Sonnet, OpenAI o3/GPT-4.5, Gemini 2.0 Pro), die die Grenzen moderner Fähigkeiten in Bezug auf Reasoning, Autonomie und Coding definiert.
Teil I. Architektur von KI-Agenten: Grundlegende Bausteine
Zehn grundlegende Bausteine eines modernen Agenten: Modell-Taxonomie, Runtime-Loop, Prompting-Techniken, Distillation, Skills, Memory, Function Calling und Unit Economics.