Badacze z MIT pokazali, że GPT-6 Astra może ulepszać inne modele AI przez bezpośrednią zmianę wag
W eksperymencie Astra zwiększyła dokładność Qwen3.5-0.8B w benchmarku MATH-500 z 7,9% do 48,1%, zmieniając zaledwie 0,016% wag modelu.
Badacze z MIT pokazali, że GPT-6 Astra może ulepszać inne modele AI, bezpośrednio modyfikując ich wagi bez dodatkowego treningu.
W eksperymencie Astra zwiększyła dokładność Qwen3.5-0.8B w matematycznym benchmarku MATH-500 z 7,9% do 48,1%, zmieniając zaledwie 0,016% wag sieci neuronowej.
Badacze udostępnili Astrze dostęp do wag Qwen przez notebook Python i zezwolili na wykonanie do 50 testowych uruchomień na zadaniach matematycznych.
Podczas analizy Astra odkryła, że model ciągle powtarza własne ciągi rozumowania, aż osiągnie limit długości odpowiedzi.
Przyczynę zidentyfikowano w jednym sygnale wewnętrznym generowanym przez dwie warstwy sieci neuronowej. Astra usunęła jego wpływ, bezpośrednio korygując wagi modelu.
Po tym Qwen przestała wpadać w pętle i była w stanie doprowadzić do końca rozwiązywanie zadań, z którymi już wcześniej potrafiła sobie radzić.
W efekcie jedna punktowa zmiana, która dotyczyła tylko 0,016% wag, zwiększyła dokładność rozwiązywania zadań matematycznych z 7,9% do 48,1%.
Dlaczego to ważne
AnalizaTo sugeruje, że systemy AI mogą debugować i optymalizować inne modele przez bezpośrednią manipulację wagami, potencjalnie zmniejszając potrzebę kosztownego pełnego ponownego uczenia.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami
Powiązane w ekosystemie
Praktyczne poradniki, kluczowa terminologia i skille agentów
Claude staje się mądrzejszy
Claude staje się mądrzejszy, co wskazuje na możliwe ulepszenia możliwości modelu.
GPT-6 Astra miała zmienić wagi innego modelu AI bez doszkalania
GPT-6 Astra miała zmienić tylko 0,016% wag Qwen3.5-0.8B bez gradientów i doszkalania, poprawiając rozumowanie, wyniki matematyczne i stosowanie się do instrukcji.
Modele Frontier
Najsilniejsza klasa sztucznej inteligencji na czele światowych badań (Claude 3.7 Sonnet, OpenAI o3/GPT-4.5, Gemini 2.0 Pro), wyznaczająca granice współczesnych możliwości w zakresie rozumowania, autonomii i programowania.
Część I. Architektura agentów AI: fundamentalne elementy
Dziesięć fundamentalnych elementów współczesnego agenta: taksonomia modeli, pętla runtime, techniki promptowania, destylacja, umiejętności (skills), pamięć, wywoływanie funkcji oraz ekonomia jednostkowa.