Исследователи MIT показали, что GPT-6 Astra может улучшать другие ИИ-модели, изменяя их веса
В эксперименте Astra повысила точность Qwen3.5-0.8B на бенчмарке MATH-500 с 7,9% до 48,1%, изменив всего 0,016% весов модели.
Исследователи MIT показали, что GPT-6 Astra способна улучшать другие ИИ-модели, напрямую изменяя их веса без дополнительного обучения.
В ходе эксперимента Astra повысила точность Qwen3.5-0.8B на математическом бенчмарке MATH-500 с 7,9% до 48,1%, изменив всего 0,016% весов нейросети.
Исследователи предоставили Astra доступ к весам Qwen через Python-ноутбук и разрешили выполнить до 50 тестовых запусков на математических задачах.
В процессе анализа Astra обнаружила, что модель постоянно повторяет собственные рассуждения, пока не достигает ограничения на длину ответа.
Причину удалось найти в одном внутреннем сигнале, формируемом двумя слоями нейросети. Astra устранила его влияние, напрямую скорректировав веса модели.
После этого Qwen перестала зацикливаться и смогла доводить до конца решения задач, с которыми уже была способна справиться.
В результате одно точечное изменение, затронувшее лишь 0,016% весов, повысило точность решения математических задач с 7,9% до 48,1%.
Почему это важно
АналитикаЭто указывает на возможность отладки и оптимизации моделей через прямое изменение весов, без полного переобучения.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Claude становится умнее
Claude становится умнее: сообщение указывает на развитие модели и возможные улучшения её возможностей.
GPT-6 Astra изменила веса другой ИИ-модели без дообучения
Заявлено, что GPT-6 Astra напрямую изменила 0,016% весов Qwen3.5-0.8B без градиентов и дообучения, устранив зацикливание рассуждений и улучшив математические результаты и следование инструкциям.
Часть II. Архитектура ИИ-агентов: от модели до памяти и инструментов
Глубокое инженерное погружение: токенизация, KV-кэш, детерминизм сэмплинга, тренировочный стек, квантование, контекстная инженерия, стек безопасности, производственный RAG, ReAct и мультиагентные swarm-системы.
Фронтирные Модели (Frontier Models)
Самый мощный класс искусственного интеллекта на переднем крае мировых исследований (Claude 3.7 Sonnet, OpenAI o3/GPT-4.5, Gemini 2.0 Pro), определяющий границы современных возможностей рассуждения, автономности и кодирования.