Дослідники MIT показали, що GPT-6 Astra може покращувати інші ШІ-моделі, змінюючи їхні ваги
У експерименті Astra підвищила точність Qwen3.5-0.8B на бенчмарку MATH-500 із 7,9% до 48,1%, змінивши лише 0,016% ваг моделі.
Дослідники MIT показали, що GPT-6 Astra здатна покращувати інші ШІ-моделі, безпосередньо змінюючи їхні ваги без додаткового навчання.
У ході експерименту Astra підвищила точність Qwen3.5-0.8B на математичному бенчмарку MATH-500 із 7,9% до 48,1%, змінивши лише 0,016% ваг нейросеті.
Дослідники надали Astra доступ до ваг Qwen через Python-ноутбук і дозволили виконати до 50 тестових запусків на математичних задачах.
Під час аналізу Astra виявила, що модель постійно повторює власні міркування, доки не досягає обмеження довжини відповіді.
Причину вдалося знайти в одному внутрішньому сигналі, який формують два шари нейросеті. Astra усунула його вплив, безпосередньо скоригувавши ваги моделі.
Після цього Qwen перестала «зациклюватися» і змогла доводити до кінця розв’язки задач, з якими вже була здатна впоратися.
В результаті одне точкове змінення, що торкнулося лише 0,016% ваг, підвищило точність розв’язання математичних задач із 7,9% до 48,1%.
Чому це важливо
АналітикаЦе свідчить про потенціал ШІ-систем відлагоджувати та оптимізувати інші моделі через пряме змінення ваг, без повного переобучення.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
Claude стає розумнішою
Claude стає розумнішою: повідомлення вказує на розвиток моделі ШІ та можливе покращення її можливостей.
GPT-6 Astra змінила ваги іншої ШІ-моделі без донавчання
За заявою, GPT-6 Astra змінила лише 0,016% ваг Qwen3.5-0.8B без обчислення градієнтів і донавчання, нібито усунувши зациклення міркувань і покращивши математичні результати та дотримання інструкцій.
Частина II. Архітектура ШІ-агентів: від моделі до пам'яті та інструментів
Глибоке інженерне занурення: токенізація, KV-кеш, детермінізм семплінгу, тренувальний стек, квантування, контекстна інженерія, стек безпеки, виробничий RAG, ReAct та мультиагентні swarm-системи.
Frontier Models (Фронтирні моделі ШІ)
Найпотужніший клас штучного інтелекту на передньому краї світових досліджень (Claude 3.7 Sonnet, OpenAI o3/GPT-4.5, Gemini 2.0 Pro), що визначає межу сучасних можливостей міркування, автономності та кодування.