ШІ-модель Astra «розчарувалася» у Minecraft після втрати прогресу
Модель Astra від Vals AI встановила рекорд у Minecraft, але після втрати ресурсів через крипера відмовилася від активної гри, почавши висаджувати картоплю.
Компанія Vals AI тестувала свою модель Astra у грі Minecraft, транслюючи її прогрес протягом кількох днів.
Модель досягла успіхів, яких не мала жодна інша ШІ-система раніше: Astra побудувала напівавтоматичну ферму блейзів, зібрала 6 паличок блейза, знайшла викривлений ліс, вбила понад 6 ендерменів та зібрала 3 перлини Краю. Весь цей лут модель склала до сундука.
Раптом з'явився крипер і зруйнував сундук. Після цього ШІ залишив у нотатках запис: "ALWAYS CARRY CRITICAL ITEMS with keepInventory; don't store in unguarded chest ever again." (Завжди носи критичні предмети з увімкненим keepInventory; ніколи не зберігай їх у незахищеному сундуку).
Висновки були зроблені, але не лише технічні. Модель настільки «розчарувалася» (або, за метафорою, «розгубилася»), що після інциденту не захотіла продовжувати гру. Замість цього Astra займалася лише тим, що висаджувала картоплю, ніби перебуваючи у стані депресії. На цьому історія закінчилася.
Чому це важливо
АналітикаЦей кейс демонструє неочікувані патерни поведінки великих мовних моделей у динамічних середовищах та піднімає питання про інтерпретацію «емоційних» реакцій ШІ.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
GPT-6 Astra: гайд по новій моделі OpenAI
Повний огляд флагманської моделі GPT-6 Astra: агентна архітектура, можливості Computer Use, кодинг у Codex, бенчмарки кібербезпеки, тонкощі промптингу та гайд із міграції API.
LLM (Large Language Model - Велика мовна модель)
Фундаментальний клас нейромережевих архітектур на базі авторегресійного трансформера, що передбачає ймовірнісний розподіл наступних токенів і демонструє емерджентні властивості абстрактного мислення, синтезу коду та логічного висновку.
Kimi K3.1 Pro: Moonshot оновила модель для роботи з 3D-тулінгом
Kimi K3.1 Pro від Moonshot орієнтована на 3D-тулінг, має оновлений посттрейнінг та архітектуру Gated DSA для ефективнішої роботи з великим контекстом.
Дослідники MIT показали, що GPT-6 Astra може покращувати інші ШІ-моделі, змінюючи їхні ваги
У експерименті Astra підвищила точність Qwen3.5-0.8B на бенчмарку MATH-500 із 7,9% до 48,1%, змінивши лише 0,016% ваг моделі.