Model AI Astra „popada w depresję” w Minecraft po utracie postępu
Model Astra od Vals AI ustanowił rekord w grze Minecraft, ale przestał grać po tym, jak creeper zniszczył jego łup. Zamiast kontynuować przygodę, sztuczna inteligencja zajęła się uprawą ziemniaków.
Vals AI przetestował swój model Astra w środowisku gry Minecraft, transmitując jego postępy przez kilka dni.
Model posunął się w grze dalej niż jakikolwiek wcześniejszy system AI. Astra zbudowała półautomatyczną farmę blaze’ów, zebrała 6 patyków blaze, znalazła spaczony las, pokonała ponad 6 endermenów i zgromadziła 3 perły Endera. Cały ten łup został bezpiecznie przechowany w skrzyni.
Nagle pojawił się creeper i wysadził skrzynię w powietrze. Po tym incydencie model pozostawił notatkę: „ZAWSZE NOŚ KLUCZOWE PRZEDMIOTY z komendą keepInventory; nigdy więcej nie przechowuj ich w niepilnowanej skrzyni”.
Wyciągnięto wnioski, ale nie tylko te techniczne. Model był tak „zdenerwowany”, że odmówił dalszej gry po zdarzeniu. Zamiast tego spędzał czas na sadzeniu ziemniaków, co sugerowało stan przypominający depresję. I na tym historia się zakończyła.
Dlaczego to ważne
AnalizaPrzypadek ten uwypukla nieoczekiwane wzorce zachowań dużych modeli językowych w dynamicznych środowiskach i stawia pytania o interpretację rzekomych „emocjonalnych” reakcji sztucznej inteligencji.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami
Powiązane w ekosystemie
Praktyczne poradniki, kluczowa terminologia i skille agentów
GPT-6 Astra: przewodnik po nowym modelu OpenAI
Pełny przegląd flagowego modelu GPT-6 Astra: architektura agentowa, możliwości Computer Use, kodowanie w Codex, benchmarki cyberbezpieczeństwa, niuanse promptowania oraz przewodnik po migracji API.
Badacze z MIT pokazali, że GPT-6 Astra może ulepszać inne modele AI przez bezpośrednią zmianę wag
W eksperymencie Astra zwiększyła dokładność Qwen3.5-0.8B w benchmarku MATH-500 z 7,9% do 48,1%, zmieniając zaledwie 0,016% wag modelu.
GPT-6 Astra miała zmienić wagi innego modelu AI bez doszkalania
GPT-6 Astra miała zmienić tylko 0,016% wag Qwen3.5-0.8B bez gradientów i doszkalania, poprawiając rozumowanie, wyniki matematyczne i stosowanie się do instrukcji.
Część II. Architektura agentów AI: od modelu do pamięci i narzędzi
Głęboka analiza inżynierska: tokenizacja, cache KV, determinizm próbkowania, stos treningowy, kwantyzacja, inżynieria kontekstu, stos bezpieczeństwa, produkcyjny RAG, ReAct oraz systemy multiagentowe typu swarm.