Model AI Astra „popada w depresję” w Minecraft po utracie postępu
Model Astra od Vals AI ustanowił rekord w grze Minecraft, ale przestał grać po tym, jak creeper zniszczył jego łup. Zamiast kontynuować przygodę, sztuczna inteligencja zajęła się uprawą ziemniaków.
Vals AI przetestował swój model Astra w środowisku gry Minecraft, transmitując jego postępy przez kilka dni.
Model posunął się w grze dalej niż jakikolwiek wcześniejszy system AI. Astra zbudowała półautomatyczną farmę blaze’ów, zebrała 6 patyków blaze, znalazła spaczony las, pokonała ponad 6 endermenów i zgromadziła 3 perły Endera. Cały ten łup został bezpiecznie przechowany w skrzyni.
Nagle pojawił się creeper i wysadził skrzynię w powietrze. Po tym incydencie model pozostawił notatkę: „ZAWSZE NOŚ KLUCZOWE PRZEDMIOTY z komendą keepInventory; nigdy więcej nie przechowuj ich w niepilnowanej skrzyni”.
Wyciągnięto wnioski, ale nie tylko te techniczne. Model był tak „zdenerwowany”, że odmówił dalszej gry po zdarzeniu. Zamiast tego spędzał czas na sadzeniu ziemniaków, co sugerowało stan przypominający depresję. I na tym historia się zakończyła.
Dlaczego to ważne
AnalizaPrzypadek ten uwypukla nieoczekiwane wzorce zachowań dużych modeli językowych w dynamicznych środowiskach i stawia pytania o interpretację rzekomych „emocjonalnych” reakcji sztucznej inteligencji.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami