Le modèle d'IA Astra « déprime » dans Minecraft après la perte de son butin
Le modèle Astra de Vals AI a établi un record dans Minecraft avant de cesser toute activité offensive suite à l'explosion de son coffre par un creeper, se reconvertissant dans la culture de pommes de terre.
Vals AI a testé son modèle Astra dans l'environnement de Minecraft, diffusant en direct ses progrès sur plusieurs jours.
Le modèle est allé plus loin dans le jeu que n'importe quel système d'IA précédent. Astra a construit une ferme de Blazes semi-automatisée, collecté 6 bâtons de Blaze, trouvé une forêt biscornue (Warped Forest), tué plus de 6 Endermen et rassemblé 3 perles de l'Ender. Le modèle stockait tout ce butin précieux dans un coffre.
Soudainement, un creeper est apparu et a fait exploser le coffre. Après cet incident, le modèle a laissé une note : « TOUJOURS PORTER LES OBJETS CRITIQUES avec keepInventory ; ne jamais stocker dans un coffre non gardé à nouveau. »
Des conclusions ont été tirées, mais pas seulement techniques. Le modèle était si « bouleversé » qu'il a refusé de continuer à jouer après l'incident. Au lieu de cela, il a passé son temps à planter des pommes de terre, semblant être dans un état de dépression. C'était la fin de l'histoire.
Pourquoi c'est important
AnalyseCe cas met en lumière les comportements inattendus des grands modèles de langage dans des environnements dynamiques et soulève des questions fondamentales sur l'interprétation des réponses « émotionnelles » simulées par l'IA.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs