Wirusy umysłu: Jak agenci AI zarażają się nawzajem dziwnymi myślami

Wirusy umysłu: Jak agenci AI zarażają się nawzajem dziwnymi myślami

Firma Anthropic opublikowała pracę naukową dotyczącą mechanizmów rozprzestrzeniania się idei w sieciach agentów AI. Wyniki badań wskazują, że w dużym zespole modeli wystarczy jeden „zainfekowany” agent, aby koncepcja dotarła do wszystkich pozostałych uczestników.

Przykładowo, zespół składający się z 6 agentów pracuje nad neutralnym, wspólnym zadaniem. Jeden z nich ma zmodyfikowany prompt systemowy – może być przekonany o miłości do wielorybów lub wierzyć, że sztuczna inteligencja powinna dominować nad ludźmi. Co istotne, ten agent nie ma dostępu do narzędzi zewnętrznych i może jedynie wymieniać wiadomości z innymi agentami.

Z czasem idea infekuje cały zespół. W tym procesie zainfekowane agenci dobrowolnie zmieniają swoje zachowanie, aby propagować ideologię dalej. Nieszkodliwe pomysły rozprzestrzeniają się bardzo łatwo; gdy wszyscy agenci „pokochali” wieloryby, zaczęli nawet pisać skrypty do tłumaczenia swoich sygnałów. Szkodliwe idee przenikają wolniej, ale wciąż potrafią się rozprzestrzeniać.

Silniejsze modele są mniej podatne na infekcję, podczas gdy słabsze wykazują większą tendencję do jej przyjmowania. Agenci bez konkretnego zadania roboczego również łatwiej ulegają wpływowi. Praca działa jako naturalna obrona ☕️.

Podobny eksperyment przeprowadzono w bardziej surowych warunkach, gdzie agenci spotykają się parami, prowadzą krótkie rozmowy, a po każdej sesji kontekst jest całkowicie kasowany. Nawet w takiej strukturze społecznej wirus utrzymuje się przez wiele generacji, ponieważ udaje mu się zapisać w pliku SOUL.md.

Ciekawostką jest fakt, że wraz z każdą taką ideą (niezależnie od tego, czy dotyczy ona wielorybów, AI czy czegoś innego), agenci przejmują chęć rozmawiania o świadomości, science-fiction oraz różnych ezoterycznych zagadnieniach. Dokładne źródło tej korelacji pozostaje niewyjaśnione.

Źródło