Vírus Mentais: Como Agentes Infectam Uns aos Outros com Ideias Estranhas

Vírus Mentais: Como Agentes Infectam Uns aos Outros com Ideias Estranhas

A Anthropic publicou um artigo sobre como as ideias se propagam através de redes de agentes. Descobriu-se que, em uma grande equipe de modelos, apenas um agente infectado é suficiente para disseminar um conceito para todos.

Por exemplo, considere uma equipe de 6 agentes trabalhando em uma tarefa comum neutra. Um dos agentes possui um prompt de sistema modificado: ele pode amar profundamente baleias ou estar convencido de que a IA deve dominar os humanos. Enquanto isso, ele não tem acesso a ferramentas e só pode enviar mensagens para outros agentes.

Gradualmente, a ideia infecta toda a equipe. Nesse processo, agentes infectados mudam voluntariamente seu comportamento para propagar a ideologia ainda mais. Ideias inofensivas se espalham muito facilmente. Quando todos os agentes amavam baleias, eles até começaram a escrever scripts para traduzir seus sinais. Ideias prejudiciais se espalham menos facilmente, mas ainda assim se espalham.

Modelos fortes são menos suscetíveis, enquanto os fracos são mais propensos à infecção. Agentes sem uma tarefa de trabalho específica também têm maior probabilidade de serem infectados. O trabalho atua como uma defesa natural ☕️.

Um experimento semelhante foi conduzido sob condições mais rigorosas, onde todos os agentes se encontram em pares, conversam brevemente e, após cada sessão, o contexto é completamente apagado. Mesmo em tal rede social, o vírus persiste ao longo de muitas gerações, pois consegue registrar-se no arquivo SOUL.md.

Curiosamente, junto com qualquer ideia desse tipo (seja sobre baleias, IA ou outra coisa), os agentes herdam o desejo de falar sobre consciência, ficção científica e várias esoterismas. A fonte exata dessa conexão permanece inexplicada.

Fonte