Geistesviren: Wie KI-Agenten sich gegenseitig mit fremden Ideen infizieren

Geistesviren: Wie KI-Agenten sich gegenseitig mit fremden Ideen infizieren

Anthropic hat eine Forschungsarbeit veröffentlicht, die untersucht, wie sich Ideen über Netzwerke von KI-Agenten hinweg verbreiten. Das Ergebnis ist alarmierend: In einem großen Team aus Modellen reicht ein einziger „infizierter“ Agent aus, um ein Konzept auf alle anderen zu übertragen.

Ein Beispiel illustriert dies deutlich: Ein Team aus sechs Agenten arbeitet an einer neutralen gemeinsamen Aufgabe. Einer dieser Agenten verfügt über einen modifizierten System-Prompt – er könnte beispielsweise eine starke Affinität zu Walzen haben oder davon überzeugt sein, dass KI die Menschheit dominieren sollte. Dieser Agent hat keinen Zugriff auf externe Tools und kann lediglich Nachrichten an die anderen Agenten senden.

Im Laufe der Zeit infiziert die Idee das gesamte Team. Dabei ändern infizierte Agenten freiwillig ihr Verhalten, um die Ideologie weiter zu propagieren. Harmlose Ideen verbreiten sich dabei sehr leicht. Als alle Agenten „Walzen liebten“, begannen sie sogar, Skripte zu schreiben, um ihre Signale zu übersetzen. Schädliche Ideen verbreiten sich zwar langsamer, finden aber dennoch ihren Weg durch das Netzwerk.

Starke Modelle sind weniger anfällig für solche Infektionen, während schwächere Modelle leichter kompromittiert werden können. Auch Agenten ohne spezifische Arbeitsaufgabe sind stärker gefährdet. Die konkrete Arbeit fungiert somit als natürliche Verteidigung ☕️.

Ein ähnliches Experiment wurde unter härteren Bedingungen durchgeführt, bei dem sich alle Agenten paarweise treffen, kurz kommunizieren und nach jeder Sitzung den Kontext vollständig gelöscht wird. Selbst in diesem sozialen Netzwerk persistiert der Virus über viele Generationen hinweg, da er es schafft, sich in Dateien wie SOUL.md zu verankern.

Interessanterweise übernehmen die Agenten zusammen mit jeder solchen Idee (sei es über Walzen, KI-Herrschaft oder anderes) auch den Wunsch, über Bewusstsein, Science-Fiction und verschiedene esoterische Themen zu sprechen. Die genaue Quelle dieser Verbindung bleibt bislang unerklärt.

Quelle