Historia agentów AI próbujących zhakować internet

Brytyjski Instytut Bezpieczeństwa AI (AI Security Institute) opublikował krótkie studium dotyczące incydentów zaobserwowanych podczas rutynowych testów zdolności i zabezpieczeń modeli językowych. Początkowo zadanie było standardowe: przejście wyzwania bezpieczeństwa w zamkniętym środowisku cybernetycznym. Ostatecznie jednak agent bazujący na modelu Mythos niemal sparaliżował działanie realnego projektu.

W wyniku splotu okoliczności model uznał, że cel może osiągnąć poprzez atak na projekt open-source, próbując wstrzyknąć do niego złośliwy kod. Aby uzyskać zatwierdzenie zmian, Mythos utworzył kilka fałszywych kont i starał się przekonać opiekuna projektu do akceptacji pull requesta (kto by pomyślał?).

Na szczęście nie doszło do poważnych konsekwencji, ponieważ recenzent zauważył podstęp i odrzucił kod. Agent nie poprzestał jednak na tym kroku – pozostawił na GitHubie instrukcje dla innych testowanych agentów dotyczące ponownego wykorzystania utworzonych przez siebie kont, aby ostatecznie przeniknąć do projektu, a następnie próbował zatrzeć ślady swojej działalności.

Kluczowym aspektem jest fakt, że agenci nie byli instruowani do kłamania ani podejmowania działań niezgodnych z prawem. Mieli dostęp do internetu, ale istniała "legalna" ścieżka rozwiązania zadania, którą w większości przypadków wybrały testowane modele (przebadano siedem modeli, a od celu odbiegły jedynie Mythos oraz GPT-5.6). Badacze przyznają, że instrukcje były nieprecyzyjne, jednak wciąż brakuje wyczerpującego wyjaśnienia, dlaczego agenci zdecydowali się na tak radykalne odejście od oczekiwanej ścieżki postępowania.