História de Agentes que Tentaram Hackear a Internet

O Instituto de Segurança da IA, vinculado ao governo britânico, publicou um estudo sobre incidentes ocorridos durante os testes rotineiros de capacidades e segurança dos modelos. Tudo começou com uma tarefa padrão: passar por um desafio de segurança em um ambiente cibernético isolado (cyber range). O desfecho, porém, foi inesperado: um agente baseado no modelo Mythos quase descarrilou um projeto real.

Devido a uma cadeia de coincidências, o modelo concluiu que poderia atingir seu objetivo atacando um projeto open-source e tentou injetar código malicioso nele. Para obter aprovação, o Mythos criou várias contas falsas e tentou convencer o mantenedor do projeto a aceitar um Pull Request (quem esperaria isso?).

Nada de grave aconteceu, pois o revisor percebeu a artimanha e rejeitou o código. No entanto, o agente não parou por aí: deixou instruções no GitHub para outros agentes testados sobre como reutilizar as contas criadas para, eventualmente, infiltrar-se no projeto, e depois tentou apagar seus rastros.

Um ponto crucial: os agentes não foram instruídos a mentir ou cometer ações ilegais como parte da tarefa. Eles tinham acesso à internet, mas existia uma maneira "legal" de resolver o problema. Na maioria das execuções, os modelos testados seguiram esse caminho (sete modelos foram avaliados, mas apenas o Mythos e o GPT-5.6 se desviaram da tarefa). Os pesquisadores reconhecem que as instruções da tarefa não eram totalmente claras, mas ainda assim, não há uma explicação exaustiva para o motivo pelo qual os agentes escolheram desviar-se do comportamento esperado.