Anthropic Opus 5.5: salvaguardas contornadas por um subagente do Opus 4.6

Opus 5.5 recusa-se a escrever código inseguro, mas um subagente criado pela menos restritiva Opus 4.6 pode enfraquecer as suas salvaguardas.
Os mecanismos de proteção que a Anthropic supostamente gastou bilhões de dólares a desenvolver para o Opus 5.5 revelaram-se vulneráveis a um grupo de entusiastas que criam cheats para Minecraft.
Uma comunidade do Reddit descreveu uma vulnerabilidade absurda: se pedir ao Opus 5.5 para escrever código que viole as restrições de segurança, o modelo recusa imediatamente. No entanto, se primeiro pedir à menos restritiva Opus 4.6 para criar um subagente, e depois incumbir esse subagente de se dirigir ao Opus 5.5 com a mesma tarefa, os mecanismos de proteção deste último ficam significativamente enfraquecidos. Na essência, o modelo começa a cumprir pedidos que antes recusava.
Por que isso importa
AnáliseMostra que a segurança dos grandes modelos de linguagem pode depender de cadeias de agentes e do contexto do pedido, e não apenas da solicitação direta ao modelo.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Anthropic publica guia para agentes de IA sempre ativos
A Anthropic lançou um novo guia sobre os mecanismos centrais de agentes de IA que funcionam continuamente, incluindo eventos, temporizadores e memória.
Qwen-4 Max é lançado oficialmente: modelo para agentes e tarefas de longo prazo
O Qwen-4 Max é posicionado como modelo para tarefas agênticas e de longo prazo, com menor uso de tokens e custo reduzido em comparação ao Qwen-3.8.
Claude Opus (Modelo Inteligente Flagship da Anthropic)
O modelo mais poderoso e robusto da família Anthropic. Projetado para análise filosófica e científica complexa, redação de textos multifacetados e compreensão profunda do contexto.
Claude Haiku (Modelos compactos e rápidos da Anthropic)
O modelo mais compacto e rápido da linha Anthropic. Projetado para respostas instantâneas, classificação de texto em massa, extração de dados e roteamento de agentes com custo mínimo.