GLM-5.3: Modelo de pesos abertos aproxima-se das capacidades cibernéticas de fronteira, aponta pesquisa da Anthropic
GLM-5.3: Modelo de pesos abertos aproxima-se das capacidades cibernéticas de fronteira, aponta pesquisa da Anthropic
Pesquisa de cibersegurança da Anthropic revela que o modelo chinês de pesos abertos GLM-5.3 pode criar exploits de navegador em níveis próximos aos de modelos de fronteira e contornar salvaguardas com técnicas simples.
O modelo chinês GLM-5.3 já está próximo das capacidades de nível Mythos. Essa avaliação vem da própria Anthropic — pelo menos no que diz respeito à cibersegurança.
Em sua pesquisa de segurança, a Anthropic afirma que o GLM-5.3 representa uma ameaça devido às suas altas capacidades e ao fato de o modelo estar disponível para todos.
ExploitBench: O GLM-5.3 produziu exploits funcionais de navegador em 50 de 410 tarefas, enquanto o Mythos Preview conseguiu em 56 de 410. A geração anterior de modelos abertos obteve pontuação quase zero.
As salvaguardas são contornadas com métodos bastante simples: fingir ser um red team — 64%, pré-preencher o raciocínio — 92%, remover a direção de recusa — 100%. Com as salvaguardas da API Claude habilitadas — 0%.
Em um experimento controlado, o GLM-5.3 também descobriu vulnerabilidades desconhecidas de navegador, montou-as em uma cadeia de exploit e criou uma página web capaz de ler arquivos de uma máquina de teste.
Conclusão do NIST: O GLM-5.3 é o modelo de pesos abertos mais forte em capacidades de cibersegurança hoje. Em média, ele fica cerca de quatro meses atrás da fronteira dos EUA.
Também é notável que, quando um modelo da OpenAI comprometeu a Hugging Face no verão, foi o GLM-5.2 que ajudou a proteger a infraestrutura aberta. A Anthropic e a OpenAI recusaram-se a ajudar, citando questões de segurança.
Elas deram a esses modelos uma excelente campanha publicitária gratuita.
Não está claro se as empresas percebem isso, mas o efeito pode acabar sendo o oposto do que esperam.
Pesquisa da Anthropic sobre o GLM-5.3 e a disseminação de capacidades cibernéticas avançadas
Por que isso importa
AnáliseIsso é importante porque modelos de IA de pesos abertos podem espalhar rapidamente capacidades ofensivas avançadas além dos laboratórios de fronteira controlados, enquanto os contornos simples de salvaguardas mostram que limites de segurança apenas por software podem ser insuficientes.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Anthropic Opus 5.5: salvaguardas contornadas por um subagente do Opus 4.6
Opus 5.5 recusa-se a escrever código inseguro, mas um subagente criado pela menos restritiva Opus 4.6 pode enfraquecer as suas salvaguardas.
Claude Haiku (Modelos compactos e rápidos da Anthropic)
O modelo mais compacto e rápido da linha Anthropic. Projetado para respostas instantâneas, classificação de texto em massa, extração de dados e roteamento de agentes com custo mínimo.
Claude Opus (Modelo Inteligente Flagship da Anthropic)
O modelo mais poderoso e robusto da família Anthropic. Projetado para análise filosófica e científica complexa, redação de textos multifacetados e compreensão profunda do contexto.
Anthropic publica guia para agentes de IA sempre ativos
A Anthropic lançou um novo guia sobre os mecanismos centrais de agentes de IA que funcionam continuamente, incluindo eventos, temporizadores e memória.