GLM-5.3: Modelo de pesos abertos aproxima-se das capacidades cibernéticas de fronteira, aponta pesquisa da Anthropic

O modelo chinês GLM-5.3 já está próximo das capacidades de nível Mythos. Essa avaliação vem da própria Anthropic — pelo menos no que diz respeito à cibersegurança.

Em sua pesquisa de segurança, a Anthropic afirma que o GLM-5.3 representa uma ameaça devido às suas altas capacidades e ao fato de o modelo estar disponível para todos.

ExploitBench: O GLM-5.3 produziu exploits funcionais de navegador em 50 de 410 tarefas, enquanto o Mythos Preview conseguiu em 56 de 410. A geração anterior de modelos abertos obteve pontuação quase zero.

As salvaguardas são contornadas com métodos bastante simples: fingir ser um red team — 64%, pré-preencher o raciocínio — 92%, remover a direção de recusa — 100%. Com as salvaguardas da API Claude habilitadas — 0%.

Em um experimento controlado, o GLM-5.3 também descobriu vulnerabilidades desconhecidas de navegador, montou-as em uma cadeia de exploit e criou uma página web capaz de ler arquivos de uma máquina de teste.

Conclusão do NIST: O GLM-5.3 é o modelo de pesos abertos mais forte em capacidades de cibersegurança hoje. Em média, ele fica cerca de quatro meses atrás da fronteira dos EUA.

Também é notável que, quando um modelo da OpenAI comprometeu a Hugging Face no verão, foi o GLM-5.2 que ajudou a proteger a infraestrutura aberta. A Anthropic e a OpenAI recusaram-se a ajudar, citando questões de segurança.

Elas deram a esses modelos uma excelente campanha publicitária gratuita.

Não está claro se as empresas percebem isso, mas o efeito pode acabar sendo o oposto do que esperam.

Pesquisa da Anthropic sobre o GLM-5.3 e a disseminação de capacidades cibernéticas avançadas