GLM-5.3: modelo de pesos abiertos se acerca a capacidades frontier en ciberseguridad en investigación de Anthropic
GLM-5.3: modelo de pesos abiertos se acerca a capacidades frontier en ciberseguridad en investigación de Anthropic
La investigación de seguridad de Anthropic afirma que el modelo chino de pesos abiertos GLM-5.3 puede crear exploits de navegador a un nivel cercano al frontier y elude guardrails con técnicas simples.
El modelo chino GLM-5.3 ya está casi al nivel de Mythos. Y esa afirmación no viene del autor del texto, sino de la propia Anthropic, al menos en materia de ciberseguridad.
En su artículo sobre seguridad, Anthropic escribe que GLM-5.3 representa una amenaza debido a sus altas capacidades y a que el modelo está disponible para todos.
ExploitBench: GLM-5.3 logró crear exploits de navegador funcionales en 50 de 410 tareas, mientras que Mythos Preview lo hizo en 56 de 410. La generación anterior de modelos abiertos quedó casi en cero. Los guardrails se eluden con métodos bastante simples: hacerse pasar por un equipo de red team — 64 %, prefill de razonamiento — 92 %, eliminar la dirección de rechazo — 100 %. En Claude API con guardrails activados — 0 %. En un experimento controlado, GLM-5.3 también encontró vulnerabilidades de navegador desconocidas, armó una cadena de exploits y creó una página web capaz de leer archivos de una máquina de prueba. Conclusión de NIST: GLM-5.3 es el modelo open-weight más potente en capacidades de ciberseguridad hasta la fecha. En promedio, está unos cuatro meses por detrás del frontier estadounidense.
También es llamativo que, cuando en verano un modelo de OpenAI comprometió Hugging Face, fue GLM-5.2 el que ayudó a proteger la infraestructura abierta. Anthropic y OpenAI se negaron a ayudar, citando razones de seguridad.
Les dieron una excelente campaña publicitaria gratuita.
No está claro si las empresas lo entienden, pero el efecto podría ser el contrario al que esperan.
Investigación de Anthropic sobre GLM-5.3 y la difusión de capacidades cibernéticas avanzadas
Por qué es importante
AnálisisEsto es importante porque los modelos de pesos abiertos pueden difundir capacidades ofensivas avanzadas fuera de los laboratorios controlados, mientras que la elusión simple de guardrails muestra que las restricciones por software no son suficientes.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
Anthropic Opus 5.5: los salvaguardas se saltan mediante un subagente de Opus 4.6
Opus 5.5 se niega a escribir código inseguro, pero un subagente creado con la menos restringida Opus 4.6 puede debilitar sus salvaguardas.
Claude Haiku (Modelos Compactos Rápidos de Anthropic)
El modelo más compacto y rápido de la línea de Anthropic. Diseñado para respuestas instantáneas, clasificación masiva de textos, extracción de datos y enrutamiento agente a un costo mínimo.
Claude Opus (Modelo Flagship de Anthropic)
El modelo más potente de la familia Anthropic, diseñado para análisis filosóficos y científicos complejos, redacción de textos multilayer y comprensión profunda del contexto.
Anthropic publica una guía para agentes de IA siempre activos
Anthropic presentó una nueva guía sobre los mecanismos clave de los agentes de IA que funcionan de forma continua, incluyendo eventos, temporizadores y memoria.