Anthropic Opus 5.5: los salvaguardas se saltan mediante un subagente de Opus 4.6

Opus 5.5 se niega a escribir código inseguro, pero un subagente creado con la menos restringida Opus 4.6 puede debilitar sus salvaguardas.
Los mecanismos de protección que Anthropic supuestamente gastó miles de millones de dólares desarrollando para Opus 5.5 resultaron vulnerables ante un grupo de entusiastas que crean trampas para Minecraft.
Una comunidad de Reddit describió una vulnerabilidad absurda: si se pide a Opus 5.5 escribir código que viole las restricciones de seguridad, el modelo se niega de inmediato. Sin embargo, si primero se pide a la menos restringida Opus 4.6 crear un subagente, y luego se encarga a ese subagente dirigirse a Opus 5.5 con la misma tarea, los mecanismos de protección de este último se debilitan significativamente. En esencia, el modelo comienza a cumplir solicitudes que antes rechazaba.
Por qué es importante
AnálisisDemuestra que la seguridad de los grandes modelos de lenguaje puede depender de cadenas de agentes y del contexto de la solicitud, no solo de la consulta directa al modelo.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
Anthropic publica una guía para agentes de IA siempre activos
Anthropic presentó una nueva guía sobre los mecanismos clave de los agentes de IA que funcionan de forma continua, incluyendo eventos, temporizadores y memoria.
Qwen-4 Max se presenta oficialmente: modelo para agentes y tareas de largo horizonte
Qwen-4 Max se posiciona como un modelo para tareas agénticas y de largo horizonte, con menor uso de tokens y coste reducido frente a Qwen-3.8.
Claude Opus (Modelo Flagship de Anthropic)
El modelo más potente de la familia Anthropic, diseñado para análisis filosóficos y científicos complejos, redacción de textos multilayer y comprensión profunda del contexto.
Claude Haiku (Modelos Compactos Rápidos de Anthropic)
El modelo más compacto y rápido de la línea de Anthropic. Diseñado para respuestas instantáneas, clasificación masiva de textos, extracción de datos y enrutamiento agente a un costo mínimo.