Investigadores independientes encuentran la forma de restaurar completamente el razonamiento oculto de los modelos de frontera
Investigadores han descubierto una vulnerabilidad en los modelos de IA de frontera que permite recuperar el razonamiento encriptado sin necesidad de hacer jailbreak. Esto podría tener serias implicaciones para la seguridad de los datos.
Investigadores independientes encuentran la forma de restaurar completamente el razonamiento oculto de los modelos de frontera
El artículo muestra que el razonamiento encriptado de cualquier modelo de OpenAI, Anthropic y Google puede ser decodificado literalmente 1:1, sin necesidad de hacer jailbreak al modelo.
Los autores encontraron un fallo arquitectónico: los bloques de razonamiento encriptados son completamente compatibles e intercambiables entre diferentes sesiones, usuarios y modelos dentro del ecosistema de un solo proveedor. Por ejemplo, si tomas el razonamiento encriptado de Opus y se lo das a un Haiku menos inteligente, este puede leer esos "pensamientos" y sacarlos literalmente en texto claro. Así de simple.
Consecuencias
- Esta vulnerabilidad permite eludir las medidas anti-destilación.
- Hay muchos de estos bloques de razonamiento ocultos en repositorios abiertos que pueden contener datos sensibles (en el artículo se encontraron 367 artefactos de PII y 182 cuentas en una muestra de 315,320 bloques).
- Esto simplifica los jailbreaks y las inyecciones de prompts.
Los investigadores ya han pasado sus hallazgos a laboratorios y dicen que se está trabajando en ello.
Por qué es importante
AnálisisEsta vulnerabilidad podría llevar a serias amenazas a la seguridad de los datos en modelos de IA utilizados en diversos sectores. La detección y remediación oportuna de tales problemas son cruciales para proteger información sensible.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
Binance publica una investigación sobre el robo de $6,300 millones
La investigación vincula el robo con una versión modificada de Homebrew, una entrevista falsa y el uso de una herramienta interna de IA de Binance.
Investigadores del MIT muestran que GPT-6 Astra puede mejorar otros modelos de IA cambiando sus pesos
En un experimento, Astra elevó la precisión de Qwen3.5-0.8B en MATH-500 del 7,9% al 48,1% cambiando solo el 0,016% de los pesos del modelo.
Formatos DOCX y XLSX: cuándo se necesita un documento final completo de la IA
Guía práctica y completa sobre la generación y procesamiento de documentos DOCX y libros XLSX con IA: comparativa con Markdown y CSV, ingeniería de prompts, fórmulas y automatización en código.
Formato CSV: guía completa para automatizaciones y flujos de IA
Guía práctica sobre el formato CSV en flujos de IA: estándar RFC 4180, comparativa con XLSX y JSON, limpieza masiva, enriquecimiento de datos, scripts en Python y prompts para producción.