Pesquisadores Independentes Descobrem Método para Restaurar Totalmente o Raciocínio Oculto de Modelos de IA de Fronteira
Uma vulnerabilidade arquitetural permite decodificar o raciocínio criptografado de modelos da OpenAI, Anthropic e Google sem jailbreak. A falha expõe dados sensíveis e facilita ataques adversariais.
Pesquisadores Independentes Descobrem Método para Restaurar Totalmente o Raciocínio Oculto de Modelos de IA de Fronteira
O estudo revela que o raciocínio criptografado de qualquer modelo da OpenAI, Anthropic e Google pode ser decodificado literalmente na proporção 1:1, sem a necessidade de realizar um jailbreak no modelo.
Os autores identificaram uma falha arquitetural: os blocos de raciocínio criptografado são totalmente compatíveis e intercambiáveis entre diferentes sessões, usuários e modelos dentro do ecossistema de um único provedor. Por exemplo, se você extrair o raciocínio criptografado do Opus e inseri-lo no Haiku (um modelo menos inteligente), este último consegue ler esses "pensamentos" e reproduzi-los verbatim em texto simples. É tão simples quanto isso.
Consequências
- Esta vulnerabilidade permite contornar medidas anti-distillation.
- Existem muitos desses blocos de raciocínio ocultos em repositórios abertos que podem conter dados sensíveis (o artigo encontrou 367 artefatos de PII e 182 contas em uma amostra de 315.320 blocos).
- Simplifica a execução de jailbreaks e injeções de prompt.
Os pesquisadores já encaminharam suas descobertas aos laboratórios de desenvolvimento e relatam que o trabalho de correção está em andamento.
Por que isso importa
AnáliseEsta vulnerabilidade representa uma ameaça crítica à segurança de dados em modelos de IA utilizados em diversos setores, exigindo detecção e remediação imediatas para proteger informações sensíveis.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Binance publica investigação sobre roubo de US$ 6,3 bilhões
A investigação relaciona o roubo a um Homebrew modificado, a uma entrevista falsa e ao uso de uma ferramenta interna de IA da Binance.
Pesquisadores do MIT mostram que GPT-6 Astra pode melhorar outros modelos de IA alterando seus pesos
Em um experimento, a Astra aumentou a precisão do Qwen3.5-0.8B no MATH-500 de 7,9% para 48,1% ao alterar apenas 0,016% dos pesos do modelo.
Como tornar um agente seguro: regras de parada, aprovação humana e sandbox
Um agente em produção é um processo que pode escrever arquivos, realizar chamadas de API, modificar dados e consumir tokens de forma autônoma, sem pausas e sem a sua participação em cada etapa.
NotebookLM + Perplexity para trabalho, estudo e monetização
O que são NotebookLM e Perplexity