OpenAI Descobre Campanha Massiva de Destilação Contra Seus Modelos

A OpenAI identificou uma tentativa coordenada de extrair raciocínio oculto de seus modelos, com mais de 16.000 solicitações de 4.000 contas no pico. A empresa restringiu a transferência de blocos de raciocínio criptografados e reforçou as verificações de conta.
OpenAI Descobre Campanha Massiva de Destilação Contra Seus Modelos
A OpenAI anunciou ter descoberto uma campanha coordenada destinada a extrair raciocínio oculto de seus modelos. No pico da atividade, mais de 16.000 solicitações desse tipo passaram pelo sistema em dois dias, originadas de mais de 4.000 contas.
A empresa enfatizou que a criptografia não foi quebrada: os atacantes simplesmente moveram blocos criptografados de cadeia de pensamento (CoT) de um diálogo para outro e solicitaram ao modelo que os reproduzisse como texto simples.
Anteriormente, a Anthropic alegou que a Moonshot substituiu as respostas do Kimi pelas do Claude. Agora, a OpenAI publicou sua própria investigação. Embora não afirme que a Moonshot esteja por trás de toda a campanha, vincula o principal cluster de atividade aos desenvolvedores do Kimi e descreve o esforço como uma tentativa de destilar seus modelos.
Após a investigação, a OpenAI encerrou a capacidade de transferir blocos de raciocínio criptografados entre usuários e espaços de trabalho, fortaleceu a verificação de contas e adicionou proteções específicas contra a saída de raciocínio oculto. A empresa também compartilhou suas descobertas com outros laboratórios de IA e autoridades.
Mais detalhes estão disponíveis no relatório da OpenAI.
Por que isso importa
AnáliseO caso demonstra como a arquitetura do modelo pode se tornar um vetor de vazamento para treinar sistemas rivais, estabelecendo um precedente para a resposta dos laboratórios de IA ao abuso de destilação.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
OpenAI GPT (Modelos Flagship da Série GPT)
A principal linha universal de grandes modelos de linguagem da OpenAI (GPT-4, GPT-4o). Otimizada para análise textual complexa, programação, criatividade e trabalho intelectual diário.
GPT Mini (Modelos compactos da série GPT-4o mini)
Versão econômica e ultrarrápida dos modelos principais da OpenAI. Otimizada para tarefas diárias em massa, respostas instantâneas, classificação de textos e economia de limites.
OpenAI publica Apps SDK UI para interfaces de plugins do ChatGPT
A OpenAI publicou o código-fonte do Apps SDK UI, uma biblioteca em React e Tailwind com componentes prontos para criar interfaces interativas dentro do ChatGPT.
Codex Skills para iniciantes: como automatizar fluxos de trabalho de agentes de IA
Guia prático para criar e usar Skills no Codex: anatomia do SKILL.md, ativação explícita e automática, diferenças entre skills, scripts e tools, Skills API e configuração de limites de segurança.