OpenAI Descobre Campanha Massiva de Destilação Contra Seus Modelos

OpenAI Descobre Campanha Massiva de Destilação Contra Seus Modelos

A OpenAI anunciou ter descoberto uma campanha coordenada destinada a extrair raciocínio oculto de seus modelos. No pico da atividade, mais de 16.000 solicitações desse tipo passaram pelo sistema em dois dias, originadas de mais de 4.000 contas.

A empresa enfatizou que a criptografia não foi quebrada: os atacantes simplesmente moveram blocos criptografados de cadeia de pensamento (CoT) de um diálogo para outro e solicitaram ao modelo que os reproduzisse como texto simples.

Anteriormente, a Anthropic alegou que a Moonshot substituiu as respostas do Kimi pelas do Claude. Agora, a OpenAI publicou sua própria investigação. Embora não afirme que a Moonshot esteja por trás de toda a campanha, vincula o principal cluster de atividade aos desenvolvedores do Kimi e descreve o esforço como uma tentativa de destilar seus modelos.

Após a investigação, a OpenAI encerrou a capacidade de transferir blocos de raciocínio criptografados entre usuários e espaços de trabalho, fortaleceu a verificação de contas e adicionou proteções específicas contra a saída de raciocínio oculto. A empresa também compartilhou suas descobertas com outros laboratórios de IA e autoridades.

Mais detalhes estão disponíveis no relatório da OpenAI.