OpenAI déjoue une vaste campagne de distillation visant ses modèles

OpenAI déjoue une vaste campagne de distillation visant ses modèles

OpenAI a annoncé avoir découvert une campagne coordonnée visant à extraire le raisonnement caché de ses modèles. Au pic de l'activité, plus de 16 000 requêtes de ce type ont transité par le système en deux jours, émanant de plus de 4 000 comptes distincts.

L'entreprise a souligné que le chiffrement n'avait pas été compromis : les attaquants se contentaient de déplacer des blocs de chaîne de pensée (CoT) chiffrés d'un dialogue à un autre, demandant ensuite au modèle de les reproduire sous forme de texte clair.

Anthropic avait précédemment allégué que Moonshot avait remplacé les réponses de Kimi par celles de Claude. OpenAI a désormais publié sa propre enquête. Bien qu'elle ne prétende pas que Moonshot soit derrière l'intégralité de la campagne, elle lie le principal cluster d'activité aux développeurs de Kimi et qualifie cette initiative de tentative de distillation de ses modèles.

À la suite de cette investigation, OpenAI a fermé la possibilité de transférer des blocs de raisonnement chiffrés entre utilisateurs et espaces de travail, renforcé la vérification des comptes et ajouté des protections spécifiques contre la sortie de raisonnement caché. L'entreprise a également partagé ses conclusions avec d'autres laboratoires d'IA et les autorités compétentes.

Plus de détails sont disponibles dans le rapport d'OpenAI.