OpenAI déjoue une vaste campagne de distillation visant ses modèles

OpenAI a détecté une tentative coordonnée d'extraction du raisonnement caché de ses modèles, impliquant plus de 16 000 requêtes provenant de 4 000 comptes. L'entreprise a depuis restreint le transfert des blocs de raisonnement chiffrés et renforcé la vérification des comptes.
OpenAI déjoue une vaste campagne de distillation visant ses modèles
OpenAI a annoncé avoir découvert une campagne coordonnée visant à extraire le raisonnement caché de ses modèles. Au pic de l'activité, plus de 16 000 requêtes de ce type ont transité par le système en deux jours, émanant de plus de 4 000 comptes distincts.
L'entreprise a souligné que le chiffrement n'avait pas été compromis : les attaquants se contentaient de déplacer des blocs de chaîne de pensée (CoT) chiffrés d'un dialogue à un autre, demandant ensuite au modèle de les reproduire sous forme de texte clair.
Anthropic avait précédemment allégué que Moonshot avait remplacé les réponses de Kimi par celles de Claude. OpenAI a désormais publié sa propre enquête. Bien qu'elle ne prétende pas que Moonshot soit derrière l'intégralité de la campagne, elle lie le principal cluster d'activité aux développeurs de Kimi et qualifie cette initiative de tentative de distillation de ses modèles.
À la suite de cette investigation, OpenAI a fermé la possibilité de transférer des blocs de raisonnement chiffrés entre utilisateurs et espaces de travail, renforcé la vérification des comptes et ajouté des protections spécifiques contre la sortie de raisonnement caché. L'entreprise a également partagé ses conclusions avec d'autres laboratoires d'IA et les autorités compétentes.
Plus de détails sont disponibles dans le rapport d'OpenAI.
Pourquoi c'est important
AnalyseCe cas illustre comment l'architecture même des modèles peut devenir un vecteur de fuite pour entraîner des systèmes concurrents, établissant un précédent pour la réponse des laboratoires d'IA face aux abus liés à la distillation.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs
Lié dans l'écosystème
Guides pratiques, terminologie clé et compétences d'agents
OpenAI GPT (Modèles phares de la série GPT)
La gamme principale et polyvalente des grands modèles de langage d'OpenAI (GPT-4, GPT-4o). Optimisée pour l'analyse textuelle complexe, la programmation, la création et le travail intellectuel quotidien.
OpenAI Série o / Raisonnement (Modèles de raisonnement avancé)
La nouvelle génération d'intelligence artificielle d'OpenAI (série o1, o3), optimisée pour la réflexion cachée multi-étapes, les mathématiques supérieures, la physique quantique et le codage algorithmique complexe.
OpenAI publie Apps SDK UI pour les interfaces des plugins ChatGPT
OpenAI a publié le code source d’Apps SDK UI, une bibliothèque React et Tailwind avec des composants prêts à l’emploi pour créer des interfaces interactives dans ChatGPT.
Codex Skills pour débutants : comment automatiser les scénarios de travail des agents IA
Guide pratique pour créer et utiliser les Skills dans Codex : anatomie du fichier SKILL.md, activation explicite et automatique, différences entre les compétences, les scripts et les outils, l'API Skills et la configuration des limites de sécurité.