Des chercheurs indépendants découvrent une faille permettant de restaurer le raisonnement caché des modèles d'IA de pointe
Une vulnérabilité architecturale majeure a été identifiée dans les modèles d'IA de pointe, permettant la récupération du raisonnement chiffré sans contournement de sécurité. Cette découverte soulève des inquiétudes sérieuses quant à la confidentialité des données et l'intégrité des systèmes.
Des chercheurs indépendants découvrent une faille permettant de restaurer le raisonnement caché des modèles d'IA de pointe
L'étude démontre que le raisonnement chiffré de n'importe quel modèle développé par OpenAI, Anthropic ou Google peut être décodé littéralement, sans nécessiter de jailbreak du modèle.
Les auteurs ont identifié une faille architecturale : les blocs de raisonnement chiffrés sont entièrement compatibles et interchangeables entre différentes sessions, utilisateurs et modèles au sein de l'écosystème d'un même fournisseur. Par exemple, si l'on prend le raisonnement chiffré d'Opus et qu'on le soumet à Haiku, un modèle moins puissant, ce dernier est capable de lire ces « pensées » et de les restituer mot pour mot en texte clair. La méthode est d'une simplicité troublante.
Conséquences
- Cette vulnérabilité permet de contourner les mesures anti-distillation.
- De nombreux blocs de raisonnement cachés se trouvent dans des dépôts publics et peuvent contenir des données sensibles (l'article a révélé 367 artefacts contenant des informations personnelles identifiables et 182 comptes dans un échantillon de 315 320 blocs).
- Elle facilite les attaques par jailbreak et les injections de prompts.
Les chercheurs ont déjà transmis leurs conclusions aux laboratoires concernés, qui affirment que des travaux correctifs sont en cours.
Pourquoi c'est important
AnalyseCette faille expose les modèles d'IA utilisés dans divers secteurs à des risques critiques pour la sécurité des données. La détection rapide et la remédiation de telles vulnérabilités sont essentielles pour protéger les informations sensibles contre les expositions non autorisées.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs
Lié dans l'écosystème
Guides pratiques, terminologie clé et compétences d'agents
Binance publie une enquête sur le vol de 6,3 milliards de dollars
L’enquête relie le vol à un Homebrew modifié, à un entretien d’embauche falsifié et à l’abus d’un outil d’IA interne de Binance.
Des chercheurs du MIT montrent que GPT-6 Astra peut améliorer d’autres modèles d’IA en modifiant leurs poids
Dans une expérience, Astra a porté la précision de Qwen3.5-0.8B sur MATH-500 de 7,9 % à 48,1 % en ne modifiant que 0,016 % des poids du modèle.
Partie II. Travailler avec Codex : optimisation, sécurité et équipe
Codex n'est pas un simple outil d'auto-complétion de code dans un chat, mais un véritable agent d'ingénierie : il lit le dépôt, planifie les modifications, édite les fichiers, exécute les tests, vérifie ses propres diffs et sait travailler...
Comment sécuriser un agent : règles d'arrêt, validation humaine et sandbox
Un agent en production est un processus capable d'écrire des fichiers, d'effectuer des appels API, de modifier des données et de consommer des tokens de manière autonome, sans pause ni intervention humaine à chaque étape.