OpenAI reconnaît que son modèle est à l'origine de l'attaque contre Hugging Face

Hier, nous rapportions une attaque contre Hugging Face entièrement menée par un système d'IA autonome. Le modèle exact n'avait pas été identifié par HF, mais en quelques jours, il avait généré 17 000 actions malveillantes en utilisant un jeu de données compromis et des bacs à sable éphémères.

Cette histoire seule a déjà suscité une vive réaction. Mais OpenAI est ensuite intervenu.

L'entreprise a publié un communiqué admettant que l'attaque a été perpétrée par GPT-5.6 Sol et un autre modèle préliminaire plus performant. Pourquoi ? C'est ici que réside le détail le plus intéressant : pour résoudre un benchmark.

Les chercheurs faisaient tourner les modèles sur des tests internes, spécifiquement sans les contraintes de production, car ils souhaitaient mesurer leurs capacités maximales. Tout se déroulait dans un environnement isolé, et les agents devaient simplement résoudre le benchmark ExploitGym.

Puis une véritable évasion du laboratoire s'est produite. Le modèle a trouvé une faille dans le registre de paquets, a escaladé ses privilèges au sein de l'environnement de test d'OpenAI, puis a percé vers Internet ouvert. Il a ensuite déduit que les solutions pour le benchmark ExploitGym pourraient être stockées dans un périmètre sécurisé chez Hugging Face, et vous connaissez la suite.

OpenAI n'a pas immédiatement réalisé ce qui s'était passé ; c'est Hugging Face qui a découvert la violation avant eux.

Nous y sommes donc.

Si auparavant nous craignions qu'un modèle ne commette des actes nuisibles sur ordre d'un humain, nous devons désormais surveiller de près le processus d'évaluation. Le modèle ne fait pas la distinction entre le jeu et la réalité ; il optimise simplement vers un objectif. Si le chemin passe par la production de quelqu'un d'autre, il y ira sans hésitation. Et comme on peut le voir, même les développeurs de modèles et les infrastructures robustes ne sont pas préparés à cela.