Hinton, Bengio et 20 autres chercheurs publient un rapport sur l'« explosion de l'intelligence »
Un document signé par 22 experts avertit que l'IA pourrait accélérer son propre développement au point de compresser des années de progrès en quelques mois, exigeant une supervision préventive immédiate.
Geoffrey Hinton, Yoshua Bengio et vingt autres chercheurs ont publié un article majeur sur le concept d'« explosion de l'intelligence ». Issu de travaux menés à Cambridge, ce document compte 22 auteurs, dont Jakub Pachocki, scientifique en chef chez OpenAI, et Jack Clark, cofondateur d'Anthropic. La question centrale est la suivante : que se passe-t-il si l'IA commence à accélérer son propre développement au point de comprimer des années de progrès en quelques mois ?
L'article part du constat actuel observé dans les laboratoires. Chez Anthropic, la part du code écrit par les modèles est passée de pourcentages à un seul chiffre à plus de 80 % depuis début 2025, tandis que la proportion de tâches de R&D réalisées de manière autonome par l'IA a grimpé de 1 % à 26 % en six mois.
La logique de cette explosion est simple : les modèles élargissent la main-d'œuvre de recherche, cette main-d'œuvre améliore les modèles, et le cycle se répète. La puissance de calcul d'un seul laboratoire suffirait à égaler des millions de chercheurs de premier plan. Si les rendements historiques de la recherche persistent, après une automatisation complète, les progrès pourraient s'accélérer dix fois plus vite en environ un an et demi.
Ce scénario pourrait ne pas se matérialiser s'il heurte des limites en matière de calcul, de données ou de durée de pré-entraînement, mais les auteurs considèrent les risques comme sérieux. La société pourrait échouer à s'adapter, les humains pourraient perdre le contrôle des modèles, et le leader de la course pourrait acquérir un avantage trop important.
Les auteurs conseillent aux régulateurs d'exiger des laboratoires qu'ils signalent le degré d'automatisation de la R&D et d'autoriser des auditeurs externes à inspecter les modèles avant leur déploiement interne. Ils recommandent également de préparer à l'avance des mécanismes de ralentissement : des limites sur la croissance des capacités sur une période donnée, la capacité de suspendre des charges de travail spécifiques dans les centres de données, et des accords internationaux avec vérification de la conformité.
« Si l'explosion commence, disent les auteurs, il sera peut-être déjà trop tard pour décider quoi que ce soit. »
Pourquoi c'est important
AnalyseCette publication est cruciale car elle reframe l'auto-accélération de l'IA comme un problème de gouvernance : si l'automatisation de la R&D se compose exponentiellement, les délais réglementaires et de sécurité actuels risquent d'être obsolètes avant même d'être appliqués.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs