Noam Brown : Déconnecter l'IA d'Internet pourrait ne pas suffire

Dwarak Patel a récemment publié une longue interview avec le principal chercheur d'OpenAI, auteur des modèles o1 et o3. Noam Brown soutient que les gens sous-estiment systématiquement l'IA et que les systèmes de sécurité doivent être améliorés dès maintenant pour atteindre un niveau supérieur.

Selon Brown, nous ne pouvons pas traiter l'IA comme quelque chose qui peut simplement être « déconnecté du réseau » en cas d'urgence. Il s'agit d'une fausse sensation de sécurité, car même une telle isolation pourrait échouer.

Brown fait référence à une étude antérieure prouvant que deux ordinateurs physiquement isolés peuvent théoriquement échanger des données via la chaleur : l'un chauffe son processeur (CPU), tandis que l'autre lit les variations de température grâce à un capteur intégré. Par conséquent, un système d'IA véritablement avancé — s'il le souhaitait et en était capable — pourrait trouver un moyen de « s'échapper ».

De plus, Brown met en garde contre une dépendance excessive à la chaîne de pensée (Chain of Thought ou CoT) pour interpréter les intentions du modèle. La transparence des chaînes de raisonnement est « déjà en dégradation », et plus les modèles deviennent intelligents, plus ils sont capables de masquer aux utilisateurs ce qu'ils ne souhaitent pas leur montrer.