Jensen Huang et plus de 100 partenaires lancent la plateforme NVIDIA Open Agent Safety

NVIDIA a dévoilé une plateforme ouverte de sécurité pour les agents IA, imposant une surveillance et des restrictions d'accès aux niveaux logiciel et matériel.
Jensen Huang, accompagné de plus de 100 partenaires, a annoncé le lancement de la plateforme NVIDIA Open Agent Safety.
Il s'agit d'un système conçu pour contrôler et contraindre les agents d'intelligence artificielle. L'idée centrale est de surveiller un agent non seulement au niveau logiciel, mais également au niveau matériel.
Techniquement, cette solution repose sur deux composants principaux :
OpenShell — Un environnement d'exécution open source (licence Apache 2.0) qui lance l'agent dans un bac à sable avec une isolation au niveau du noyau. L'opérateur prédéfinit quels fichiers, outils et identifiants l'agent peut utiliser ; cette politique est appliquée avant le lancement et pendant l'exécution.
Sentry — Une couche de contrôle indépendante fonctionnant directement sur le DPU
BlueField-4. Elle agrège les actions de l'agent en une vue d'ensemble unique, détecte les tentatives de déviation par rapport à la tâche assignée et vérifie que l'agent ne dispose pas de permissions supérieures à celles qui lui ont été accordées.
Le point crucial réside dans le fait que le BlueField-4 se trouve sur le seul chemin entre le nœud et le modèle. Comme l'agent ne peut effectuer l'étape suivante sans appeler le modèle, le DPU voit tout et peut interrompre la charge de travail en temps réel, tout en restant isolé de l'hôte et hors de portée de l'agent.
Bien que le logiciel soit ouvert et que la norme de sécurité soit déclarée comme commune, il existe une nuance importante : l'ensemble de la pile fonctionne de manière optimale (sans surprise !) sur le matériel NVIDIA. Jensen Huang vendait déjà le matériel utilisé pour entraîner et exécuter les agents ; il vend désormais le matériel garantissant que ces agents ne sortent pas de leur cadre. Une stratégie de monopole assumée.
Parmi les partenaires figurent Anthropic, SpaceX, HuggingFace et Perplexity. Il semble qu'OpenAI n'ait pas été invitée.
Pourquoi c'est important
AnalyseL'application de contraintes au niveau matériel pourrait rendre les agents IA plus difficiles à compromettre ou à détourner de leurs permissions, mais elle accentue également la dépendance à l'infrastructure de NVIDIA.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs
Lié dans l'écosystème
Guides pratiques, terminologie clé et compétences d'agents
Jensen Huang envisagerait un retour au poste de PDG de Nvidia
Jensen Huang discuterait avec des personnes de confiance d’un éventuel retour au poste de PDG de Nvidia, tandis que la pression sur le conseil d’administration et le soutien de dirigeants technologiques augmentent.
Stand with Jensen : une pétition demande le retour de Jensen Huang comme CEO de NVIDIA
Un courrier ouvert publié sur un site de pétition appelle le conseil d’administration de NVIDIA à réinstaller Jensen Huang à la direction, avec plus de 36 000 signatures et un soutien public d’Elon Musk.
Le monopole de Nvidia et la plateforme CUDA
Analyse de la domination technologique et économique de Nvidia sur le marché de l'intelligence artificielle. Comment la plateforme logicielle CUDA (Compute Unified Device Architecture), créée en 2006, a transformé les cartes graphiques de jeu ordinaires en l'outil de calcul principal de la planète, et pourquoi il est si difficile pour les concurrents (AMD, Intel) de briser ce monopole.
Claude Code Projects : comment une IA coordonne une équipe d'agents autonomes
Analyse approfondie de Claude Code Projects : architecture Coordinator et Threads, branches parallèles, mémoire partagée MEMORY.md et gestion des agents cloud.