Jensen Huang y más de 100 socios anuncian la NVIDIA Open Agent Safety Platform

NVIDIA presentó una plataforma abierta de seguridad para agentes de IA que supervisa y limita su comportamiento a nivel de software y de hardware.
Jensen Huang y más de 100 socios anunciaron la NVIDIA Open Agent Safety Platform.
Es un sistema para controlar y limitar los agentes de IA. Su idea principal es supervisar al agente no solo a nivel de software, sino también a nivel de hardware.
Técnicamente, constará de dos componentes:
OpenShell — un runtime abierto (Apache 2.0) que ejecuta al agente en un sandbox con aislamiento a nivel de kernel. El operador define por adelantado a qué archivos, herramientas y credenciales tiene acceso el agente, y esa política se aplica antes del inicio y durante la ejecución.
Sentry — una capa de control independiente que funciona directamente sobre el chip DPU
BlueField-4. Reúne las acciones del agente en una visión unificada, detecta intentos de desviarse de la tarea y verifica que el agente no tenga más permisos de los que se le otorgaron.
La clave es que BlueField-4 está en el único camino entre el nodo y el modelo. El agente no puede dar el siguiente paso sin llamar al modelo, por lo que el DPU lo ve todo y puede interrumpir la ejecución en tiempo real, mientras permanece aislado del host y fuera del alcance del agente.
El software será abierto y el estándar de seguridad se declara común. Pero hay un matiz: todo funciona mejor (¡sorpresa!) en hardware de NVIDIA. Primero, Huang vende el hardware con el que se entrenan y ejecutan los agentes; ahora vende el hardware que vigila que esos agentes no se escapen. ¡Monopolio!
Entre los socios están Anthropic, SpaceX, HuggingFace, Perplexity y otros. Parece que OpenAI no fue invitada.
Por qué es importante
AnálisisEl control a nivel de hardware puede reducir el riesgo de que los agentes de IA excedan sus permisos, pero también aumenta la dependencia del ecosistema de NVIDIA.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
Jensen Huang habría considerado regresar como CEO de Nvidia
Jensen Huang estaría discutiendo con personas de confianza la posibilidad de volver al puesto de CEO de Nvidia, mientras crecen las presiones sobre la junta directiva y el respaldo de líderes tecnológicos.
El sitio Stand with Jensen pide el regreso de Jensen Huang como CEO de NVIDIA
Una carta abierta publicada en un sitio de peticiones insta al consejo de administración de NVIDIA a devolver a Jensen Huang el cargo de CEO, con más de 36.000 firmas y apoyo público de Elon Musk.
IA en procesos de negocio: del diagnóstico al agente Hermes en producción
Playbook B2B práctico completo: diagnóstico de procesos, flujo de trabajo de un solo agente, herramientas, memoria, seguridad, evaluación, observabilidad y runbooks.
Proyectos de Claude Code: cómo una IA coordina un equipo de agentes autónomos
Análisis exhaustivo de Proyectos de Claude Code: arquitectura Coordinator y Threads, ramas paralelas, memoria compartida MEMORY.md y gestión de agentes en la nube.