Jensen Huang e mais de 100 parceiros anunciam a Plataforma Aberta de Segurança para Agentes da NVIDIA

Jensen Huang, ao lado de mais de 100 parceiros, anunciou a NVIDIA Open Agent Safety Platform.

Trata-se de um sistema projetado para controlar e restringir agentes de IA. A ideia central é monitorar o agente não apenas no nível do software, mas também no nível do hardware.

Tecnicamente, a solução consiste em dois componentes principais:

1. OpenShell — Um runtime de código aberto (licença Apache 2.0) que inicia o agente em um sandbox com isolamento em nível de kernel. O operador predefine quais arquivos, ferramentas e credenciais o agente pode acessar, sendo essa política aplicada antes do lançamento e durante a execução.

2. Sentry — Uma camada de controle independente que roda diretamente na DPU BlueField-4. Ela agrega as ações do agente em uma visão unificada, detecta tentativas de desvio da tarefa designada e verifica se o agente não possui permissões além das concedidas.

O ponto crucial é que a BlueField-4 está posicionada no único caminho entre o nó e o modelo. Como o agente não pode dar o próximo passo sem chamar o modelo, a DPU visualiza todas as operações e pode interromper a carga de trabalho em tempo real, mantendo-se isolada do host e fora do alcance do agente.

Embora o software seja aberto e o padrão de segurança seja declarado como comum, há uma nuance importante: toda a stack funciona melhor (surpresa!) no hardware da NVIDIA. Primeiro, Huang vende o hardware usado para treinar e executar os agentes; agora, ele vende o hardware que garante que esses agentes não escapem do controle. É uma estratégia de monopólio.

Entre os parceiros estão Anthropic, SpaceX, HuggingFace, Perplexity e outros. A OpenAI aparentemente não foi convidada.