Jensen Huang e mais de 100 parceiros anunciam a Plataforma Aberta de Segurança para Agentes da NVIDIA

A NVIDIA lançou uma plataforma aberta de segurança para agentes de IA que impõe monitoramento e limites de acesso simultaneamente nos níveis de software e hardware.
Jensen Huang, ao lado de mais de 100 parceiros, anunciou a NVIDIA Open Agent Safety Platform.
Trata-se de um sistema projetado para controlar e restringir agentes de IA. A ideia central é monitorar o agente não apenas no nível do software, mas também no nível do hardware.
Tecnicamente, a solução consiste em dois componentes principais:
OpenShell — Um runtime de código aberto (licença Apache 2.0) que inicia o agente em um sandbox com isolamento em nível de kernel. O operador predefine quais arquivos, ferramentas e credenciais o agente pode acessar, sendo essa política aplicada antes do lançamento e durante a execução.
Sentry — Uma camada de controle independente que roda diretamente na DPU
BlueField-4. Ela agrega as ações do agente em uma visão unificada, detecta tentativas de desvio da tarefa designada e verifica se o agente não possui permissões além das concedidas.
O ponto crucial é que a BlueField-4 está posicionada no único caminho entre o nó e o modelo. Como o agente não pode dar o próximo passo sem chamar o modelo, a DPU visualiza todas as operações e pode interromper a carga de trabalho em tempo real, mantendo-se isolada do host e fora do alcance do agente.
Embora o software seja aberto e o padrão de segurança seja declarado como comum, há uma nuance importante: toda a stack funciona melhor (surpresa!) no hardware da NVIDIA. Primeiro, Huang vende o hardware usado para treinar e executar os agentes; agora, ele vende o hardware que garante que esses agentes não escapem do controle. É uma estratégia de monopólio.
Entre os parceiros estão Anthropic, SpaceX, HuggingFace, Perplexity e outros. A OpenAI aparentemente não foi convidada.
Por que isso importa
AnáliseA aplicação de restrições no nível de hardware pode tornar os agentes de IA mais difíceis de comprometer ou de exceder suas permissões, mas também aprofunda a dependência da infraestrutura da NVIDIA.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Jensen Huang estaria considerando retornar ao cargo de CEO da Nvidia
Jensen Huang estaria discutindo com pessoas de confiança a possibilidade de voltar ao cargo de CEO da Nvidia, enquanto crescem as pressões sobre o conselho e o apoio de líderes de tecnologia.
Site Stand with Jensen pede o retorno de Jensen Huang como CEO da NVIDIA
Uma carta aberta publicada em um site de petições pede que o conselho de administração da NVIDIA devolva Jensen Huang ao cargo de CEO, com mais de 36 mil assinaturas e apoio público de Elon Musk.
O Monopólio da Nvidia e a Plataforma CUDA
Análise do domínio tecnológico e econômico da corporação Nvidia no mercado de inteligência artificial. Como a plataforma de software CUDA (Compute Unified Device Architecture), criada em 2006, transformou placas de vídeo comuns para jogos na principal ferramenta computacional do planeta, e por que é tão difícil para os concorrentes (AMD, Intel) quebrar esse monopólio.
Operador de IA Autônomo no Telegram 24/7: Arquitetura, Telethon, Segurança e 10 Cenários Funcionais
Guia técnico abrangente para criar um operador de IA pronto para produção no Telegram usando Telethon: isolamento de sessões, sistema de confirmações, proteção contra banimento e execução contínua 24/7.