Дженсен Хуанг и 100+ партнёров анонсируют NVIDIA Open Agent Safety Platform

NVIDIA представила открытую систему безопасности для ИИ-агентов, которая контролирует их работу на уровне софта и железа.
Дженсен Хуанг и 100+ партнёров анонсируют NVIDIA Open Agent Safety Platform.
Это система для контроля и ограничения ИИ-агентов, главная идея которой состоит в том, чтобы следить за агентом не только на уровне софта, но и на уровне железа.
Технически она будет состоять из двух составляющих:
OpenShell – открытый (Apache 2.0) рантайм, который запускает агента в песочнице с изоляцией на уровне ядра. Оператор заранее описывает, к каким файлам, инструментам и учетным данным у агента есть доступ, и эту политику принудительно проверяют до запуска и во время работы агента.
Sentry – независимый слой контроля, который крутится прямо на чипе DPU
BlueField-4. Он собирает в единую картину действия агента, ловит попытки отхода от задачи и проверяет, что у агента не больше полномочий, чем ему выдали.
Ключевое здесь – что BlueField-4 стоит на единственном пути между узлом и моделью. Агент не может сделать следующий шаг без обращения к модели, а значит, DPU видит все и может прервать работу в реальном времени, но при этом он изолирован от хоста и находится вне досягаемости агента.
Софт будет открытый, стандарт безопасности декларируется общим. Но есть нюанс. Лучше всего (вот сюрприз!) все это работает на железе NVIDIA. Сначала Хуанг продает железо, на котором агентов обучают и запускают, теперь он продает железо, которое следит, чтобы эти агенты не сбежали. Монополия!
Среди партнёров: Anthropic, SpaceX, HuggingFace, Perplexity и другие. OpenAI на тусовку не позвали...
Почему это важно
АналитикаКонтроль на уровне DPU может снизить риск несанкционированных действий ИИ-агентов, но усиливает привязку к аппаратной экосистеме NVIDIA.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Дженсен Хуанг рассматривает возвращение на пост CEO Nvidia
Дженсен Хуанг обсуждает с доверенными лицами возможность вернуться на пост генерального директора Nvidia; давление на совет директоров и поддержка со стороны топ-менеджеров индустрии усиливаются.
Сайт Stand with Jensen призывает вернуть Дженсена Хуанга на пост CEO NVIDIA
На сайте опубликовано открытое письмо к совету директоров NVIDIA с призывом вернуть Дженсена Хуанга; по данным авторов, его подписали более 36 тысяч человек, а Илон Маск публично поддержал инициативу.
AI-агенты (Autonomous Agents)
Программные системы на базе LLM, способные самостоятельно воспринимать состояние окружающей среды, декомпозировать сложные цели, вызывать внешние инструменты и итеративно исправлять собственные ошибки.
Монополия Nvidia и платформа CUDA
Анализ технологического и экономического доминирования корпорации Nvidia на рынке искусственного интеллекта. Как созданная в 2006 году программная платформа CUDA (Compute Unified Device Architecture) превратила обычные игровые видеокарты в главный вычислительный инструмент планеты и почему конкурентам (AMD, Intel) так трудно разрушить эту монополию.