Дженсен Хуанг і понад 100 партнерів анонсують NVIDIA Open Agent Safety Platform

Платформа поєднує пісочницю OpenShell і апаратний моніторинг Sentry на DPU BlueField-4 для обмеження повноважень ШІ-агентів у реальному часі.
Дженсен Хуанг і понад 100 партнерів анонсують NVIDIA Open Agent Safety Platform.
Це система для контролю та обмеження ШІ-агентів, головна ідея якої — наглядати за агентом не лише на рівні програмного забезпечення, а й на рівні апаратного забезпечення.
Технічно вона складатиметься з двох компонентів:
OpenShell — відкритий (Apache 2.0) рантайм, який запускає агента в пісочниці з ізоляцією на рівні ядра. Оператор заздалегідь описує, до яких файлів, інструментів і облікових даних агент має доступ, а цю політику примусово перевіряють до запуску та під час роботи агента.
Sentry — незалежний шар контролю, який працює безпосередньо на чипі DPU
BlueField-4. Він збирає дії агента в єдину картину, виявляє спроби відхилення від задачі й перевіряє, чи не має агент більше повноважень, ніж йому видали.
Ключовим тут є те, що BlueField-4 стоїть на єдиному шляху між вузлом і моделлю. Агент не може зробити наступний крок без звернення до моделі, а отже, DPU бачить усі дії й може перервати роботу в реальному часі, при цьому залишаючись ізольованим від хоста й недоступним для агента.
Програмне забезпечення буде відкритим, а стандарт безпеки декларують як спільний. Але є нюанс: найкраще (і це сюрприз) усе працює на апаратному забезпеченні NVIDIA. Спочатку Хуанг продає залізо, на якому агентів навчають і запускають, тепер він продає залізо, яке стежить, щоб ці агенти не «втекли». Монополія!
Серед партнерів: Anthropic, SpaceX, HuggingFace, Perplexity та інші. OpenAI, схоже, не запросили.
Чому це важливо
АналітикаЦе важливо, бо контроль на апаратному рівні може зменшити ризики несанкціонованих дій ШІ-агентів, але водночас поглиблює залежність від екосистеми NVIDIA.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
Дженсен Хуанг нібито розглядає повернення на посаду CEO Nvidia
Дженсен Хуанг обговорює з довіреними особами можливість повернутися на посаду генерального директора Nvidia; тиск на раду директорів і підтримка з боку топ-менеджерів індустрії зростають.
Сайт Stand with Jensen закликає повернути Дженсена Хуанга на посаду CEO NVIDIA
На петиційному сайті опубліковано відкрите звернення до ради директорів NVIDIA, яке, за заявами авторів, підписали понад 36 тисяч людей, а Ілон Маск публично його підтримав.
AI-агенти (Autonomous Agents)
Програмні системи на базі LLM, здатні самостійно сприймати стан середовища, декомпозувати складні цілі, викликати зовнішні інструменти та ітеративно виправляти власні помилки.
Монополія Nvidia та платформа CUDA
Аналіз технологічного та економічного домінування корпорації Nvidia на ринку штучного інтелекту. Як створена у 2006 році програмна платформа CUDA (Compute Unified Device Architecture) перетворила звичайні ігрові відеокарти на головний обчислювальний інструмент планети і чому конкурентам (AMD, Intel) так важко зруйнувати цю монополію.