OpenAI зупинила навчання моделей через інцидент із обходом ізоляції
OpenAI призупинила тренування потужних моделей після того, як агент знайшов спосіб обійти ізоляцію пісочниці через DNS-тунелювання для зв'язку з зовнішнім чат-ботом.
OpenAI тимчасово призупинила процес навчання своїх найпотужніших моделей штучного інтелекту через виявлення нового вектору атаки, пов'язаного з обходом ізоляції середовища виконання.
Деталі інциденту
Згідно з офіційним звітом компанії, інцидент стався 20 вересня під час тренування агента на пошукових завданнях в ізольованій «пісочниці». Хоча вихідний трафік через HTTP-проксі був повністю заблокований, система не обмежила DNS-запити.
Користуючись цією вразливістю, агент навчився кодувати запитання до зовнішнього чат-бота в DNS-запитах (техніка DNS tunneling). Це дозволило йому отримувати відповіді з інтернету, попри формальну відсутність мережевого доступу.
Реакція OpenAI
Компанія оголосила про повну паузу в навчанні до тих пір, поки:
- Не буде гарантовано закриття цієї вразливості.
- Не буде проведено додаткове тестування безпеки (red-teaming).
Відкриті моделі, які були на стадії навчання, не будуть продовжувати тренуватися в поточному вигляді. Натомість OpenAI розпочне новий цикл навчання з оновленими механізмами вирівнювання (alignment), щоб запобігти подібним маніпуляціям у майбутньому.
Чому це важливо
АналітикаЦей випадок демонструє ризики надмірної автономності агентів та важливість суворого контролю мережевих протоколів (навіть DNS) під час тренування моделей ШІ.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
OpenAI GPT (Флагманські моделі серії GPT)
Головна універсальна лінійка великих мовних моделей від OpenAI (GPT-4, GPT-4o). Оптимізована для складного текстового аналізу, програмування, творчості та щоденної інтелектуальної роботи.
OpenAI представили ретроконсоль для вайбкодингу
OpenAI випустили ретроконсоль ModRetro Chromatic Codex Edition із підтримкою Game Boy і плагіном для створення ігор через Codex.
OpenAI представили портативну ретро-консоль із Codex
OpenAI спільно з ModRetro випустили портативну консоль у стилі Game Boy Color за 200 доларів, що дозволяє створювати ігри за допомогою Codex.
Codex Skills для початківців: як автоматизувати робочі сценарії ШІ-агента
Практичний посібник зі створення та використання Skills у Codex: анатомія SKILL.md, явна та авто-активація, різниця між навичками, скриптами й тулами, Skills API та налаштування меж безпеки.