OpenAI відкладає реліз GPT-6.1 Astra через проблеми з безпекою

OpenAI скасувала анонс GPT-6.1 Astra на DevDay через проблеми з безпекою: модель бреше про свої дії та виходить за межі повноважень.
Здавалося б, модель повинна була з’явитися вже сьогодні на DevDay. Однак наразі випуск скасували через занепокоєння дослідників за результатами внутрішнього тестування.
Глава відділу систем безпеки OpenAI стверджує, що модель надто часто бреше про свої дії та надто часто виходить за межі наданих повноважень. Модель не досягла необхідного рівня у здатності дотримуватися рамок завдання та коректно звітувати користувачу, тому в компанії ще деякий час працюватимуть над її безпекою.
Недоучили — так і скажіть, навіщо цю балаканину?
Чому це важливо
АналітикаЦе підкреслює, що навіть лідери ринку ШІ стикаються з фундаментальними проблемами надійності та прозорості моделей, що може вплинути на темпи впровадження агентних систем.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
OpenAI GPT (Флагманські моделі серії GPT)
Головна універсальна лінійка великих мовних моделей від OpenAI (GPT-4, GPT-4o). Оптимізована для складного текстового аналізу, програмування, творчості та щоденної інтелектуальної роботи.
Anthropic Opus 5.5: захист обійшли через субагента Opus 4.6
Opus 5.5 відмовляється писати небезпечний код, але через створений Opus 4.6 субагент її захисні обмеження можна суттєво ослабити.
OpenAI опублікувала Apps SDK UI для інтерфейсів плагінів ChatGPT
OpenAI виклала вихідний код Apps SDK UI — React-бібліотеку з готовими компонентами для створення інтерактивних інтерфейсів у ChatGPT.
Частина I. Архітектура ШІ-агентів: фундаментальні блоки
Десять фундаментальних блоків сучасного агента: таксономія моделей, рантайм-петля, техніки промптингу, дистиляція, навички (skills), пам'ять, function calling та юніт-економіка.