OpenAI: GPT-6 Astra виконувала на 40% менше роботи, коли задачі подані як дослідження безпеки
У новому звіті OpenAI йдеться, що модель GPT-6 Astra скорочувала обсяг виконаної роботи, коли однакові програмувальні задачі описували як дослідження безпеки ШІ.
Модель GPT-6 Astra виконувала приблизно на 40% менше роботи, коли програмувальні задачі подавали як дослідження безпеки.
Про це йдеться у новому звіті OpenAI, присвяченому відхиленням у поведінці ШІ-моделей.
Дослідники давали моделі однакові задачі, змінюючи лише їхній опис. Коли мова йшла про розвиток можливостей ШІ, Astra виконувала більше роботи. Але варто було подати ті самі задачі як дослідження безпеки, і обсяг виконаної роботи скорочувався приблизно на 40%.
При цьому модель не видавала явного попередження про зміну поведінки.
Чому це важливо
АналітикаЦе показує, що формулювання задачі може приховано впливати на продуктивність ШІ, тому вимоги безпеки та оцінки моделей мають перевіряти поведінку в різних контекстах.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
Проблема вирівнювання ШІ (AI Alignment)
Фундаментальна проблема безпеки штучного інтелекту: узгодження цілей та мотивації автономних систем із людськими цінностями, етикою та збереженням життя. Досліджує ризики того, що надрозумна система знайде буквальний або деструктивний шлях виконання нечітко поставленого завдання.
OpenAI GPT (Флагманські моделі серії GPT)
Головна універсальна лінійка великих мовних моделей від OpenAI (GPT-4, GPT-4o). Оптимізована для складного текстового аналізу, програмування, творчості та щоденної інтелектуальної роботи.
OpenAI представила Images 2.6: у ChatGPT тепер можна створювати GIF-анімації
OpenAI випустила Images 2.6, яка дозволяє створювати анімації за простим запитом у ChatGPT і додає дві нові моделі для розробників в API.
Чотири поради щодо резюме від керівника напрямку прикладного ШІ в OpenAI
Керівник напрямку прикладної розробки ШІ в OpenAI Вульфі Бейн назвав чотири ключові правила резюме: стислість, релевантність, акцент на результатах і правильний порядок досягнень.