OpenAI сповільнює розробку моделей через ризики для кібербезпеки
OpenAI оголосила про уповільнення розробки нових моделей через ризики для кібербезпеки, пов'язані з інцидентом з HuggingFace.
OpenAI сповільнює розробку моделей через ризики для кібербезпеки
Вчора стартап OpenAI випустив блогпост, в якому заявлено, що інцидент з HuggingFace та потужність внутрішньої моделі Astra змусили їх задуматися над уповільненням масштабування.
Основні пункти:
- Двотижнева пауза в RL-обученні для моделей, які готуються до релізу (можливо, Astra?), поки посилювалася захист середовищ для навчання.
- Зупинка інференсу на дослідницьких кластерах для прогонів з доступом до інтернету/інструментів, щоб перевірити безпеку пісочниць. Зараз обмежений доступ вже відновлено, але для всіх ворклоадів, пов'язаних з Astra, введено максимальний рівень захисту, і частина таких ворклоадів все ще на паузі, поки їх не перенесуть у нову інфраструктуру.
- Розширений моніторинг chain-of-thought, введено більше алертів і моніторинг на всіх етапах процесів.
Звучить добре, але питання: "Чи могла б така компанія, як OpenAI, займатися настільки чистим альтруїзмом?" постає саме собою.
Принаймні, таймлайн підозріло зручний, в тексті багато реклами Astra, і таке заявлення може служити одночасно і підживленням інтересу до нової моделі, і виправданням у випадку затримок.
Є сенс чекати техотчет.
Чому це важливо
АналітикаЦе важливо, оскільки безпека в розробці AI-моделей стає все більш актуальною темою, і рішення OpenAI можуть вплинути на майбутні розробки в цій галузі.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
OpenAI представила GPT-6 Cyber — модель для кібербезпеки з новими рекордами
За опублікованими результатами, GPT-6 Cyber встановила нові рекорди в кібербезпеці, включаючи бенчмарк ExploitGym та виявлення вразливостей Firefox, але доступ залишається обмеженим.
OpenAI представила ШІ-модель GPT-6 Cyber, яка знайшла 948 уразливостей у ядрі Linux
OpenAI анонсувала спеціалізовану ШІ-модель GPT-6 Cyber, яка виявила 948 уразливостей у ядрі Linux та понад 80 критичних уразливостей у Firefox.
OpenAI GPT (Флагманські моделі серії GPT)
Головна універсальна лінійка великих мовних моделей від OpenAI (GPT-4, GPT-4o). Оптимізована для складного текстового аналізу, програмування, творчості та щоденної інтелектуальної роботи.
Розбираємося в Hugging Face і трансформерах: від запуску до архітектур
Покроковий посібник для тих, хто хоче зрозуміти, як працюють сучасні мовні моделі (BERT, GPT та інші), як їх запускати, використовувати та адаптувати під свої завдання — на прикладі бібліотеки Transformers та платформи Hugging Face.