OpenAI презентує Ultrafast режим для GPT-5.6 Sol
OpenAI презентує Ultrafast режим для GPT-5.6 Sol
OpenAI анонсувала новий Ultrafast режим для GPT-5.6 Sol, який обіцяє значне прискорення інференсу. Модель зможе генерувати до 750 токенів за секунду завдяки новій архітектурі Cerebras.
OpenAI презентує Ultrafast режим для GPT-5.6 Sol
Це той самий інференс на Cerebras. Ускорення обіцяють в 14 разів (!), модель зможе генерувати до 750 токенів за секунду.
Для такого гіганта як Sol це просто грандіозна швидкість. Досягається вона за рахунок того, що Wafer-Scale Engine архітектура Cerebras тримає ваги моделі прямо на величезних чіпах, і їх не потрібно переміщати між пам'яттю та сховищем.
На відео спидран HLE. На весь бенчмарк пішло трохи більше 11 годин. У Claude Fable той же прогон зайняв майже 80.
Поки мод буде доступний тільки обраній групі користувачів в API, але можливо, що незабаром добереться і до звичайних користувачів (але платити доведеться чимало).
Чому це важливо
АналітикаЦей новий режим значно підвищує продуктивність моделей OpenAI, що може мати великий вплив на швидкість обробки даних у різних застосунках. Це відкриває нові можливості для розробників та компаній, які використовують AI у своїй роботі.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
Чотири поради щодо резюме від керівника напрямку прикладного ШІ в OpenAI
Керівник напрямку прикладної розробки ШІ в OpenAI Вульфі Бейн назвав чотири ключові правила резюме: стислість, релевантність, акцент на результатах і правильний порядок досягнень.
Сем Альтман змінив назву акаунта в X на Ram Altman
Сем Альтман змінив відображувану назву свого акаунта в X на Ram Altman.
OpenAI GPT (Флагманські моделі серії GPT)
Головна універсальна лінійка великих мовних моделей від OpenAI (GPT-4, GPT-4o). Оптимізована для складного текстового аналізу, програмування, творчості та щоденної інтелектуальної роботи.
Codex Skills для початківців: як автоматизувати робочі сценарії ШІ-агента
Практичний посібник зі створення та використання Skills у Codex: анатомія SKILL.md, явна та авто-активація, різниця між навичками, скриптами й тулами, Skills API та налаштування меж безпеки.