OpenAI розширила кешування в Codex, Work та API
OpenAI розширила кешування в Codex, Work та API
OpenAI зробила кешування постійним у Codex і Work, а в API додала 12-годинне збереження кешу за подвійною ціною порівняно з 30-хвилинним кешем.
OpenAI розширила кешування в Codex, Work та API
OpenAI оновила підходи до кешування у своїх продуктах. У Codex і Work кеш тепер зберігається постійно. Це означає, що сесія не споживає значну частку лімітів через повторне заповнення кешу, якщо користувач відходить на кілька годин.
У API з’явилася можливість зберігати кеш протягом 12 годин. Таке розширене збереження коштує вдвічі дорожче порівняно із записом у стандартний 30-хвилинний кеш.
Чому це важливо
АналітикаЦе знижує витрати лімітів у довгих робочих сесіях і дає розробникам контроль над тим, як зберігати контекст у API. Для команд, які активно працюють із ШІ-інструментами, це може зробити повсякденну роботу дешевшою та стабільнішою.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
Codex Skills для початківців: як автоматизувати робочі сценарії ШІ-агента
Практичний посібник зі створення та використання Skills у Codex: анатомія SKILL.md, явна та авто-активація, різниця між навичками, скриптами й тулами, Skills API та налаштування меж безпеки.
Оновлення ChatGPT: розробка та робочі процеси з плагінами й Codex
Повний практичний посібник зі створення, пакування, тестування та публікації плагінів для ChatGPT та Codex: специфікація маніфесту, MCP-сервери, lifecycle hooks, власні маркетплейси та процес рев'ю OpenAI.
OpenAI GPT (Флагманські моделі серії GPT)
Головна універсальна лінійка великих мовних моделей від OpenAI (GPT-4, GPT-4o). Оптимізована для складного текстового аналізу, програмування, творчості та щоденної інтелектуальної роботи.
Frontier Models (Фронтирні моделі ШІ)
Найпотужніший клас штучного інтелекту на передньому краї світових досліджень (Claude 3.7 Sonnet, OpenAI o3/GPT-4.5, Gemini 2.0 Pro), що визначає межу сучасних можливостей міркування, автономності та кодування.
DeepSeek відкрила вихідний код DeepInfer — рушія інференсу
DeepInfer — оптимізований рушій інференсу для обслуговування V4.1-Flash, який прискорює обробку запитів і зменшує витрати.
DeepSeek випустила DeepInfer — опенсорс-фреймворк для інференсу ШІ-моделей
DeepSeek опублікувала Apache-2.0 фреймворк DeepInfer, на якому працюють її продакшн-сервіси. Він містить оптимізовані кернели, підтримку MoE, спекулятивний декодинг, детерміністичний режим та структурований вивід.