OpenAI заметно улучшили кэшинг в продуктах
OpenAI заметно улучшили кэшинг в продуктах
OpenAI сделала кэшинг постоянным в Codex и Work, а в API добавила возможность сохранять кэш в течение 12 часов за удвоенную цену по сравнению с 30-минутным кэшем.
OpenAI заметно улучшили кэшинг в продуктах
Codex и Work теперь будут хранить кэш всегда. Это означает, что сессия не будет съедать много лимитов на перезаполнение кэша, если пользователь отошёл на пару часов.
В API ввели возможность сохранять кэш в течение 12 часов за удвоенную цену по сравнению с записью в 30-минутный кэш.
Почему это важно
АналитикаЭто снижает расход лимитов в длинных рабочих сессиях и даёт разработчикам больше контроля над сохранением контекста в API. Для команд, которые ежедневно работают с ИИ-инструментами, такие изменения могут сделать работу дешевле и стабильнее.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Codex Skills для начинающих: автоматизация рабочих сценариев ИИ-агента
Практическое руководство по созданию и использованию Skills в Codex: анатомия SKILL.md, явная и авто-активация, разница между навыками, скриптами и тулами, Skills API и настройка безопасности.
OpenAI GPT (Флагманские модели серии GPT)
Основная универсальная линейка больших языковых моделей от OpenAI (GPT-4, GPT-4o). Оптимизирована для сложного текстового анализа, программирования, творчества и повседневной интеллектуальной работы.
Часть I. Архитектура ИИ-агентов: фундаментальные блоки
Одиннадцать фундаментальных строительных блоков современного ИИ-агента: таксономия моделей, агентный рантайм, техники промптинга, дистилляция, архитектура навыков (skills), память, function calling и FinOps.
Фронтирные Модели (Frontier Models)
Самый мощный класс искусственного интеллекта на переднем крае мировых исследований (Claude 3.7 Sonnet, OpenAI o3/GPT-4.5, Gemini 2.0 Pro), определяющий границы современных возможностей рассуждения, автономности и кодирования.
DeepSeek открыла исходный код движка инференса DeepInfer
DeepInfer — открытый движок инференса для масштабного обслуживания V4.1-Flash, ускоряющий обработку запросов и снижающий затраты.
DeepSeek выпустила DeepInfer — опенсорс-фреймворк для инференса
DeepSeek опубликовала DeepInfer — фреймворк, на котором работают её продакшн-сервисы. Проект распространяется под лицензией Apache-2.0 и включает оптимизированные кернелы, поддержку MoE, спекулятивный декодинг, детерминистичный режим и structured outputs.