OpenAI добавила кэширование промптов в API на 12 часов
OpenAI добавила кэширование промптов в API на 12 часов
В API OpenAI теперь можно кэшировать промпты на срок до 12 часов, а для авторизованных пользователей Codex и Work кэш хранится бессрочно.
Теперь в API OpenAI можно кэшировать промпты на срок до 12 часов, а для авторизованных пользователей Codex и Work кэш хранится бессрочно.
Это означает, что даже спустя несколько часов можно вернуться к старой задаче и продолжить работу с гарантированным попаданием в кэш.
Меньше повторной обработки контекста и, потенциально, меньше впустую потраченных лимитов.
Побольше бы таких обновлений.
Почему это важно
АналитикаБолее длительное кэширование снижает затраты на повторную обработку контекста и делает длинные ИИ-сессии предсказуемее для разработчиков.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
OpenAI заметно улучшили кэшинг в продуктах
OpenAI сделала кэшинг постоянным в Codex и Work, а в API добавила возможность сохранять кэш в течение 12 часов за удвоенную цену по сравнению с 30-минутным кэшем.
MiniMax официально выпустила модель M3.1 Flash
MiniMax официально представила модель M3.1 Flash: она работает со скоростью более 200 токенов в секунду, превосходит другие китайские модели в бенчмарках для ИИ-агентов и значительно дешевле M3.
Кеширование Промптов (Prompt Caching & KV Cache Reuse)
Технология современных инференс-движков и облачных API (Anthropic, OpenAI, DeepSeek, vLLM), которая сохраняет предварительно вычисленные матрицы внимания (KV Cache) статического префикса, уменьшая стоимость обработки на 80–90% и сокращая время до первого токена (TTFT) в 4–8 раз.
Архитектура и экономика кеширования промптов
Методология проектирования промптов, ориентированная на максимизацию попадания в аппаратный кеш префиксов (Prefix Caching) в Anthropic, OpenAI и DeepSeek для 90% снижения стоимости и 80% ускорения.
Полный гайд по Higgsfield Cinema Studio 4.0: управление сценой, Soul 2.0 и API-автоматизация
Детальный практический разбор масштабного обновления Higgsfield: Cinema Studio 4.0, консистентные персонажи Soul 2.0, генерация через API и готовый UGC-пайплайн.
Часть I. Архитектура ИИ-агентов: фундаментальные блоки
Одиннадцать фундаментальных строительных блоков современного ИИ-агента: таксономия моделей, агентный рантайм, техники промптинга, дистилляция, архитектура навыков (skills), память, function calling и FinOps.