OpenAI rozszerza cache promptów w API do 12 godzin
OpenAI rozszerza cache promptów w API do 12 godzin
OpenAI zaktualizowała cache promptów w swoim API: teraz może być przechowywany do 12 godzin, a dla autoryzowanych użytkowników Codex i Work — bezterminowo.
OpenAI rozszerzyła możliwości cache'owania promptów w swoim API. Cache promptów może teraz być przechowywany przez do 12 godzin, a autoryzowani użytkownicy Codex i Work mogą zachowywać go bezterminowo.
Oznacza to, że nawet po kilku godzinach można wrócić do starszego zadania i kontynuować pracę z gwarantowanym trafieniem do cache'u.
W praktyce zmniejsza to powtórne przetwarzanie kontekstu i może pomóc uniknąć niepotrzebnego zużywania limitów.
Więcej takich aktualizacji byłoby mile widziane.
Dlaczego to ważne
AnalizaDłuższe cache'owanie promptów obniża koszty powtórnego przetwarzania kontekstu i sprawia, że długie przepływy pracy AI są bardziej przewidywalne, szczególnie dla programistów pracujących z dużymi promptami i wielogodzinnymi sesjami.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami
Powiązane w ekosystemie
Praktyczne poradniki, kluczowa terminologia i skille agentów
OpenAI rozszerza cache w Codex, Work i API
OpenAI sprawia, że cache w Codex i Work jest przechowywany trwale, a w API dodaje opcję przechowywania cache przez 12 godzin w cenie dwukrotnie wyższej niż cache 30-minutowy.
MiniMax udostępnia model M3.1 Flash
MiniMax oficjalnie wydał model M3.1 Flash, który generuje ponad 200 tokenów na sekundę, przewyższa kilka chińskich modeli w benchmarkach dla agentów AI i jest znacznie tańszy niż M3.
Kaszowanie promptów (Prompt Caching & KV Cache Reuse)
Technologia stosowana w nowoczesnych silnikach inferencyjnych oraz chmurowych API (Anthropic, OpenAI, DeepSeek, vLLM), która przechowuje wcześniej obliczone macierze uwagi (KV Cache) dla statycznego prefiksu, zmniejszając koszty przetwarzania o 80–90% oraz skracając czas do pierwszego tokenu (TTFT) czterokrotnie do ośmiokrotnie.
Architektura i ekonomia buforowania promptów
Metodologia projektowania promptów ukierunkowana na maksymalizację trafień w sprzętowy cache prefiksów (Prefix Caching) w modelach Anthropic, OpenAI i DeepSeek, zapewniająca 90% redukcję kosztów oraz 80% przyspieszenia.
Kompletny przewodnik po Higgsfield Cinema Studio 4.0: zarządzanie sceną, Soul 2.0 i automatyzacja API
Szczegółowa analiza praktyczna dużego aktualizacji Higgsfield: Cinema Studio 4.0, spójne postacie Soul 2.0, generowanie przez API oraz gotowy pipeline UGC.
Część I. Architektura agentów AI: fundamentalne elementy
Dziesięć fundamentalnych elementów współczesnego agenta: taksonomia modeli, pętla runtime, techniki promptowania, destylacja, umiejętności (skills), pamięć, wywoływanie funkcji oraz ekonomia jednostkowa.