OpenAI erweitert Prompt-Caching in API auf 12 Stunden
OpenAI erweitert Prompt-Caching in API auf 12 Stunden
OpenAI hat das Prompt-Caching in seiner API erweitert: Der Cache bleibt jetzt bis zu 12 Stunden erhalten, für autorisierte Codex- und Work-Nutzer unbefristet.
OpenAI hat die Möglichkeiten für Prompt-Caching in seiner API erweitert. Prompt-Caches können nun bis zu 12 Stunden aufbewahrt werden; für autorisierte Nutzer von Codex und Work werden sie unbefristet gespeichert.
Das bedeutet, dass man auch nach mehreren Stunden zu einer älteren Aufgabe zurückkehren und die Arbeit mit einem garantierten Cache-Treffer fortsetzen kann.
In der Praxis reduziert dies wiederholte Kontextverarbeitung und kann helfen, Nutzungslimits nicht unnötig zu verbrauchen.
Mehr solcher Updates wäre schön.
Warum das wichtig ist
AnalyseLängeres Prompt-Caching senkt die Kosten für wiederholte Kontextverarbeitung und macht lang laufende KI-Workflows planbarer, besonders für Entwickler mit großen Prompts und mehrstündigen Sitzungen.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern
Verwandt im Ökosystem
Praktische Leitfäden, Terminologie und Agenten-Skills
OpenAI erweitert Caching in Codex, Work und API
OpenAI macht das Caching in Codex und Work persistent und bietet in der API eine 12-Stunden-Cache-Speicherung zum doppelten Preis des 30-Minuten-Caches an.
MiniMax stellt Modell M3.1 Flash vor
MiniMax hat M3.1 Flash offiziell veröffentlicht: Das Modell erzeugt über 200 Tokens pro Sekunde, übertrifft mehrere chinesische Modelle bei KI-Agenten-Benchmarks und ist deutlich günstiger als M3.
Prompt-Caching & KV-Cache-Reuse
Eine Technologie moderner Inferenz-Engines und Cloud-APIs (Anthropic, OpenAI, DeepSeek, vLLM), die vorab berechnete Aufmerksamkeitsmatrizen (KV-Cache) statischer Präfixe speichert. Dies reduziert die Verarbeitungs kosten um 80–90 % und verkürzt die Zeit bis zum ersten Token (TTFT) um das 4- bis 8-fache.
Architektur und Wirtschaftlichkeit des Prompt-Caching
Eine Methodik für das Prompt-Design, die auf die Maximierung der Trefferquote im Hardware-Prefix-Cache (Prefix Caching) bei Anthropic, OpenAI und DeepSeek abzielt, um Kosten um 90 % zu senken und die Geschwindigkeit um 80 % zu erhöhen.
Vollständiger Leitfaden zu Higgsfield Cinema Studio 4.0: Szenensteuerung, Soul 2.0 und API-Automatisierung
Detaillierte praktische Analyse des großen Updates von Higgsfield: Cinema Studio 4.0, konsistente Charaktere mit Soul 2.0, Generierung über die API und ein fertiger UGC-Workflow.
Teil I. Architektur von KI-Agenten: Grundlegende Bausteine
Zehn grundlegende Bausteine eines modernen Agenten: Modell-Taxonomie, Runtime-Loop, Prompting-Techniken, Distillation, Skills, Memory, Function Calling und Unit Economics.