OpenAI amplía el caché de prompts en su API a 12 horas
OpenAI amplía el caché de prompts en su API a 12 horas
OpenAI amplió el caché de prompts en su API: ahora puede conservarse hasta 12 horas y, para usuarios autorizados de Codex y Work, de forma indefinida.
OpenAI amplió las capacidades de caché de prompts en su API. Ahora el caché puede conservarse durante hasta 12 horas, mientras que los usuarios autorizados de Codex y Work pueden mantenerlo de forma indefinida.
Esto significa que, incluso después de varias horas, es posible volver a una tarea anterior y continuar trabajando con un acierto garantizado en el caché.
En la práctica, esto reduce el reprocesamiento del contexto y puede ayudar a evitar el desperdicio de límites de uso.
Ojalá hubiera más actualizaciones así.
Por qué es importante
AnálisisUn caché de prompts más prolongado reduce los costes de reprocesar contexto y hace más predecibles los flujos de trabajo de IA de larga duración, especialmente para desarrolladores que usan prompts grandes y sesiones de varias horas.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
OpenAI mejora el caché en Codex, Work y la API
OpenAI hace que el caché sea persistente en Codex y Work y añade una opción de retención de caché durante 12 horas en la API al doble del precio del caché de 30 minutos.
MiniMax lanza el modelo M3.1 Flash
MiniMax ha lanzado oficialmente M3.1 Flash, un modelo que genera más de 200 tokens por segundo, supera a varios modelos chinos en pruebas de agentes de IA y es mucho más económico que M3.
Caché de Prompts (Prompt Caching & Reutilización de KV Cache)
Tecnología de motores de inferencia modernos y APIs en la nube (Anthropic, OpenAI, DeepSeek, vLLM) que almacena matrices de atención precomputadas (KV Cache) de un prefijo estático, reduciendo el costo de procesamiento en un 80-90% y acortando el tiempo hasta el primer token (TTFT) de 4 a 8 veces.
Arquitectura y Economía del Caching de Prompts
Metodología de diseño de prompts enfocada en maximizar la inclusión en el caché de hardware de prefijos (Prefix Caching) en Anthropic, OpenAI y DeepSeek para un 90% de descuento en costos y un 80% de aceleración.
Guía completa de Higgsfield Cinema Studio 4.0: gestión de escenas, Soul 2.0 y automatización vía API
Análisis práctico detallado de la gran actualización de Higgsfield: Cinema Studio 4.0, personajes consistentes con Soul 2.0, generación mediante API y un pipeline UGC listo para producción.
Parte I. Arquitectura de Agentes de IA: Fundamentos
Los once bloques constructivos fundamentales de un agente de IA: taxonomía de modelos, bucle de ejecución, ingeniería de prompts, destilación, skills, memoria, function calling y FinOps.