El plugin Caveman gana popularidad al hacer que los LLM hablen como cavernícolas para ahorrar tokens
El plugin Caveman gana popularidad al hacer que los LLM hablen como cavernícolas para ahorrar tokens
El plugin Caveman optimiza las respuestas de los LLM eliminando frases innecesarias, ahorrando hasta un 75% de tokens sin pérdida de calidad.
Configura el modelo para excluir saludos, frases de cortesía, transiciones largas, definiciones para principiantes y otras frases introductorias, dejando solo la esencia.
Según el autor, se pueden ahorrar hasta un 75% de tokens sin pérdida de calidad (hay varios modos de compresión, desde ligero hasta ultra telegráfico).
El proyecto en GitHub (github.com/JuliusBrussee/caveman) ya ha recibido casi 80,000 estrellas. Inicialmente, era solo una habilidad para Claude Code, pero ahora el autor ha creado un plugin independiente a partir de Caveman e incluso ha lanzado un agente de codificación completo Caveman Code.
El autor señala que la habilidad es utilizada incluso por empleados de OpenAI, Nvidia, GitHub, entre otros. En Legrand, supuestamente se recomienda a los empleados usar Caveman para no exceder los límites de tokens.
Curiosamente, el proyecto ha sido apoyado por el CTO de OpenAI, Shane Sweeney, quien contribuyó personalmente al repositorio al agregar soporte para Codex.
Por qué es importante
AnálisisCaveman demuestra un enfoque innovador para optimizar el uso de tokens en LLM, lo que puede reducir significativamente los costos computacionales. También destaca la importancia de la eficiencia en el desarrollo de soluciones de IA.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
Kimi K3.1 Pro: Moonshot actualiza el modelo para trabajo con herramientas 3D
Moonshot lanzó Kimi K3.1 Pro con un enfoque en herramientas 3D, post-entrenamiento actualizado y una arquitectura Gated DSA para mejorar la eficiencia en contextos largos.
Revolut traslada a unos 2.000 ingenieros a modelos GLM locales para programación
Revolut movió a unos 2.000 ingenieros a modelos GLM desplegados localmente, reduciendo el coste de IA para programar en unas diez veces y el tiempo de ejecución de tareas en un 70%.
Parte I. Arquitectura de Agentes de IA: Fundamentos
Los once bloques constructivos fundamentales de un agente de IA: taxonomía de modelos, bucle de ejecución, ingeniería de prompts, destilación, skills, memoria, function calling y FinOps.
Parte II. Arquitectura de agentes de IA: del modelo a la memoria y las herramientas
Inmersión profunda de ingeniería: tokenización, KV-cache, determinismo del muestreo, stack de entrenamiento, cuantización, ingeniería de contexto, stack de seguridad, RAG en producción, ReAct y sistemas swarm multiagente.