Плагин Caveman набирает популярность, заставляя LLM говорить как пещерный человек для экономии токенов
Плагин Caveman набирает популярность, заставляя LLM говорить как пещерный человек для экономии токенов
Плагин Caveman оптимизирует ответы LLM, исключая ненужные фразы и экономя до 75% токенов без потери качества.
Он настраивает модель так, чтобы она исключала из ответа приветствия, вежливые фразы, длинные переходы, определения для новичков и другие вводные фразы, оставляя только суть.
Как утверждает автор, экономится до 75% токенов без потери качества (существуют различные режимы сжатия, от легкого до ультра телеграфного).
На GitHub проект (github.com/JuliusBrussee/caveman) уже получил почти 80 тысяч звезд. Сначала это был просто скилл для Claude Code, но теперь автор создал из Caveman отдельный плагин и даже выпустил полноценного кодинг-агента Caveman Code.
Автор отмечает, что скилл используют даже сотрудники OpenAI, Nvidia, GitHub и др. А в компании Legrand сотрудникам якобы рекомендуют использовать Caveman, чтобы не превышать лимиты токенов.
Кстати, проект поддержал технический директор OpenAI Шейн Суини, который лично внес вклад в репозиторий, добавив поддержку Codex.
Почему это важно
АналитикаCaveman демонстрирует инновационный подход к оптимизации использования токенов в LLM, что может существенно снизить затраты на вычисления. Это также подчеркивает важность эффективности в разработке AI-решений.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Часть I. Архитектура ИИ-агентов: фундаментальные блоки
Одиннадцать фундаментальных строительных блоков современного ИИ-агента: таксономия моделей, агентный рантайм, техники промптинга, дистилляция, архитектура навыков (skills), память, function calling и FinOps.
Часть II. Архитектура ИИ-агентов: от модели до памяти и инструментов
Глубокое инженерное погружение: токенизация, KV-кэш, детерминизм сэмплинга, тренировочный стек, квантование, контекстная инженерия, стек безопасности, производственный RAG, ReAct и мультиагентные swarm-системы.
Фронтирные Модели (Frontier Models)
Самый мощный класс искусственного интеллекта на переднем крае мировых исследований (Claude 3.7 Sonnet, OpenAI o3/GPT-4.5, Gemini 2.0 Pro), определяющий границы современных возможностей рассуждения, автономности и кодирования.
LLM (Large Language Model - Большая языковая модель)
Фундаментальный класс нейросетевых архитектур на основе авторегрессионного трансформера, который предполагает вероятностное распределение следующих токенов и демонстрирует эмергентные свойства абстрактного мышления, синтеза кода и логического вывода.