Caveman-Plugin: LLMs sprechen wie Höhlenmenschen, um Tokens zu sparen
Caveman-Plugin: LLMs sprechen wie Höhlenmenschen, um Tokens zu sparen
Das Caveman-Plugin optimiert die Antworten von Large Language Models (LLMs), indem es unnötige Floskeln eliminiert und so bis zu 75 % der Token-Kosten einspart, ohne die Qualität zu beeinträchtigen.
Das Plugin konfiguriert das Modell so, dass Begrüßungen, höfliche Phrasen, lange Überleitungen, Definitionen für Anfänger und andere Einleitungssätze weggelassen werden. Es bleibt nur das Wesentliche übrig.
Laut dem Entwickler können bis zu 75 % der Tokens eingespart werden, ohne dass ein Qualitätsverlust entsteht. Das System bietet verschiedene Komprimierungsmodi an, die von leicht bis hin zu ultra-telegrafisch reichen.
Das Projekt auf GitHub (github.com/JuliusBrussee/caveman) hat bereits fast 80.000 Sterne erhalten. Ursprünglich war es lediglich eine Erweiterung für Claude Code, doch inzwischen hat der Autor daraus ein eigenständiges Plugin entwickelt und sogar einen vollwertigen Coding-Agenten namens Caveman Code veröffentlicht.
Der Autor merkt an, dass die Funktion auch von Mitarbeitern bei OpenAI, Nvidia, GitHub und anderen Unternehmen genutzt wird. Bei Legrand wird den Mitarbeitern angeblich empfohlen, Caveman zu verwenden, um die Überschreitung von Token-Limits zu vermeiden.
Interessanterweise wird das Projekt von Shane Sweeney, dem CTO von OpenAI, unterstützt. Er hat persönlich zum Repository beigetragen, indem er Codex-Support hinzugefügt hat.
Warum das wichtig ist
AnalyseCaveman demonstriert einen innovativen Ansatz zur Optimierung der Token-Nutzung in LLMs, was die Rechenkosten erheblich senken kann. Zudem unterstreicht das Projekt die wachsende Bedeutung von Effizienz in der Entwicklung von KI-Lösungen.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern