MIT bringt KI-Agenten bei, KV-Cache statt Text auszutauschen
MIT-Forschende haben SwaT vorgestellt, eine Architektur, die verarbeiteten Kontext zwischen Modellen überträgt und so Kontextverluste reduziert sowie Agent-Workflows beschleunigt.
In Multi-Agenten-Systemen muss Kontext ständig zwischen Modellen weitergegeben werden. Wenn etwa ein Agent seinen Teil einer Aufgabe abgeschlossen hat und ein anderer die Arbeit fortsetzen soll, werden dafür üblicherweise Textzusammenfassungen verwendet. Deren Erstellung und erneute Verarbeitung kosten jedoch zusätzliche Rechenleistung, und Teile der Information gehen verloren.
Forschende schlugen SwaT (Swarm Telepathy) vor, eine Architektur, die den Austausch des KV-Caches zwischen Modellen ermöglicht, also bereits verarbeiteten Kontext statt textlicher Nacherzählungen. Sie funktioniert sogar über verschiedene Modellfamilien hinweg.
In Benchmarks zeigte SwaT in Kombination mit Cache-Kompression durchschnittlich 40 % höhere Antwortqualität und eine vierfache Beschleunigung gegenüber der Übertragung von Textzusammenfassungen. Noch interessanter war, dass sich auf diesem Weg visuelle Informationen von einem Vision-Language-Modell (VLM) an ein normales Textmodell übergeben ließen.
Warum das wichtig ist
AnalyseEs reduziert redundante Berechnungen und Kontextverluste in Agent-Workflows und ermöglicht eine effizientere Koordination heterogener Modelle, einschließlich des Transfers von Bildinformationen.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern
Verwandt im Ökosystem
Praktische Leitfäden, Terminologie und Agenten-Skills
Claude Code Projects: Wie ein KI-Agent ein Team autonomer Agenten koordiniert
Eine tiefgehende Analyse von Claude Code Projects: die Architektur von Coordinator und Threads, parallele Branches, gemeinsamer Speicher MEMORY.md sowie das Management von Cloud-Agenten.
KI in Geschäftsprozessen: Von der Diagnose zum Hermes-Agenten im Production-Betrieb
Umfassendes praktisches B2B-Playbook: Prozessdiagnose, Single-Agent-Workflows, Tools, Memory, Sicherheit, Evaluation, Observability und Runbooks.
KI-Agenten (Autonome Agenten)
LLM-basierte Softwaresysteme, die in der Lage sind, den Zustand ihrer Umgebung autonom wahrzunehmen, komplexe Ziele zu zerlegen, externe Tools aufzurufen und eigene Fehler iterativ zu korrigieren.
KV-Cache Offloading & Kompression
Hardware- und algorithmische Methoden zur temporären Auslagerung des Key-Value-Caches (KV-Cache) aus dem teuren GPU-Videospeicher in den Systemspeicher (RAM) oder schnelle NVMe-SSDs.