Shen Sean Chen veröffentlicht Open-Source-Lokal-AI-Assistent
Shen Sean Chen veröffentlicht Open-Source-Lokal-AI-Assistent
Shen Sean Chen hat den Quellcode seines lokalen KI-Assistenten veröffentlicht, der die Funktionsweise von Agent Harness und Loop Engineering demonstriert.
Open-Source-Lokal-AI-Assistent von Shen Sean Chen
Das Projekt veranschaulicht die Funktionalität von Agent Harness und Loop Engineering anhand von echtem Code. Der Assistent läuft vollständig auf dem Laptop des Nutzers, wobei seine Hauptschleife aus etwa 95 Zeilen Python besteht.
Hauptschleife des Systems
Das gesamte System basiert auf einer einzigen Schleife:
Nachricht → Gedächtnissuche → Agent-Start → Tool-Aufruf → Tracing → Bewertung → Speichern im Gedächtnis → Skill-Entwicklung
Der Speicher wird in einer einzelnen SQLite-Datei verwaltet. Das Projekt umfasst zudem deterministische Bewertungen sowie LLM-as-a-judge-Evaluierungen mit Pre-Release-Checks, ein Telegram-Gateway, Sprachaktivierung und Tools zur Integration mit Apple Calendar.
Demonstration
In der Demonstration fügt der Assistent die Viertelfinals der Weltmeisterschaft zum Kalender hinzu, merkt sich die Freunde des Nutzers und antwortet über Telegram.
Warum das wichtig ist
AnalyseDieses Projekt unterstreicht das Potenzial lokaler KI-Assistenten, die ohne Internetverbindung arbeiten können, und verbessert dadurch den Datenschutz sowie die Kontrolle über eigene Daten.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern