Lokale LLMs / GUI

Ollama

Lokale LLMs / GUIMIT

Große Sprachmodelle lokal einrichten und ausführen.

LM Studio

Lokale LLMs / GUIFreeware

Lokale LLMs entdecken, herunterladen und ausführen.

Jan

Lokale LLMs / GUIAGPL

Open-Source-Alternative zu ChatGPT, die auf lokale Ausführung setzt.

GPT4All

Lokale LLMs / GUIMIT

Kostenlos nutzbarer, lokal laufender, datenschutzorientierter Chatbot.

Open WebUI

Lokale LLMs / GUIMIT

Die beliebteste Web-UI für Ollama mit Multi-User-Unterstützung, RAG-Dokument-Chat, Chatverlauf und Plugin-Erweiterungen. Ideal für Self-Hosting auf einem lokalen Server und Zugriff von jedem Gerät im Netzwerk.

AnythingLLM

Lokale LLMs / GUIMIT

All-in-One-Desktop-App für lokale LLMs mit integriertem RAG-System. Chatte mit deinen eigenen Dokumenten, PDFs und Websites über jedes lokale oder Cloud-Modell. Unterstützt Multi-User-Modus und KI-Agenten.

Msty

Lokale LLMs / GUIFreeware

Eleganter Desktop-Client für lokale LLMs und Cloud-API-Modelle. Antworten verschiedener Modelle lassen sich nebeneinander in einem Fenster vergleichen. Kein Docker erforderlich – funktioniert mit lokalen Modellen über Ollama sowie mit Cloud-APIs wie OpenAI oder Anthropic.