Lokalny LLM / GUI

Ollama

Lokalny LLM / GUIMIT

Uruchom duże modele językowe lokalnie w kilka chwil.

LM Studio

Lokalny LLM / GUIFreeware

Odkrywaj, pobieraj i uruchamiaj lokalne LLM-y.

Jan

Lokalny LLM / GUIAGPL

Open-source’owa, lokalna alternatywa dla ChatGPT.

GPT4All

Lokalny LLM / GUIMIT

Darmowy, lokalny chatbot dbający o prywatność.

Open WebUI

Lokalny LLM / GUIMIT

Najpopularniejszy web UI dla Ollama z obsługą wielu użytkowników, chatem RAG z dokumentami, historią rozmów i rozszerzeniami pluginów. Idealny do self-hostingu na lokalnym serwerze i dostępu z dowolnego urządzenia w sieci.

AnythingLLM

Lokalny LLM / GUIMIT

Aplikacja desktopowa all-in-one dla lokalnych LLM z wbudowanym systemem RAG. Rozmawiaj ze swoimi dokumentami, PDF-ami i stronami internetowymi przy użyciu dowolnego modelu lokalnego lub chmurowego. Obsługuje tryb wieloużytkownikowy i agentów AI.

Msty

Lokalny LLM / GUIFreeware

Elegancki klient desktopowy dla lokalnych modeli LLM oraz chmurowych API. Porównuj odpowiedzi różnych modeli w jednym oknie, obok siebie. Nie wymaga Dockera; współpracuje z modelami lokalnymi przez Ollama oraz chmurowymi API, takimi jak OpenAI czy Anthropic.