Lokales KI-Modell Qwen läuft auf PlayStation 5 dank PS5LM
Ein Entwickler demonstriert einen llama.cpp-Port für die PlayStation 5, mit dem kleine GGUF-Modelle wie Qwen 3.8 27B mit etwa 20 Tokens pro Sekunde laufen.
Das Projekt PS5LM verbreitet sich viral auf X: Es ermöglicht das Ausführen eines lokalen KI-Modells auf einer PlayStation 5. Der Autor zeigt, dass es ihm gelungen ist, Qwen 3.8 27B zu starten.
Die Geschwindigkeit ist noch begrenzt, aber es funktioniert: Die Generierung läuft mit etwa 20 Tokens pro Sekunde.
PS5LM ist kein Kernel für ein bestimmtes Modell, sondern buchstäblich ein Port von llama.cpp für die PlayStation 5. Dadurch lässt sich jedes kleine GGUF-Modell auf dieselbe Weise ausführen. Mit dem gestarteten Modell kann man über jede Web-Oberfläche auf einem Port kommunizieren oder sogar direkt über das Fernsehgerät.
Das Projekt ist auch eine nützliche Idee für den Fall, dass Speicher für lokale KI-Workloads noch teurer wird.
Warum das wichtig ist
AnalyseEs zeigt, dass Spielkonsolen als alternative Hardware für lokale KI dienen können, während llama.cpp flexibel genug bleibt, um GGUF-Modelle auf Nicht-Standard-Geräte zu bringen.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern