На PlayStation 5 запустили локальну модель Qwen через відкритий проєкт PS5LM

#github #llama.cpp #local-llm #playstation5

Коротко про головне30 сек

Розробник демонструє порт llama.cpp для PlayStation 5, який дозволяє запускати невеликі локальні моделі у форматі GGUF, зокрема Qwen 3.8 27B.

У соцмережі X поширюється проєкт PS5LM — буквально порт llama.cpp для PlayStation 5. Автор демонструє, що йому вдалося запустити локальну модель Qwen 3.8 27B.

Продуктивність поки обмежена: генерація відбувається зі швидкістю приблизно 20 токенів за секунду, але сам факт запуску вже виглядає як цікава інженерна демонстрація.

Оскільки PS5LM — це не ядро під конкретну модель, а порт llama.cpp, на PlayStation 5 можна запускати будь-який невеликий GGUF. Спілкуватися з запущеною ШІ-моделью можна через будь-який веб-інтерфейс на порту або навіть прямо з телевізора.

Це також практична ідея на випадок, якщо пам’ять для локального запуску моделей стане ще дорожчою.

Чому це важливо

Аналітика

Проєкт показує, що ігрові консолі можуть стати альтернативною платформою для локального ШІ, а llama.cpp залишається гнучким інструментом для запуску GGUF-моделей на нестандартному залізі.