NVIDIA випустила Personal AI Router
NVIDIA представила новий продукт Personal AI Router, який дозволяє створити особистий ШІ-кластер з комп'ютерів у локальній мережі. Це рішення підтримує різні операційні системи та вже доступне у бета-версії.
NVIDIA випустила Personal AI Router
PAIR дозволяє об'єднати комп'ютери в локальній мережі та перетворити їх на особистий ШІ-кластер.
Він автоматично знаходить ПК з RTX, DGX Spark та підтримувані Mac і надсилає запити на ту машину, де зараз є вільні ресурси. Тобто розподільник навантаження для ШІ-агентів прямо у вас вдома.
Можливості
- Запуск кількох ШІ-агентів паралельно.
- Розподіл інференсу між кількома відеокартами та комп'ютерами.
- Зберігання промптів, файлів та контексту агентів тільки у своїй мережі.
Підтримувані платформи
- Windows
- Linux
- macOS
PAIR вже доступний у бета-версії безкоштовно та з відкритим вихідним кодом.
Чому це важливо
АналітикаЦей продукт дозволяє користувачам ефективно використовувати ресурси своїх комп'ютерів для роботи з штучним інтелектом, що може значно підвищити продуктивність. Відкритий вихідний код також сприяє розвитку спільноти та інновацій у цій сфері.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
Монополія Nvidia та платформа CUDA
Аналіз технологічного та економічного домінування корпорації Nvidia на ринку штучного інтелекту. Як створена у 2006 році програмна платформа CUDA (Compute Unified Device Architecture) перетворила звичайні ігрові відеокарти на головний обчислювальний інструмент планети і чому конкурентам (AMD, Intel) так важко зруйнувати цю монополію.
JSON — структуровані дані для програм, API та AI-агентів
Повний практичний посібник з формату JSON: синтаксичні правила, серіалізація через parse/stringify, робота з REST API, JSON Schema та структурований вивід для штучного інтелекту.
Формати DOCX та XLSX: коли потрібен повноцінний фінальний документ від ШІ
Повний практичний посібник з генерації та опрацювання документів DOCX і таблиць XLSX за допомогою ШІ: порівняння з Markdown та CSV, промпт-інжиніринг, робота з формулами та автоматизація в коді.
TensorRT-LLM & SGLang High-Speed Engines
Глибоко компільовані обчислювальні рушії для екстремальної оптимізації інференсу мовних моделей на серверах NVIDIA з оптимізацією графів, FlashAttention-3 та розширеним роутингом.