NVIDIA выпустила Personal AI Router
NVIDIA представила новый продукт Personal AI Router, который позволяет создать личный ИИ-кластер из компьютеров в локальной сети. Это решение поддерживает различные операционные системы и уже доступно в бета-версии.
NVIDIA выпустила Personal AI Router
PAIR позволяет объединить компьютеры в локальной сети и превратить их в личный ИИ-кластер.
Он автоматически находит ПК с RTX, DGX Spark и поддерживаемые Mac и отправляет запросы на ту машину, где сейчас есть свободные ресурсы. То есть распределитель нагрузки для ИИ-агентов прямо у вас дома.
Возможности
- Запуск нескольких ИИ-агентов параллельно.
- Распределение инференса между несколькими видеокартами и компьютерами.
- Хранение промптов, файлов и контекста агентов только в своей сети.
Поддерживаемые платформы
- Windows
- Linux
- macOS
PAIR уже доступен в бета-версии бесплатно и с открытым исходным кодом.
Почему это важно
АналитикаЭтот продукт позволяет пользователям эффективно использовать ресурсы своих компьютеров для работы с искусственным интеллектом, что может значительно повысить производительность. Открытый исходный код также способствует развитию сообщества и инновациям в этой области.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Монополия Nvidia и платформа CUDA
Анализ технологического и экономического доминирования корпорации Nvidia на рынке искусственного интеллекта. Как созданная в 2006 году программная платформа CUDA (Compute Unified Device Architecture) превратила обычные игровые видеокарты в главный вычислительный инструмент планеты и почему конкурентам (AMD, Intel) так трудно разрушить эту монополию.
JSON — структурированные данные для программ, API и AI-агентов
Полное практическое руководство по формату JSON: синтаксические правила, сериализация через parse/stringify, работа с REST API, валидация по JSON Schema и структурированный вывод для ИИ.
Форматы DOCX и XLSX: когда от ИИ требуется полноценный финальный документ
Практическое руководство по созданию и обработке документов DOCX и таблиц XLSX с помощью ИИ: сравнение с Markdown и CSV, промпт-инжиниринг, работа с формулами и автоматизация в коде.
TensorRT-LLM & SGLang Высокоскоростные Двигатели
Глубоко компилируемые вычислительные движки для экстремальной оптимизации инференса языковых моделей на серверах NVIDIA с оптимизацией графов, FlashAttention-3 и расширенной маршрутизацией.