NVIDIA lance le Personal AI Router
NVIDIA introduit le Personal AI Router (PAIR), une solution gratuite permettant de transformer les ordinateurs d'un réseau local en un cluster IA personnel. Disponible en bêta, cet outil open-source optimise la répartition des charges pour les agents IA.
NVIDIA lance le Personal AI Router
Le PAIR permet aux utilisateurs de combiner plusieurs ordinateurs au sein d'un réseau local pour créer un cluster IA personnel.
Il détecte automatiquement les PC équipés de cartes RTX, les systèmes DGX Spark et les Mac compatibles, acheminant les requêtes vers la machine disposant des ressources disponibles. Il s'agit essentiellement d'un équilibreur de charge pour agents IA, directement à domicile.
Fonctionnalités clés
- Exécution parallèle de multiples agents IA.
- Répartition de l'inférence sur plusieurs GPU et ordinateurs.
- Compatibilité avec Ollama et LM Studio.
- Stockage sécurisé des prompts, fichiers et contextes d'agents uniquement au sein du réseau local.
Plateformes prises en charge
- Windows
- Linux
- macOS
Le PAIR est déjà disponible gratuitement en version bêta et sous licence open-source.
Pourquoi c'est important
AnalyseCe produit permet d'optimiser l'utilisation des ressources informatiques locales pour les tâches d'IA, augmentant ainsi significativement la productivité. Sa nature open-source encourage également le développement communautaire et l'innovation dans ce domaine.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs