NVIDIA stellt Personal AI Router vor
NVIDIA hat den Personal AI Router (PAIR) eingeführt, der Nutzern ermöglicht, lokale Computer zu einem persönlichen KI-Cluster zusammenzuschließen. Die kostenlose Beta-Version unterstützt verschiedene Betriebssysteme und verteilt KI-Aufgaben intelligent über das Heimnetzwerk.
NVIDIA stellt Personal AI Router vor
Der Personal AI Router (PAIR) erlaubt es Nutzern, Computer in einem lokalen Netzwerk zu kombinieren und sie in einen persönlichen KI-Cluster umzuwandeln.
Das System findet automatisch PCs mit RTX-Grafikkarten, DGX Spark sowie unterstützte Macs und leitet Anfragen an die Geräte weiter, die über verfügbare Ressourcen verfügen. Im Wesentlichen fungiert PAIR als Load Balancer für KI-Agenten direkt im eigenen Zuhause.
Funktionen
- Paralleles Ausführen mehrerer KI-Agenten.
- Verteilung der Inferenz auf mehrere GPUs und Computer.
- Integration von Ollama und LM Studio.
- Speicherung von Prompts, Dateien und Agent-Kontext ausschließlich innerhalb des lokalen Netzwerks.
Unterstützte Plattformen
- Windows
- Linux
- macOS
PAIR ist bereits als kostenlose Open-Source-Beta verfügbar.
Warum das wichtig ist
AnalyseDieses Produkt ermöglicht eine effiziente Nutzung vorhandener Computerressourcen für KI-Aufgaben und steigert so die Produktivität erheblich. Durch den Open-Source-Ansatz fördert NVIDIA zudem die Community-Entwicklung und Innovation im Bereich lokaler KI-Infrastrukturen.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern