NVIDIA udostępnia Personal AI Router
NVIDIA wprowadziło na rynek narzędzie Personal AI Router (PAIR), które pozwala użytkownikom tworzyć prywatne klastry AI z urządzeń w lokalnej sieci. Rozwiązanie jest dostępne bezpłatnie w wersji beta i wspiera wiele systemów operacyjnych.
NVIDIA udostępnia Personal AI Router
PAIR umożliwia łączenie komputerów w ramach lokalnej sieci, przekształcając je w osobisty klaster sztucznej inteligencji.
Narzędzie automatycznie wykrywa komputery PC wyposażone w karty RTX, urządzenia DGX Spark oraz kompatybilne Maci, kierując żądania do maszyn dysponujących wolnymi zasobami. W praktyce działa ono jak równoważnik obciążenia dla agentów AI bezpośrednio w domowym środowisku.
Funkcje
- Uruchamianie wielu agentów AI równolegle.
- Rozkładanie wnioskowania (inference) na wiele kart GPU i komputerów.
- Obsługa Ollama i LM Studio.
- Przechowywanie promptów, plików i kontekstu agentów wyłącznie wewnątrz lokalnej sieci.
Wspierane platformy
- Windows
- Linux
- macOS
PAIR jest już dostępny w wersji beta jako darmowe oprogramowanie open-source.
Dlaczego to ważne
AnalizaProdukt ten pozwala użytkownikom efektywnie wykorzystywać zasoby swoich komputerów do zadań związanych ze sztuczną inteligencją, co znacząco zwiększa produktywność. Otwartoźródłowy charakter rozwiązania sprzyja również rozwojowi społeczności i innowacjom w tej dziedzinie.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami