OpenAI kupuje tysiące Mac mini i Mac Studio do trenowania agentów AI
OpenAI przechodzi na komputery Mac mini i Mac Studio w celu treningu agentów, co pozwala obniżyć koszty sprzętu dzięki architekturze pamięci zunifikowanej Apple. Decyzja ta podkreśla rosnące znaczenie efektywności energetycznej i kosztowej w infrastrukturze AI.
OpenAI kupuje tysiące Mac mini i Mac Studio do trenowania agentów AI
Powodem odejścia od tradycyjnych kart graficznych (GPU) jest architektura pamięci zunifikowanej (Unified Memory Architecture – UMA) stosowana przez Apple, która zapewnia procesorowi centralnemu (CPU), graficznemu (GPU) oraz silnikowi neuronowemu wspólny dostęp do pamięci. Rozwiązanie to minimalizuje zbędne transfery danych i umożliwia bardziej wydajne wykonywanie zadań agentów na pojedynczym urządzeniu.
Uczenie przez wzmacnianie (Reinforcement Learning – RL) w istocie łączy wnioskowanie z interakcją ze środowiskiem. Zamiast korzystać z drogich klastrów GPU zaprojektowanych do operacji macierzowych, wiele kompaktowych komputerów Mac z pamięcią zunifikowaną może okazać się znacznie bardziej opłacalnym rozwiązaniem.
Co więcej, dziennikarze donoszą, że OpenAI nie jest jedynym graczem na tym polu – firma Anthropic również wykorzystuje Mac mini, jednak zamiast je kupować, wynajmuje je od AWS.
W związku z takim korporacyjnym popytem, czas dostaw dla konfiguracyjnych wersji Mac mini i Mac Studio z większą pojemnością pamięci wydłużył się już do tygodni, a nawet miesięcy.
Pojawiają się także spekulacje, że ten nagły wzrost zapotrzebowania przyczynił się do wcześniejszego niż oczekiwano premiery produktów takich jak M6 czy M5 Pro w bieżącym roku.
Dlaczego to ważne
AnalizaWykorzystanie komputerów Mac do treningu modeli AI może znacząco obniżyć koszty infrastruktury sprzętowej i zwiększyć efektywność przetwarzania danych. Sytuacja ta wskazuje również na rosnący udział produktów Apple w sektorze sztucznej inteligencji.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami