OpenAI setzt auf Tausende Mac mini und Mac Studio für das Agenten-Training

OpenAI wechselt für das Training von KI-Agenten zu Apple-Hardware, um dank der Unified Memory Architecture die Kosten zu senken. Auch Anthropic nutzt bereits ähnliche Ansätze über AWS.
OpenAI kauft Tausende Mac mini und Mac Studio für das Agenten-Training
Der Grund für die Abkehr von herkömmlichen GPUs liegt in Apples Unified Memory Architecture (UMA). Diese Architektur gewährt CPU, GPU und Neural Engine einen gemeinsamen Zugriff auf den Arbeitsspeicher. Dies minimiert unnötige Datentransfers und ermöglicht eine effizientere Ausführung von Agenten auf einer einzelnen Maschine.
Reinforcement Learning (RL) kombiniert im Wesentlichen Inferenz mit Interaktion in der Umgebung. Anstelle teurer GPU-Cluster, die für Matrixberechnungen optimiert sind, können viele kompakte Macs mit einheitlichem Speicher tatsächlich deutlich kosteneffizienter sein.
Darüber hinaus berichten Journalisten hier, dass OpenAI nicht allein ist: Auch Anthropic nutzt Mac mini, mietet diese jedoch über AWS anstatt sie zu kaufen.
Aufgrund dieser Unternehmensnachfrage haben sich die Lieferzeiten für konfigurierte Mac mini und Mac Studio mit größeren Speicherkapazitäten bereits auf Wochen bis Monate verlängert.
Zudem gibt es Spekulationen, dass dieser Nachfrageanstieg zu einer früheren Veröffentlichung von M6-, M5 Pro- und anderen Produkten noch in diesem Jahr geführt hat.
Warum das wichtig ist
AnalyseDie Nutzung von Macs für KI-Training kann die Hardwarekosten erheblich senken und die Datenverarbeitungseffizienz steigern. Dieser Trend signalisiert zudem eine wachsende Bedeutung von Apple-Produkten im Bereich der künstlichen Intelligenz.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern