Apple stellt M6- und M5-Ultra-Chips vor

Apple stellt M6- und M5-Ultra-Chips vor

Die Preise sind erheblich gestiegen, doch auch die Leistungswerte haben zugenommen.

M6

Der M6 ist ein Basis-Chip mit einer 12-Kern-CPU, einer 12-Kern-GPU, einem dualen 16-Kern-Neural Engine, bis zu 32 GB einheitlichem Speicher und einer Bandbreite von bis zu 170 GB/s. Laut Apple ist er bei der Prompt-Verarbeitung bis zu 4,8-mal schneller als der M4. Mit 32 GB können Modelle im Bereich von 7B bis 14B problemlos ausgeführt werden; auch quantisierte 27-32B-Modelle (wie Gemma 3 oder Qwen) finden Platz. Der Mac mini mit M6 beginnt bei 899 US-Dollar.

M5 Pro

Der M5 Pro (ebenfalls im Mac mini in höherer Konfiguration verfügbar) bietet bis zu eine 18-Kern-CPU, eine 20-Kern-GPU, bis zu 64 GB Speicher und eine Bandbreite von 307 GB/s. Diese Konfiguration eignet sich für quantisierte 70B-Modelle (Llama 3 70B belegt in 4-Bit etwa 40 GB). Der Preis startet bei 1.699 US-Dollar.

M5 Ultra

Der M5 Ultra (im Mac Studio) spielt in einer völlig anderen Gewichtsklasse: Er verfügt über bis zu eine 36-Kern-CPU, eine 80-Kern-GPU, bis zu 512 GB Speicher und eine Bandbreite von 1,2 TB/s. Dies ermöglicht das Laden großer Modelle in den Arbeitsspeicher, einschließlich schwerer MoE-Architekturen (Mixture of Experts). Die Preise beginnen bei 5.499 US-Dollar, wobei die Top-Konfiguration 18.000 US-Dollar kostet.

Somit ist die vollständige lokale Nutzung von 70B-Modellen weiterhin nicht praktikabel, es sei denn, man besitzt die Mittel eines Dagobert Ducks.

Warum das wichtig ist

Diese Entwicklung ist bedeutsam, da Apples neue Chips die Leistungsfähigkeit von KI-Modellen und Software, die auf diese Technologien angewiesen sind, erheblich beeinflussen könnten.