Apple wprowadza na rynek chipy M6 oraz M5 Ultra

Apple wprowadza na rynek chipy M6 oraz M5 Ultra

Ceny wzrosły znacząco, ale przyniosło to również wymierne zyski w kluczowych metrykach.

M6

M6 to podstawowy układ wyposażony w 12-rdzeniowy CPU, 12-rdzeniowy GPU, podwójny 16-rdzeniowy silnik Neural Engine, do 32 GB zunifikowanej pamięci oraz przepustowość sięgającą 170 GB/s. Według danych Apple jest on nawet 4,8 raza szybszy w przetwarzaniu promptów w porównaniu z modelem M4. Przy 32 GB pamięci można komfortowo uruchamiać modele o wielkości od 7B do 14B parametrów, a także skwantyzowane modele 27-32B (takie jak Gemma 3 czy Qwen). Mac mini z chipem M6 kosztuje od 899 dolarów.

M5 Pro

Wariant M5 Pro (dostępny również w Mac mini w wyższej konfiguracji) oferuje do 18 rdzeni CPU, 20 rdzeni GPU, do 64 GB pamięci oraz przepustowość 307 GB/s. Jest to konfiguracja odpowiednia dla skwantyzowanych modeli 70B (Llama 3 70B w kwantyzacji 4-bitowej zajmuje około 40 GB). Cena zaczyna się od 1699 dolarów.

M5 Ultra

Model M5 Ultra (dedykowany dla Mac Studio) plasuje się w zupełnie innej kategorii wagowej: posiada do 36 rdzeni CPU, 80 rdzeni GPU, do 512 GB pamięci oraz przepustowość 1,2 TB/s. Pozwala to na przechowywanie w pamięci dużych modeli, w tym ciężkich architektur MoE (Mixture of Experts). Ceny startują od 5499 dolarów, przy czym topowa konfiguracja kosztuje aż 18 000 dolarów.

Oznacza to, że pełne wykorzystanie lokalnie modeli 70B wciąż nie jest opłacalne, chyba że dysponujemy budżetem Scrooge'a McDucka.

Dlaczego to ważne: Nowe chipy Apple mogą mieć istotny wpływ na wydajność modeli AI oraz oprogramowania korzystającego z tych technologii.