Cerebras prezentuje serwer CS-4

Cerebras prezentuje serwer CS-4

Nowy serwer Cerebras CS-4 pozwala na uruchamianie modeli z prędkością dwukrotnie wyższą niż w przypadku wcześniejszych wersji, umożliwiając przetwarzanie modeli o wielkości 10 bilionów parametrów (10T) z szybkością przekraczającą 1000 tokenów na sekundę. Każdy serwer wyposażony jest w trzy chipy WSE 3 Turbo, będące podkręconą wersją oryginalnego układu WSE 3.

Producent podwoił częstotliwość taktowania z 1,4 GHz do 2,8 GHz, co przełożyło się na zwiększenie przepustowości pamięci oraz wydajności obliczeniowej (FLOP/s), a tym samym na poprawę szybkości działania modeli. Należy jednak zaznaczyć, że pojemność pamięci na chipie pozostała na poziomie 44 gigabajtów, co oznacza, że do obsługi obiecanych modeli 10T konieczne będzie połączenie kilkudziesięciu serwerów CS-4.

Unikalną cechą systemu CS-4 jest jego modularność: każdy chip znajduje się w osobnym module, który łączy się ze stelażem odpowiedzialnym za zasilanie i chłodzenie. Takie rozwiązanie upraszcza instalację, ponieważ stelaże można przygotować wcześniej, a moduły z chipami dołączać dopiero po ich gotowości. Co więcej, architektura ta umożliwia łatwe przyszłe aktualizacje sprzętowe.