Cerebras представили CS-4

Cerebras представили CS-4

Новый сервер Cerebras CS-4 позволяет запускать модели на скорости в 2 раза выше, чем предыдущие версии, и дает возможность запускать 10T модели на скорости более 1000 токенов в секунду. В каждом таком сервере установлено три WSE 3 Turbo, которые являются разогнанной версией оригинального WSE 3.

Компания удвоила частоту с 1,4 GHz до 2,8 GHz, что позволило увеличить пропускную способность памяти и FLOP/s, что и обеспечивает прирост в скорости моделей. Однако памяти на чипе осталось те же 44 гигабайта, поэтому для обещанных 10T моделей нужно несколько десятков CS-4.

Отдельной особенностью CS-4 является модульность: каждый чип находится в отдельном модуле, который подключается к стойке, отвечающей за питание и охлаждение. Это упрощает установку, так как стойки можно установить заранее, а затем подключить к ним чипы, когда они будут готовы. Кроме того, это дает возможность апгрейда в будущем.