Cerebras представили CS-4

Cerebras представили CS-4

Новий сервер Cerebras CS-4 дозволяє запускати моделі на швидкості в 2 рази вищій, ніж попередні версії, і дає можливість запускати 10T моделі на швидкості понад 1000 токенів за секунду. У кожному такому сервері встановлено три WSE 3 Turbo, що є розігнаною версією оригінального WSE 3.

Компанія удвоила частоту з 1,4 GHz до 2,8 GHz, що дозволило подвоїти пропускну здатність пам'яті та FLOP/s, що і забезпечує приріст у швидкості моделей. Однак пам'яті на чипі залишилося ті ж 44 гігабайти, тому для обіцяних 10T моделей потрібно кілька десятків CS-4.

Окремою особливістю CS-4 є модульність: кожен чип знаходиться в окремому модулі, який підключається до стійки, що відповідає за живлення та охолодження. Це спрощує установку — стійки можна встановити заздалегідь, а потім підключити до них чипи, коли вони будуть готові. Крім того, це дає можливість апгрейду в майбутньому.