Cerebras apresenta o servidor CS-4

Cerebras apresenta o servidor CS-4

O novo servidor Cerebras CS-4 permite que os modelos sejam executados a velocidades duas vezes superiores às das versões anteriores, viabilizando a execução de modelos com 10 trilhões de parâmetros (10T) a taxas superiores a 1.000 tokens por segundo. Cada servidor está equipado com três chips WSE 3 Turbo, que são versões overclocked do original WSE 3.

A empresa dobrou a frequência dos 1,4 GHz para os 2,8 GHz, o que aumentou a largura de banda da memória e a taxa de FLOP/s, resultando numa melhoria significativa na velocidade dos modelos. No entanto, a memória no chip permanece em 44 gigabytes, pelo que são necessários várias dezenas de servidores CS-4 para suportar os prometidos modelos de 10T.

Uma característica única do CS-4 é a sua modularidade: cada chip está alojado num módulo separado que se conecta a um rack responsável pela alimentação elétrica e arrefecimento. Isto simplifica a instalação, pois os racks podem ser configurados previamente e os chips conectados quando estiverem prontos. Além disso, esta arquitetura permite futuras atualizações.