Cerebras dévoile le serveur CS-4
Cerebras dévoile le serveur CS-4
Cerebras lance le nouveau serveur CS-4, permettant d'exécuter les modèles à une vitesse deux fois supérieure aux versions précédentes.
Cerebras dévoile le serveur CS-4
Le nouveau serveur Cerebras CS-4 permet d'exécuter les modèles à des vitesses deux fois plus rapides que les versions précédentes, autorisant l'inférence de modèles de 10 billions de paramètres (10T) à plus de 1000 tokens par seconde. Chaque serveur est équipé de trois puces WSE 3 Turbo, qui sont une version overclockée du WSE 3 original.
L'entreprise a doublé la fréquence, passant de 1,4 GHz à 2,8 GHz, ce qui a augmenté la bande passante mémoire et les opérations en virgule flottante par seconde (FLOP/s), entraînant une amélioration de la vitesse des modèles. Cependant, la mémoire sur la puce reste limitée à 44 gigaoctets ; plusieurs dizaines de serveurs CS-4 sont donc nécessaires pour exécuter les modèles 10T promis.
Une caractéristique unique du CS-4 est sa modularité : chaque puce est logée dans un module séparé qui se connecte à un rack responsable de l'alimentation et du refroidissement. Cela simplifie l'installation, car les racks peuvent être configurés à l'avance et les puces connectées dès qu'elles sont prêtes. De plus, cette architecture permet des mises à niveau futures.
Pourquoi c'est important
AnalyseCe serveur ouvre de nouvelles possibilités pour l'exécution de grands modèles d'intelligence artificielle, ce qui pourrait avoir un impact significatif sur les vitesses de traitement des données dans divers secteurs.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs