Cerebras stellt CS-4 vor
Cerebras stellt CS-4 vor
Der neue Cerebras-CS-4-Server verdoppelt die Geschwindigkeit gegenüber Vorgängerversionen und ermöglicht die Ausführung von 10-Billionen-Parameter-Modellen mit über 1.000 Tokens pro Sekunde.
Cerebras stellt CS-4 vor
Der neue Cerebras CS-4 Server ermöglicht es Modellen, mit doppelter Geschwindigkeit im Vergleich zu früheren Versionen zu laufen. Dies erlaubt die Ausführung von Modellen mit 10 Billionen Parametern (10T) bei Geschwindigkeiten von über 1.000 Tokens pro Sekunde. Jeder Server ist mit drei WSE 3 Turbo Chips ausgestattet, einer übertakteten Version des ursprünglichen WSE 3.
Das Unternehmen hat die Taktfrequenz von 1,4 GHz auf 2,8 GHz verdoppelt, was zu einer erhöhten Speicherbandbreite und FLOP/s sowie einer verbesserten Modellgeschwindigkeit führt. Der Speicher auf dem Chip bleibt jedoch bei 44 Gigabyte, sodass für die angekündigten 10T-Modelle mehrere Dutzend CS-4-Server erforderlich sind.
Ein einzigartiges Merkmal des CS-4 ist seine Modularität: Jeder Chip befindet sich in einem separaten Modul, das mit einem Rack verbunden wird, welches für Stromversorgung und Kühlung zuständig ist. Dies vereinfacht die Installation, da Racks im Voraus aufgebaut werden können und die Chips erst angeschlossen werden, wenn sie bereit sind. Darüber hinaus ermöglicht dieses Design zukünftige Upgrades.
Warum das wichtig ist
AnalyseDieser Server eröffnet neue Möglichkeiten für die Ausführung großer KI-Modelle und könnte die Datenverarbeitungsgeschwindigkeit in verschiedenen Branchen erheblich steigern.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern