Cerebras uruchomi hosting Qwen 3.8 27B od 3 września
Cerebras ogłosił start hostingu modelu Qwen 3.8 27B, który ma osiągać prędkość przetwarzania powyżej 2000 tokenów na sekundę.
Cerebras rozpocznie świadczenie usług hostingu dla modelu Qwen 3.8 27B już 3 września.
Na infrastrukturze Cerebras oczekiwana jest prędkość działania przekraczająca 2000 tokenów na sekundę. Stanowi to znaczący wzrost w porównaniu z ChatGPT, który zazwyczaj generuje około 50–100 tokenów na sekundę, oraz trybem szybkim Codex, osiągającym poziom około 150–200 tokenów.
W praktyce oznacza to, że Qwen działający na platformie Cerebras może być nawet dziesięciokrotnie szybszy niż tryb szybki Codex.
Dlaczego to ważne
AnalizaPrędkość przetwarzania tokenów ma kluczowe znaczenie dla efektywności modeli AI w zastosowaniach rzeczywistych. Uruchomienie Qwen na Cerebras otwiera nowe możliwości w zakresie błyskawicznego przetwarzania danych.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami