Cerebras uruchomi Qwen 3.8 27B od 3 września z prędkością ponad 2000 tokenów na sekundę

Rewolucja w szybkości inferencji

Platforma Cerebras ogłosiła, że hosting modelu Qwen 3.8 27B zostanie uruchomiony już 3 września. Kluczową obietnicą jest ekstremalnie wysoka prędkość generowania odpowiedzi – oczekuje się, że model będzie działał z przepustowością ponad 2000 tokenów na sekundę.

Porównanie z konkurencją

Różnica w wydajności jest kolosalna. Dla kontekstu:

• ChatGPT zazwyczaj generuje około 50–100 tokenów na sekundę.
• Szybki tryb Codex osiąga poziom 150–200 tokenów na sekundę.

Oznacza to, że Qwen 3.8 27B na infrastrukturze Cerebras może być nawet kilkunastokrotnie szybszy od standardowych rozwiązań rynkowych.

Dostępność i realne zastosowania

Model jest już dostępny w ramach standardowego planu Cerebras, gdzie aktualnie operuje z prędkością około 1500 tokenów na sekundę. Tak imponująca wydajność zmienia sposób interakcji z AI w codziennej pracy programistycznej. Jak zauważają użytkownicy, czas potrzebny na napisanie zapytania do modelu często okazuje się dłuższy niż czas, jaki sztuczna inteligencja potrzebuje na przeanalizowanie i podsumowanie całego kodu źródłowego projektu.