OpenAI uruchamia tryb Ultrafast dla modelu Sol 6.1
OpenAI wprowadza tryb Ultrafast dla modelu Sol 6.1, dostępny dla subskrybentów Codex/Work oraz przez API. Tryb ten działa na infrastrukturze Nvidia Blackwell, a nie Cerebras.
OpenAI uruchamia tryb Ultrafast dla modelu Sol 6.1
OpenAI oficjalnie wprowadziło tryb Ultrafast dla modelu Sol 6.1. Funkcja ta jest dostępna w ramach platformy Codex/Work dla subskrybentów płacących 500 USD miesięcznie oraz poprzez interfejs API w cenie 12 USD za milion tokenów wejściowych i 60 USD za milion tokenów wyjściowych.
Według dostępnych informacji, tryb Ultrafast nie wykorzystuje sprzętu firmy Cerebras. Zamiast tego działa na architekturze Nvidia Blackwell przy zastosowaniu małego rozmiaru partii (batch size). Cała dostępną moc obliczeniową do wnioskowania (inference) od Cerebras miały rzekomo wykupić duże podmioty handlowe, w tym fundusz Jane Street.
Dlaczego to ważne
AnalizaKrok ten ilustruje strategię OpenAI polegającą na segmentacji dostępu do szybkiego wnioskowania poprzez zróżnicowane pakiety cenowe. Wyjaśnienie dotyczące użycia chipów Nvidia Blackwell zamiast rozwiązań Cerebras zmienia oczekiwania rynkowe względem zależności sprzętowych, pojemności infrastruktury oraz struktury kosztów.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami