OpenAI prezentuje własny chip Jalapeño do modeli LLM
OpenAI we współpracy z Broadcomem opracowało układ Jalapeño, zaprojektowany specjalnie do wnioskowania dużych modeli językowych. Wstępne testy wskazują na wydajność wyższą o 2,1–4,1 raza w porównaniu z rozwiązaniami Nvidii.
OpenAI prezentuje własny chip Jalapeño do modeli LLM
OpenAI, we współpracy z firmą Broadcom, opracowało nowy procesor o nazwie Jalapeño, który został zaprojektowany specjalnie do obsługi wnioskowania (inference) dużych modeli językowych (LLM) oraz powiązanych systemów, takich jak Codex.
Obecnie układ przechodzi fazę testów, jednak dostępne są już pierwsze wyniki. Zgodnie z nimi, Jalapeño przewyższa procesory Nvidii GB200 i GB300 pod względem szybkości oraz efektywności energetycznej. Dla zadań wymagających wysokiej interakcji, wydajność nowego chipu jest raportowana jako wyższa o 2,1 do 4,1 raza.
Planowane wdrożenie układu do użytku produkcyjnego ma nastąpić do końca 2026 roku.
Dlaczego to ważne
AnalizaTen chip może znacząco wpłynąć na rynek przetwarzania danych, oferując wyższą wydajność dla dużych modeli językowych. Jednocześnie podkreśla rosnącą konkurencję wśród gigantów technologicznych w sektorze AI.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami