OpenAI stellt eigenen Jalapeño-Chip für LLMs vor
OpenAI hat gemeinsam mit Broadcom den neuen Chip „Jalapeño“ entwickelt, der speziell für die Inferenz großer Sprachmodelle konzipiert ist. Erste Tests zeigen eine Leistungssteigerung von bis zu 4,1-fach gegenüber Nvidia-Hardware.
OpenAI stellt eigenen Jalapeño-Chip für LLMs vor
OpenAI hat in Zusammenarbeit mit Broadcom einen neuen Prozessor namens „Jalapeño“ entwickelt. Der Chip ist gezielt auf die Inferenz großer Sprachmodelle (LLMs) und verwandter Systeme wie Codex optimiert.
Derzeit befindet sich der Jalapeño noch in der Testphase, doch erste Ergebnisse liegen bereits vor. Laut diesen Daten übertrifft der neue Chip die Leistungsfähigkeit und Effizienz von Nvidias GB200- und GB300-Prozessoren deutlich. Bei hochinteraktiven Workloads wird eine Leistungssteigerung um das 2,1- bis 4,1-Fache berichtet.
Die Einführung des Chips im produktiven Einsatz ist für Ende 2026 geplant.
Warum das wichtig ist
AnalyseDieser Fortschritt könnte den Markt für Datenverarbeitung erheblich beeinflussen, indem er eine höhere Performance für große Sprachmodelle ermöglicht. Zudem unterstreicht er den verschärften Wettbewerb unter Technologieunternehmen im KI-Sektor.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern