La puce Jalapeño d'OpenAI surpasse Nvidia en inférence

La puce Jalapeño d'OpenAI surpasse Nvidia en inférence

OpenAI a publié un article de blog détaillant les tests de la puce Jalapeño sur InferenceX de SemiAnalysis ainsi qu'une présentation lors de la conférence Hot Chips. Chaque puce intègre 216 Go de mémoire HBM4 et peut délivrer jusqu'à 13,4 PFLOP/s en format mxfp4. Comparée aux modèles GB200/GB300, elle génère significativement plus de tokens par seconde à performance maximale et offre jusqu'à deux fois plus de tokens par watt à débit maximal, avec un écart qui s'élargit à mesure que le nombre de tokens par seconde par utilisateur augmente.

Cependant, le véritable concurrent de Jalapeño est la nouvelle génération de puces Nvidia, Rubin. Les résultats de benchmark pour Rubin sont actuellement limités, mais selon les données publiées, Jalapeño semble également surpasser cette dernière. Il est notable que les benchmarks de Rubin utilisent le décodage spéculatif, contrairement à Jalapeño, qui dispose encore d'une grande marge d'optimisation.

En résumé, OpenAI dispose désormais d'une puce très performante rivalisant avec les meilleures solutions Nvidia en matière d'inférence. Le point le plus frappant reste la rapidité du développement : le projet a été lancé en octobre 2024, la première version est entrée en production en novembre 2025, et les premières puces étaient prêtes en mai 2026. En moins de trois mois, le logiciel de la puce atteint déjà un niveau permettant de rivaliser avec les leaders de l'industrie. Fait intéressant, Jalapeño a été développée par une équipe réduite d'environ 30 personnes. Le déploiement à grande échelle de Jalapeño est prévu pour l'année prochaine.