Chip Jalapeño da OpenAI supera a Nvidia em inferência

Chip Jalapeño da OpenAI supera a Nvidia em inferência

A OpenAI publicou um post no blog detalhando os testes do chip Jalapeño na plataforma InferenceX da SemiAnalysis e uma apresentação na conferência Hot Chips. Cada chip possui 216 gigabytes de memória HBM4 e pode entregar até 13,4 PFLOP/s em formato mxfp4. Em comparação com as séries GB200/GB300, o Jalapeño produz significativamente mais tokens por segundo no desempenho máximo e até 2x mais tokens por watt na máxima vazão, com a vantagem a aumentar à medida que cresce o número de tokens por segundo por utilizador.

No entanto, o verdadeiro concorrente do Jalapeño é o chip da nova geração da Nvidia, o Rubin. Os resultados de benchmark para o Rubin são atualmente limitados, mas com base nos dados publicados, o Jalapeño parece superar também este modelo. É notável que os benchmarks do Rubin utilizam decodificação especulativa, ao contrário do Jalapeño, que ainda tem muito espaço para otimização.

Em resumo, a OpenAI dispõe agora de um chip altamente capaz que rivaliza com os melhores chips da Nvidia em tarefas de inferência. O aspeto mais impressionante é a velocidade do desenvolvimento: o projeto do chip foi iniciado em outubro de 2024, a primeira versão entrou em produção em novembro de 2025, com os primeiros chips prontos até maio de 2026. Em menos de três meses, o software do chip já atingiu um nível que lhe permite competir com os líderes da indústria. Curiosamente, o Jalapeño foi desenvolvido por uma pequena equipa de apenas ~30 pessoas. Espera-se que a implantação em massa do Jalapeño ocorra no próximo ano.