OpenAI Apresenta o Chip Jalapeño para Inferência de LLMs
A OpenAI, em parceria com a Broadcom, revelou o Jalapeño, um chip dedicado à inferência de modelos de linguagem que promete superar a Nvidia em até 4,1 vezes.
OpenAI Apresenta o Chip Jalapeño para Inferência de LLMs
A OpenAI, em colaboração com a Broadcom, desenvolveu um novo processador batizado de Jalapeño, projetado especificamente para a inferência de grandes modelos de linguagem (LLMs) e sistemas relacionados, como o Codex.
Atualmente, o chip está passando por testes rigorosos, mas os primeiros resultados já foram divulgados. De acordo com esses dados, o Jalapeño supera os chips GB200 e GB300 da Nvidia em termos de velocidade e eficiência. Para cargas de trabalho de alta interatividade, o desempenho do novo hardware é reportado entre 2,1 e 4,1 vezes superior ao dos concorrentes atuais.
Está previsto que o chip entre em operação comercial até o final de 2026.
Por que isso importa
AnáliseEste avanço pode redefinir o mercado de processamento de dados, oferecendo maior eficiência para LLMs e intensificando a competição tecnológica no setor de IA.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores