Чип OpenAI Jalapeño обходит Nvidia в инференсе




OpenAI представили новый чип Jalapeño, который демонстрирует впечатляющие результаты в инференсе, обгоняя конкурентов, включая Nvidia. Скорость разработки подчеркивает потенциал команды.
Чип OpenAI Jalapeño обходит Nvidia в инференсе
OpenAI опубликовали блогпост, протестировали чип на InferenceX от SemiAnalysis и дали лекцию на Hot Chips с деталями. На каждом таком чипе 216 гигабайт HBM4, они могут выдавать до 13,4 PFLOP/s в mxfp4. По сравнению с GB200/GB300 он выдает в разы больше токенов в секунду на пике и до 2x токенов на ватт при максимальной пропускной способности, причем разрыв только растет с увеличением токенов в секунду на пользователя.
Но реальный конкурент Jalapeño — это, конечно же, Rubin, новое поколение Nvidia. Бенчмарки Rubin пока что ограничены, но судя по опубликованным, Jalapeño обгоняет и их. Причем Rubin в бенчмарках использует спекулятивный декодинг, в отличие от Jalapeño, где есть еще много что оптимизировать.
Короче говоря, у OpenAI теперь есть очень хороший чип, сравнимый с лучшими чипами Nvidia в инференсе. Но самое поразительное тут — это скорость разработки: начали разрабатывать чип в октябре 2024, первая версия чипа ушла в производство в ноябре 2025, с первыми чипами готовыми в мае 2026. И менее чем за три месяца софт чипа уже на уровне, позволяющем конкурировать с лучшими в индустрии. Кстати, Jalapeño разрабатывала крохотная команда всего в ~30 человек. Массовое развертывание Jalapeño будет уже в следующем году.
Почему это важно
АналитикаЭтот чип может существенно изменить рынок AI, предлагая высокую производительность при сниженных затратах энергии. Скорость разработки также свидетельствует о инновационном потенциале OpenAI.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Четыре совета по резюме от руководителя направления прикладного ИИ-разработки в OpenAI
Вульфи Бейн, руководитель направления прикладной ИИ-разработки в OpenAI, назвал четыре правила резюме: краткость, релевантность, акцент на результатах и вынос важных достижений на начало.
Сэм Альтман переименовал аккаунт в X в Ram Altman
Сэм Альтман изменил отображаемое имя своего аккаунта в X на Ram Altman.
Монополия Nvidia и платформа CUDA
Анализ технологического и экономического доминирования корпорации Nvidia на рынке искусственного интеллекта. Как созданная в 2006 году программная платформа CUDA (Compute Unified Device Architecture) превратила обычные игровые видеокарты в главный вычислительный инструмент планеты и почему конкурентам (AMD, Intel) так трудно разрушить эту монополию.
OpenAI GPT (Флагманские модели серии GPT)
Основная универсальная линейка больших языковых моделей от OpenAI (GPT-4, GPT-4o). Оптимизирована для сложного текстового анализа, программирования, творчества и повседневной интеллектуальной работы.