Чип OpenAI Jalapeño перевершує Nvidia в інференсі




OpenAI представили новий чип Jalapeño, який демонструє вражаючі результати в інференсі, перевершуючи конкурентів, зокрема Nvidia. Розробка чипа відбулася за рекордно короткий термін, що свідчить про високий потенціал команди.
Чип OpenAI Jalapeño перевершує Nvidia в інференсі
OpenAI опублікували блогпост, протестували чип на InferenceX від SemiAnalysis і дали лекцію на Hot Chips з деталями. На кожному такому чипі 216 гігабайт HBM4, вони можуть видавати до 13,4 PFLOP/s в mxfp4. По порівнянню з GB200/GB300 він видає в рази більше токенів в секунду на піку і до 2x токенів на ватт при максимальній пропускній здатності, причому розрив тільки зростає з збільшенням токенів в секунду на користувача.
Але реальний конкурент Jalapeño — це, звичайно ж, Rubin, нове покоління Nvidia. Бенчмарки Rubin поки що обмежені, але судячи з опублікованих, Jalapeño обганяє і їх. Причому Rubin в бенчмарках використовує спекулятивний декодинг, на відміну від Jalapeño, де ще є багато чого оптимізувати.
Коротше кажучи, у OpenAI тепер є дуже хороший чип, порівнянний з найкращими чипами Nvidia в інференсі. Але найвражаюче тут — це швидкість розробки: почали розробляти чип в жовтні 2024, перша версія чипа пішла в виробництво в листопаді 2025, з першими чипами готовими в травні 2026. І менш ніж за три місяці софт чипа вже на рівні, що дозволяє конкурувати з найкращими в індустрії. До речі, Jalapeño розробляла крихітна команда всього в ~30 осіб. Масове розгортання Jalapeño буде вже в наступному році.
Чому це важливо
АналітикаЦей чип може суттєво змінити ринок AI, пропонуючи високу продуктивність при знижених витратах енергії. Швидкість розробки також свідчить про інноваційний потенціал OpenAI.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
Чотири поради щодо резюме від керівника напрямку прикладного ШІ в OpenAI
Керівник напрямку прикладної розробки ШІ в OpenAI Вульфі Бейн назвав чотири ключові правила резюме: стислість, релевантність, акцент на результатах і правильний порядок досягнень.
AI Radar: GPT-6.1 Terra, Gemini 4 Carbon, Mistral Large 4 і зміни тарифів OpenAI та Anthropic
Огляд свіжих новин AI: оновлення великих мовних моделей, зміни підписок OpenAI та Anthropic, а також нові world-моделі, відеогенератори й корпоративні фінансові деталі.
Монополія Nvidia та платформа CUDA
Аналіз технологічного та економічного домінування корпорації Nvidia на ринку штучного інтелекту. Як створена у 2006 році програмна платформа CUDA (Compute Unified Device Architecture) перетворила звичайні ігрові відеокарти на головний обчислювальний інструмент планети і чому конкурентам (AMD, Intel) так важко зруйнувати цю монополію.
OpenAI GPT (Флагманські моделі серії GPT)
Головна універсальна лінійка великих мовних моделей від OpenAI (GPT-4, GPT-4o). Оптимізована для складного текстового аналізу, програмування, творчості та щоденної інтелектуальної роботи.