Mistral Large 4: «Le Chonk» — мультимодальна ШІ-модель на 1,05 трлн параметрів
Mistral представила мультимодальну модель Large 4 («Le Chonk») на 1,05 трлн параметрів із контекстом до 1 млн токенів. Ваги обіцяють опублікувати 27 жовтня.
Mistral Large 4: «Le Chonk» — мультимодальна ШІ-модель на 1,05 трлн параметрів
Mistral представила нову флагманську модель Large 4. Всередині компанії її офіційно називають Le Chonk — це відсилання до мему Le Chaton Fat, фейкової гігантської моделі Mistral, яку кілька місяців тому придумали в соцмережах.
Ключові характеристики
- Архітектура: MoE
- Параметри: 1,05 трлн, з яких активні — 49 млрд
- Мультимодальність: підтримує аналіз зображень
- Контекст: до 1 млн токенів
- Доступність: через API в режимі
public preview
За власними тестами Mistral, Large 4 є новою відкритою SOTA для США та Європи. Окремо виділяють кодинг, кібербезпеку та фінанси, а в задачах виявлення об’єктів на зображеннях модель обходить навіть деякі закриті фронтирні моделі.
Модель навчали з нуля близько двох місяців на 4 000 Nvidia Grace Blackwell. Для моделі такого розміру це досить компактний кластер.
Ваги обіцяють опублікувати 27 жовтня.
Чому це важливо
АналітикаЦе розширює конкуренцію у відкритому ШІ й дає розробникам мультимодальну модель із довгим контекстом для кодування, безпеки та фінансових задач.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
LLM (Large Language Model - Велика мовна модель)
Фундаментальний клас нейромережевих архітектур на базі авторегресійного трансформера, що передбачає ймовірнісний розподіл наступних токенів і демонструє емерджентні властивості абстрактного мислення, синтезу коду та логічного висновку.
DeepSeek-R1 (Модель міркування DeepSeek)
Проривна відкрита модель міркування (Open Weights Reasoning Model) на базі 671B MoE архітектури, що довела можливість формування надскладного логічного мислення через чисте навчання з підкріпленням (GRPO).
Alibaba представила Qwen4-Max: флагманську ШІ-модель із мільйонним контекстом
Qwen4-Max від Alibaba позиціонується як найпотужніша модель компанії для програмування, ігор та агентних задач, із контекстним вікном до 1 млн токенів і нижчою вартістю порівняно з топовими американськими конкурентами.
Частина I. Архітектура ШІ-агентів: фундаментальні блоки
Десять фундаментальних блоків сучасного агента: таксономія моделей, рантайм-петля, техніки промптингу, дистиляція, навички (skills), пам'ять, function calling та юніт-економіка.