Mistral выпустили Le Chonk: Mistral Large 4 на триллион параметров
Mistral Large 4 доступна в превью: триллион параметров, 49 миллиардов активных и обучение на 3800 Grace Blackwell. API дорогой, а веса обещают в конце месяца.
Mistral выпустили Le Chaton Fat Le Chonk
Mistral Large 4 — это модель на триллион параметров с 49 миллиардами активных, которую тренировали на 3800 Grace Blackwell в датацентре самой Mistral. По большинству бенчей немного не дотягивает до лучших открытых моделей, но хотя бы находится с ними в одной лиге.
Модель уже доступна в превью, цена за API $1.36/$4.18 за миллион токенов, что довольно дорого для такой модели. Веса обещают в конце месяца. RL всё ещё продолжается, так что модель ещё может стать лучше.
Почему это важно
АналитикаЭто важно для рынка ИИ: Mistral пытается войти в одну лигу с сильными открытыми моделями, но высокая цена API и задержка с весами ограничивают доступность.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Mistral AI (Европейские открытые и эффективные модели)
Серия высокоэффективных открытых и коммерческих моделей от французского стартапа Mistral AI (Mistral 7B, Mixtral 8x7B, Mistral Large). Известны компактностью, скоростью и уважением к приватности данных.
LLM (Large Language Model - Большая языковая модель)
Фундаментальный класс нейросетевых архитектур на основе авторегрессионного трансформера, который предполагает вероятностное распределение следующих токенов и демонстрирует эмергентные свойства абстрактного мышления, синтеза кода и логического вывода.
Часть I. Архитектура ИИ-агентов: фундаментальные блоки
Одиннадцать фундаментальных строительных блоков современного ИИ-агента: таксономия моделей, агентный рантайм, техники промптинга, дистилляция, архитектура навыков (skills), память, function calling и FinOps.
Часть II. Архитектура ИИ-агентов: от модели до памяти и инструментов
Глубокое инженерное погружение: токенизация, KV-кэш, детерминизм сэмплинга, тренировочный стек, квантование, контекстная инженерия, стек безопасности, производственный RAG, ReAct и мультиагентные swarm-системы.