Kimi K3.1 Pro: Moonshot обновила модель для 3D-тулинга
Kimi K3.1 Pro: Moonshot обновила модель для 3D-тулинга
Moonshot выпустила Kimi K3.1 Pro с акцентом на 3D-тулинг, обновлённым посттрейнингом и архитектурой Gated DSA для работы с большим контекстом.
Moonshot выпустили Kimi K3.1 Pro. Она основана на той же базовой модели, что и K3, но, похоже, Moonshot сложно инференсить модель такого размера — вероятно, скоро мы увидим модель поменьше.
Особый упор в этом релизе делается на использовании 3D-тулинга, включая Blender и другие инструменты.
Кроме обновлённого посттрейна, Moonshot немного обновили и архитектуру, заменив Gated MLA на Gated DSA, что повысило эффективность модели при большом контексте.
Почему это важно
АналитикаРелиз показывает, как Moonshot оптимизирует большие модели для креативных и технических задач, а также для работы с длинным контекстом. Опубликованные веса позволяют разработчикам самостоятельно тестировать новую архитектуру и инференс.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Moonshot AI опубликовала веса Kimi K3.1 Pro на Hugging Face
Moonshot AI опубликовала веса модели Kimi K3.1 Pro на Hugging Face, но локальный запуск требует очень мощного и дорогого сервера.
LLM (Large Language Model - Большая языковая модель)
Фундаментальный класс нейросетевых архитектур на основе авторегрессионного трансформера, который предполагает вероятностное распределение следующих токенов и демонстрирует эмергентные свойства абстрактного мышления, синтеза кода и логического вывода.
Ян ЛеКун оказался прав: модель со 109 млн параметров превзошла модель с 72 млрд
Исследование Рэндолла Балестриеро и Яна Лекуна показало, что тип и сочетание данных важнее размера модели.
Часть I. Архитектура ИИ-агентов: фундаментальные блоки
Одиннадцать фундаментальных строительных блоков современного ИИ-агента: таксономия моделей, агентный рантайм, техники промптинга, дистилляция, архитектура навыков (skills), память, function calling и FinOps.