DeepSeek открыла исходный код движка инференса DeepInfer
DeepSeek открыла исходный код движка инференса DeepInfer
DeepInfer — открытый движок инференса для масштабного обслуживания V4.1-Flash, ускоряющий обработку запросов и снижающий затраты.
DeepSeek открыла исходный код DeepInfer, движка инференса, который она использует для масштабного запуска V4.1-Flash.
Именно этот код помогает быстрее обслуживать запросы к моделям и снижать затраты на их работу.
Для компаний, развёртывающих собственные ИИ-сервисы, DeepInfer может оказаться даже ценнее самих весов модели.
Ещё одна важная деталь: движок работает не только на чипах Nvidia, но и на Huawei.
Почему это важно
АналитикаДля компаний, развёртывающих собственные ИИ-сервисы, оптимизированный движок может быть ценнее весов модели, а поддержка Huawei расширяет аппаратные варианты.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
DeepSeek выпустила DeepInfer — опенсорс-фреймворк для инференса
DeepSeek опубликовала DeepInfer — фреймворк, на котором работают её продакшн-сервисы. Проект распространяется под лицензией Apache-2.0 и включает оптимизированные кернелы, поддержку MoE, спекулятивный декодинг, детерминистичный режим и structured outputs.
DeepSeek 4.1-1017 почти достигла уровня Opus 5
DeepSeek выпустила модель 4.1-1017 с улучшенным кодом, агентами и мультимодальностью, которая почти сравнялась с Opus 5 и остается дешевой в API.
DeepSeek (Китайский прорыв в открытом ИИ)
Серия прорывных открытых моделей от китайской лаборатории DeepSeek (V3, R1). Демонстрирует высший уровень в кодировании и рассуждении по цене в 10–20 раз ниже, чем западные коммерческие аналоги.
Масштабирование Обчислений Во Время Инференса
Новая парадигма развития ИИ к концу 2026 года: повышение качества ответов не за счет гигантских размеров моделей во время обучения, а за счет выделения дополнительных секунд на размышления перед генерацией.
Jev и System One AI: полное практическое руководство по модели решений от TypeSafe
Глубокий инженерный разбор флагманской модели Jev: архитектура System One против LLM, примитивы Choice/Score/Noul, параллелизм запросов, математика уверенности, видео-кейсы, код и обзор локальных open-weight альтернатив (Laya, GLiNER2.5, CLM-8B).
Часть I. Архитектура ИИ-агентов: фундаментальные блоки
Одиннадцать фундаментальных строительных блоков современного ИИ-агента: таксономия моделей, агентный рантайм, техники промптинга, дистилляция, архитектура навыков (skills), память, function calling и FinOps.