DeepSeek відкрила DeepGEMM: бібліотеку для прискорення матричних обчислень на GPU для ШІ-моделей

DeepSeek випустила відкриту бібліотеку DeepGEMM для прискорення матричних обчислень на GPU, що використовуються у великих мовних моделях.
DeepSeek виклала у відкритий доступ бібліотеку DeepGEMM, яка прискорює обчислення на GPU, що лежать в основі ШІ-моделей. Вона оптимізує матричні операції, на яких працюють великі мовні моделі, та дозволяє ефективніше використовувати NVIDIA Hopper і Blackwell.
Підтримуються FP8, FP4 та BF16. Передбачені оптимізації для моделей з архітектурою Mixture-of-Experts, суміщення обміну даними між GPU з обчисленнями та компіляція ядер безпосередньо під час виконання — без окремого збирання CUDA при встановленні.
DeepSeek заявляє, що на низці розмірів матриць DeepGEMM показує продуктивність на рівні або вище за спеціалізовані бібліотеки, вручну оптимізовані експертами.
Чому це важливо
АналітикаDeepGEMM може знизити вартість інференсу та навчання великих моделей, особливо для команд, які працюють із сучасними GPU NVIDIA та архітектурами Mixture-of-Experts.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
DeepSeek відкрила частину інтерфейсу свого ШІ-чату
DeepSeek опублікувала вихідний код інтерфейсу свого ШІ-чата з пошуком в інтернеті, режимом глибокого міркування та історією переписки.
Cloudflare відкрила вихідний код Kitesurf — браузера для ШІ-агентів
Cloudflare опублікувала вихідний код Kitesurf — легкого браузера без графічного інтерфейсу, створеного для ШІ-агентів і роботи в Cloudflare Workers.
Jev та System One AI: повний практичний гайд по моделі рішень від TypeSafe
Глибокий інженерний розбір флагманської моделі Jev: архітектура System One проти LLM, примітиви Choice/Score/Noul, паралелізм запитів, математика впевненості, відео-кейси, код та огляд локальних open-weight альтернатив (Laya, GLiNER2.5, CLM-8B).
Частина I. Архітектура ШІ-агентів: фундаментальні блоки
Десять фундаментальних блоків сучасного агента: таксономія моделей, рантайм-петля, техніки промптингу, дистиляція, навички (skills), пам'ять, function calling та юніт-економіка.