DeepSeek lance DeepGEMM : une bibliothèque open source pour accélérer les opérations matricielles GPU des modèles d'IA

DeepSeek a publié DeepGEMM, une bibliothèque open source qui optimise les calculs matriciels sur GPU pour les grands modèles de langage. Elle prend en charge les architectures NVIDIA Hopper et Blackwell.
DeepSeek a dévoilé DeepGEMM, une bibliothèque open source conçue pour accélérer les calculs GPU sous-jacents aux modèles d'intelligence artificielle. Cet outil optimise les opérations matricielles utilisées par les grands modèles de langage (LLM) et améliore considérablement l'efficacité sur les cartes graphiques NVIDIA Hopper et Blackwell.
La bibliothèque prend en charge les formats de précision FP8, FP4 et BF16. Elle intègre des optimisations spécifiques pour les architectures Mixture-of-Experts (MoE), superpose l'échange de données inter-GPU avec le calcul, et compile les noyaux (kernels) à l'exécution. Cette dernière fonctionnalité élimine la nécessité d'une compilation CUDA séparée lors de l'installation.
Selon DeepSeek, DeepGEMM atteint des performances égales ou supérieures à celles de bibliothèques spécialisées et finement réglées par des experts pour un certain nombre de tailles de matrices.
Pourquoi c'est important
AnalyseDes noyaux matriciels efficaces permettent de réduire significativement les coûts d'entraînement et d'inférence des LLM, en particulier sur les GPU NVIDIA modernes et les architectures Mixture-of-Experts.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs
Lié dans l'écosystème
Guides pratiques, terminologie clé et compétences d'agents
DeepSeek publie en open source une partie de son interface de chat
DeepSeek a publié le code source d’une partie de son interface de chat, avec recherche sur Internet, mode de réflexion approfondie et historique.
Open Weights vs Truly Open Source AI
Analyse juridique et technique de la différence fondamentale entre les modèles à poids accessibles (Llama, DeepSeek) et les projets véritablement open source incluant les données sources, le code et l'architecture (norme OSI).
Codync : outil Rust open source transformant les agents IA en chatbots
Codync est un projet gratuit en Rust qui regroupe plus de 40 agents IA locaux en chatbots pilotables depuis iPhone, Mac, Windows, Linux ou le terminal.
Modèles de pointe (Frontier Models)
La classe d'intelligence artificielle la plus puissante à l'avant-garde de la recherche mondiale (Claude 3.7 Sonnet, OpenAI o3/GPT-4.5, Gemini 2.0 Pro), définissant les limites actuelles des capacités de raisonnement, d'autonomie et de codage.