DeepSeek libera DeepGEMM: biblioteca de código abierto para acelerar cálculos matriciales en GPU para modelos de IA

DeepSeek ha publicado DeepGEMM, una biblioteca de código abierto que acelera las operaciones matriciales en GPU utilizadas por los grandes modelos de lenguaje, con soporte para NVIDIA Hopper y Blackwell.
DeepSeek ha publicado DeepGEMM, una biblioteca de código abierto que acelera los cálculos en GPU que sustentan los modelos de IA. Optimiza las operaciones matriciales utilizadas por los grandes modelos de lenguaje y mejora la eficiencia en GPUs NVIDIA Hopper y Blackwell.
La biblioteca admite FP8, FP4 y BF16. Incluye optimizaciones para arquitecturas Mixture-of-Experts, superpone el intercambio de datos entre GPU con los cálculos y compila kernels en tiempo de ejecución, evitando una compilación CUDA separada durante la instalación.
DeepSeek afirma que DeepGEMM alcanza un rendimiento igual o superior al de bibliotecas especializadas optimizadas por expertos en varios tamaños de matrices.
Por qué es importante
AnálisisLos kernels matriciales más eficientes pueden reducir los costes de entrenamiento e inferencia de los LLM, especialmente en GPUs NVIDIA modernas y arquitecturas Mixture-of-Experts.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
Cloudflare abre el código de Kitesurf, un navegador para agentes de IA
Cloudflare publicó el código fuente de Kitesurf, un navegador sin interfaz gráfica escrito en Rust y WebAssembly para agentes de IA y Cloudflare Workers.
GPU o CPU para IA: ¿cuál es la diferencia?
Comparación profunda entre unidades centrales (CPU) y unidades gráficas (GPU) para tareas de aprendizaje automático. Explicación de la diferencia fundamental entre latencia (Latency-oriented) y ancho de banda (Throughput-oriented), ancho de banda de memoria (DDR5 vs HBM3e) y benchmarking en CLI.
Memoria de Video (VRAM) para IA
La memoria de video (Video RAM) de la GPU se utiliza para cargar los pesos de la red neuronal y la ventana de contexto. Es el principal cuello de botella de hardware: si el modelo no cabe en la VRAM, no se ejecutará o funcionará decenas de veces más lento en una CPU convencional.
Qwen-4 Max se presenta oficialmente: modelo para agentes y tareas de largo horizonte
Qwen-4 Max se posiciona como un modelo para tareas agénticas y de largo horizonte, con menor uso de tokens y coste reducido frente a Qwen-3.8.