DeepSeek abre el código de DeepInfer, motor de inferencia
DeepSeek abre el código de DeepInfer, motor de inferencia
DeepInfer es un motor de inferencia open source para servir V4.1-Flash a gran escala, acelerando solicitudes y reduciendo costos.
DeepSeek ha publicado el código abierto de DeepInfer, el motor de inferencia que utiliza para el despliegue a gran escala de V4.1-Flash.
Este código ayuda a atender las solicitudes a los modelos con mayor rapidez y a reducir los costos de operación.
Para las empresas que despliegan sus propios servicios de IA, DeepInfer puede resultar incluso más valioso que los propios pesos del modelo.
Otro detalle importante: el motor funciona no solo en chips de Nvidia, sino también en Huawei.
Por qué es importante
AnálisisLa optimización de la inferencia puede ser tan valiosa como los pesos del modelo para servicios de IA propios, y el soporte de Huawei amplía las opciones de hardware.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
DeepSeek lanza DeepInfer, un framework de inferencia open source
DeepSeek publicó DeepInfer, un framework de inferencia bajo Apache-2.0 que usa en sus servicios de producción, con kernels optimizados, paralelismo MoE, decodificación especulativa, modo determinista y salidas estructuradas.
DeepSeek 4.1-1017 casi iguala a Opus 5
DeepSeek lanzó 4.1-1017, un modelo mejorado para código, agentes, 3D y visión que casi iguala a Opus 5, sigue siendo económico y publica pesos abiertos.
vLLM (Motor de Inferencia de Alto Rendimiento)
Servidor de inferencia y servicio LLM de código abierto líder que ha revolucionado el rendimiento gracias al algoritmo de virtualización de memoria PagedAttention y el batching continuo.
DeepSeek (Ruptura China en IA Abierta)
Serie de modelos abiertos innovadores de la laboratorio chino DeepSeek (V3, R1). Demuestra el más alto nivel en codificación y razonamiento a un costo de 10 a 20 veces inferior al de los análogos comerciales occidentales.
Jev y System One AI: guía práctica completa del modelo de decisiones de TypeSafe
Análisis ingenieril profundo del modelo insignia Jev: arquitectura System One frente a LLM, primitivas Choice/Score/Noul, paralelismo de consultas, matemática de la confianza, casos de vídeo, código y revisión de alternativas open-weight locales (Laya, GLiNER2.5, CLM-8B).
Parte I. Arquitectura de Agentes de IA: Fundamentos
Los once bloques constructivos fundamentales de un agente de IA: taxonomía de modelos, bucle de ejecución, ingeniería de prompts, destilación, skills, memoria, function calling y FinOps.