Curso gratuito: construye un modelo estilo DeepSeek desde cero

Un autor publicó un curso gratuito de 16 horas en YouTube que explica paso a paso cómo crear un modelo de IA estilo DeepSeek desde cero, cubriendo arquitecturas de atención y MoE.
Construye un modelo estilo DeepSeek desde cero
Un autor ha publicado un curso gratuito de 16 horas en YouTube, donde desglosa paso a paso el proceso de creación de un Modelo de Lenguaje Grande (LLM) desde cero. El material cubre todo, desde las bases teóricas y el análisis de artículos científicos hasta la escritura de código funcional completo.
Qué hay dentro del curso:
- Mecanismo de atención con una explicación detallada y clara
- Multi-Head Latent Attention
- Grouped Query Attention
- Codificaciones posicionales (Positional Encodings)
- Mixture of Experts (MoE)
- Y muchos otros componentes arquitectónicos
Todo lo que necesitas para completar el curso es una laptop y constancia.
Por qué es importante
AnálisisEste es un raro ejemplo de educación técnica profunda que abre la 'caja negra' de los LLM modernos, permitiendo a los desarrolladores entender la arquitectura de DeepSeek a nivel de código, no solo a través de la API.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
Alibaba abre el acceso a Qwen4-Max-Preview
Alibaba ha habilitado Qwen4-Max-Preview, una versión preliminar de la nueva Qwen 4, disponible en Qwen Chat, Agent Mode y Alibaba Token Plan.
Google lanza Gemini 4 Carbon
Google presentó el modelo de IA Gemini 4 Carbon y lo puso a disposición de una audiencia más amplia, en la práctica limitada a suscriptores de AI Ultra por 250 dólares.
Parte II. Arquitectura de agentes de IA: del modelo a la memoria y las herramientas
Inmersión profunda de ingeniería: tokenización, KV-cache, determinismo del muestreo, stack de entrenamiento, cuantización, ingeniería de contexto, stack de seguridad, RAG en producción, ReAct y sistemas swarm multiagente.
Perfil Hermes: Metodólogo de Aprendizaje y Arquitectura de Cursos
Perfil de diseño instruccional de Hermes: arquitectura curricular mediante taxonomía de Bloom, microaprendizaje, talleres prácticos y optimización de retención.