Mistral presenta Le Chonk: Large 4, un modelo multimodal con 1,05T parámetros
Mistral presentó su nuevo modelo insignia Large 4, llamado internamente Le Chonk. Es un modelo multimodal MoE con 1,05 billones de parámetros, 49 mil millones activos y contexto de hasta 1 millón de tokens.
Mistral presenta Le Chonk: Large 4, un modelo multimodal con 1,05T parámetros
Mistral presentó su nuevo modelo insignia, Large 4. Dentro de la empresa lo llaman Le Chonk, una referencia al meme Le Chaton Fat, un falso modelo gigante de Mistral que se creó en redes sociales hace unos meses.
Detalles clave
- Arquitectura: MoE
- Parámetros: 1,05 billones en total, 49 mil millones activos
- Modalidades: multimodal, incluido el análisis de imágenes
- Contexto: hasta 1 millón de tokens
- Disponibilidad: a través de la API en modo
public preview
Según las pruebas propias de Mistral, Large 4 es una nueva SOTA abierta para Estados Unidos y Europa. La compañía destaca el código, la ciberseguridad y las finanzas, y afirma que el modelo supera a algunos modelos de frontera cerrados en tareas de detección de objetos en imágenes.
El modelo se entrenó desde cero durante unos dos meses en 4.000 Nvidia Grace Blackwell. Para un modelo de este tamaño, es un clúster bastante compacto.
Los pesos están previstos para publicarse el 27 de octubre.
Por qué es importante
AnálisisEste lanzamiento refuerza la competencia en el ecosistema abierto de IA y ofrece a los desarrolladores un modelo multimodal con contexto largo para tareas de código, seguridad y finanzas.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
LLM (Large Language Model - Modelo de Lenguaje Grande)
Clase fundamental de arquitecturas de redes neuronales basadas en transformadores autorregresivos, que predice la distribución probabilística de los siguientes tokens y demuestra propiedades emergentes de pensamiento abstracto, síntesis de código y razonamiento lógico.
Mistral AI (Modelos Abiertos y Eficientes de Europa)
Serie de modelos abiertos y comerciales de alto rendimiento del startup francés Mistral AI (Mistral 7B, Mixtral 8x7B, Mistral Large). Conocidos por su compacidad, velocidad y respeto por la privacidad de los datos.
Parte II. Arquitectura de agentes de IA: del modelo a la memoria y las herramientas
Inmersión profunda de ingeniería: tokenización, KV-cache, determinismo del muestreo, stack de entrenamiento, cuantización, ingeniería de contexto, stack de seguridad, RAG en producción, ReAct y sistemas swarm multiagente.
Alibaba presenta Qwen4-Max con contexto de un millón de tokens
El nuevo modelo insignia de Alibaba está orientado a programación, desarrollo de juegos y tareas de agentes, con precios más bajos que los principales competidores estadounidenses.