Mistral lança Le Chonk: Large 4, um modelo multimodal com 1,05 biliões de parâmetros
A Mistral apresentou o seu novo modelo principal, Large 4, apelidado internamente de 'Le Chonk'. Este modelo MoE multimodal possui 1,05 biliões de parâmetros totais, suporta contextos de até 1 milhão de tokens e está disponível em pré-visualização pública.
Mistral lança Le Chonk: Large 4, um modelo multimodal com 1,05 biliões de parâmetros
A Mistral introduziu o seu novo modelo principal, Large 4. Internamente, a empresa reporta que o chama de "Le Chonk", uma referência ao meme "Le Chaton Fat", um suposto modelo gigante da Mistral que circulou nas redes sociais meses atrás.
Detalhes principais
- Arquitetura: MoE (Mixture of Experts)
- Parâmetros: 1,05 biliões no total, 49 biliões ativos
- Modalidades: Multimodal, incluindo análise de imagens
- Contexto: Até 1 milhão de tokens
- Disponibilidade: Através da API em
public preview(pré-visualização pública)
De acordo com os testes internos da Mistral, o Large 4 é um novo modelo aberto SOTA (State-of-the-Art) para os EUA e Europa. A empresa destaca as capacidades em programação, cibersegurança e finanças, afirmando que o modelo supera alguns modelos fechados de fronteira em tarefas de deteção de objetos em imagens.
O modelo foi treinado do zero durante aproximadamente dois meses em 4.000 unidades Nvidia Grace Blackwell. Para um modelo deste tamanho, trata-se de um cluster relativamente compacto.
Está prometida a libertação dos pesos do modelo para 27 de outubro.
Por que isso importa
AnáliseEste lançamento reforça a concorrência no mercado de IA de pesos abertos, oferecendo aos developers um modelo multimodal de longo contexto ideal para cargas de trabalho em programação, segurança e finanças.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
LLM (Large Language Model - Modelo de Linguagem Grande)
Classe fundamental de arquiteturas de redes neurais baseada em transformadores autorregressivos, que prevê a distribuição probabilística dos próximos tokens e demonstra propriedades emergentes de pensamento abstrato, síntese de código e raciocínio lógico.
Mistral AI (Modelos abertos e eficientes da Europa)
Uma série de modelos comerciais e de código aberto de alta eficiência desenvolvidos pela startup francesa Mistral AI (Mistral 7B, Mixtral 8x7B, Mistral Large). Reconhecidos pela sua compactação, velocidade e respeito à privacidade dos dados.
Parte II. Arquitetura de Agentes de IA: do Modelo à Memória e Ferramentas
Imersão profunda em engenharia: tokenização, cache KV, determinismo de amostragem, stack de treinamento, quantização, engenharia de contexto, stack de segurança, RAG em produção, ReAct e sistemas swarm multiagente.
OpenAI lança GPT 6.2 Astra e Sol
A OpenAI apresentou o GPT 6.2 Astra e o Sol; a Astra lidera testes de agentes e oferece preços mais competitivos.