Thinking Machines publica os pesos do modelo Inkling 2 Small
Thinking Machines publica os pesos do modelo Inkling 2 Small
Inkling 2 Small é um modelo MoE com 594 bilhões de parâmetros e 17 bilhões ativos; o pré-treinamento levou 68 horas com 12 trilhões de tokens.
Thinking Machines publica os pesos do modelo Inkling 2 Small
Inkling 2 Small é um modelo Mixture-of-Experts (MoE) com 594 bilhões de parâmetros totais e 17 bilhões de parâmetros ativos. Segundo o anúncio, o pré-treinamento foi concluído em apenas 68 horas, usando 12 trilhões de tokens. O aprendizado por reforço (RL) levou mais 9 dias em um cluster com 2.048 GPUs.
O modelo é descrito como competitivo em relação a modelos chineses de dois a três meses atrás. Para executá-lo, são necessárias duas GPUs B300 ou quatro GPUs H200. Uma versão maior é aguardada.
Por que isso importa
AnáliseO lançamento mostra que grandes modelos MoE com pesos abertos podem chegar rapidamente ao ecossistema, mas a execução ainda exige infraestrutura GPU de alto desempenho.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Mistral AI (Modelos abertos e eficientes da Europa)
Uma série de modelos comerciais e de código aberto de alta eficiência desenvolvidos pela startup francesa Mistral AI (Mistral 7B, Mixtral 8x7B, Mistral Large). Reconhecidos pela sua compactação, velocidade e respeito à privacidade dos dados.
Parte II. Arquitetura de Agentes de IA: do Modelo à Memória e Ferramentas
Imersão profunda em engenharia: tokenização, cache KV, determinismo de amostragem, stack de treinamento, quantização, engenharia de contexto, stack de segurança, RAG em produção, ReAct e sistemas swarm multiagente.
Guia de prompts para modelos generativos GPT Image
Os modelos de geração de imagens gpt-image da OpenAI foram criados para obter visuais de qualidade de produção e processos criativos totalmente controláveis. São adequados tanto para design profissional...
DeepSeek-R1 (Modelo de Raciocínio DeepSeek)
Modelo de raciocínio de pesos abertos (Open Weights Reasoning Model) revolucionário, baseado na arquitetura MoE de 671B parâmetros, que demonstrou a capacidade de desenvolver raciocínio lógico complexo por meio de aprendizado puro por reforço (GRPO).