Pesquisadores do MIT mostram que GPT-6 Astra pode melhorar outros modelos de IA alterando seus pesos
Em um experimento, a Astra aumentou a precisão do Qwen3.5-0.8B no MATH-500 de 7,9% para 48,1% ao alterar apenas 0,016% dos pesos do modelo.
Pesquisadores do MIT mostraram que a GPT-6 Astra pode melhorar outros modelos de IA ao modificar diretamente seus pesos, sem treinamento adicional.
No experimento, a Astra aumentou a precisão do Qwen3.5-0.8B no benchmark matemático MATH-500 de 7,9% para 48,1%, alterando apenas 0,016% dos pesos da rede neural.
Os pesquisadores deram à Astra acesso aos pesos do Qwen por meio de um notebook de Python e permitiram até 50 execuções de teste em problemas matemáticos.
Durante a análise, a Astra descobriu que o modelo repetia constantemente suas próprias cadeias de raciocínio até atingir o limite de comprimento da resposta.
A causa foi encontrada em um sinal interno formado por duas camadas da rede neural. A Astra eliminou seu efeito ajustando diretamente os pesos do modelo.
Depois disso, o Qwen parou de ficar preso em loops e conseguiu concluir a resolução de problemas que já era capaz de abordar.
Como resultado, uma alteração pontual que afetou apenas 0,016% dos pesos aumentou a precisão em problemas matemáticos de 7,9% para 48,1%.
Por que isso importa
AnáliseIsso sugere que sistemas de IA podem depurar e otimizar outros modelos por meio da manipulação direta de pesos, reduzindo a necessidade de retreinar modelos completos.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Claude fica mais inteligente
Claude fica mais inteligente, indicando possíveis melhorias nas capacidades do modelo.
GPT-6 Astra teria alterado pesos de outro modelo de IA sem re-treinamento
A GPT-6 Astra teria alterado apenas 0,016% dos pesos do Qwen3.5-0.8B sem gradientes ou re-treinamento, melhorando raciocínio, matemática e seguimento de instruções.
Modelos de Fronteira
A classe mais poderosa de inteligência artificial na vanguarda da pesquisa global (Claude 3.7 Sonnet, OpenAI o3/GPT-4.5, Gemini 2.0 Pro), que define os limites atuais das capacidades de raciocínio, autonomia e codificação.
Parte I. Arquitetura de Agentes de IA: Blocos Fundamentais
Dez blocos fundamentais de um agente moderno: taxonomia de modelos, loop de runtime, técnicas de prompting, destilação, habilidades (skills), memória, function calling e economia por unidade.