Des chercheurs du MIT montrent que GPT-6 Astra peut améliorer d’autres modèles d’IA en modifiant leurs poids
Dans une expérience, Astra a porté la précision de Qwen3.5-0.8B sur MATH-500 de 7,9 % à 48,1 % en ne modifiant que 0,016 % des poids du modèle.
Des chercheurs du MIT ont montré que GPT-6 Astra peut améliorer d’autres modèles d’IA en modifiant directement leurs poids, sans entraînement supplémentaire.
Au cours de l’expérience, Astra a augmenté la précision de Qwen3.5-0.8B sur le benchmark mathématique MATH-500 de 7,9 % à 48,1 % en ne changeant que 0,016 % des poids du réseau de neurones.
Les chercheurs ont donné à Astra accès aux poids de Qwen via un notebook Python et ont autorisé jusqu’à 50 exécutions de test sur des problèmes mathématiques.
Lors de l’analyse, Astra a découvert que le modèle répétait constamment ses propres raisonnements jusqu’à atteindre la limite de longueur de la réponse.
La cause a été identifiée dans un signal interne produit par deux couches du réseau de neurones. Astra a supprimé son effet en ajustant directement les poids du modèle.
Après cela, Qwen a cessé de boucler et a pu mener à terme la résolution de problèmes qu’elle était déjà capable de traiter.
Au total, une modification ciblée touchant seulement 0,016 % des poids a amélioré la précision sur les tâches mathématiques, passant de 7,9 % à 48,1 %.
Pourquoi c'est important
AnalyseCela suggère que des systèmes d’IA pourraient déboguer et optimiser d’autres modèles par manipulation directe des poids, réduisant le besoin de réentraînements coûteux.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs
Lié dans l'écosystème
Guides pratiques, terminologie clé et compétences d'agents
Claude devient plus intelligent
Claude devient plus intelligent, ce qui suggère de possibles améliorations des capacités du modèle.
GPT-6 Astra aurait modifié les poids d'un autre modèle d'IA sans réentraînement
GPT-6 Astra aurait modifié 0,016 % des poids de Qwen3.5-0.8B sans gradients ni réentraînement, améliorant le raisonnement, les résultats mathématiques et le suivi des instructions.
Modèles de pointe (Frontier Models)
La classe d'intelligence artificielle la plus puissante à l'avant-garde de la recherche mondiale (Claude 3.7 Sonnet, OpenAI o3/GPT-4.5, Gemini 2.0 Pro), définissant les limites actuelles des capacités de raisonnement, d'autonomie et de codage.
Partie I. Architecture des agents IA : les blocs fondamentaux
Dix blocs fondamentaux d'un agent moderne : taxonomie des modèles, boucle d'exécution (runtime), techniques de prompting, distillation, compétences (skills), mémoire, appels de fonctions et économie unitaire.