PrismML élargit la famille Bonsai 2 avec trois modèles d’IA compacts pour agents locaux
PrismML a présenté trois modèles Bonsai 2 de 2, 4 et 9 milliards de paramètres basés sur Qwen 3.5 d’Alibaba. Leurs poids se limitent à −1, 0 et +1 et les fichiers pèsent de 0,43 à 2 Go.
L’entreprise américaine d’IA PrismML a élargi la famille Bonsai 2 en dévoilant trois nouveaux modèles de 2, 4 et 9 milliards de paramètres. Tous sont fondés sur Qwen 3.5 d’Alibaba.
Les développeurs ont restreint les principaux poids des modèles de langue à trois valeurs : −1, 0 et +1. Cela a permis de réduire la taille des fichiers à 0,43 Go, 0,95 Go et 2 Go respectivement. C’est environ neuf fois moins que les modèles d’origine avec des poids 16 bits.
Les nouveaux modèles prennent toujours en charge le raisonnement, la compréhension des images et l’appel d’outils. Ils sont surtout destinés à des agents d’IA locaux fonctionnant sur smartphones, ordinateurs personnels et autres appareils.
Selon PrismML, sur un iPhone 18 Pro Max, le modèle 9B génère jusqu’à 34 jetons par seconde, tandis que la version 2B atteint 120 jetons par seconde.
Dans les tests officiels, Bonsai 2 9B est presque au niveau de Qwen 3.5 original de taille comparable pour la programmation et le respect des instructions, mais l’écart devient plus marqué sur les tâches complexes.
Dans Tau2Bench, qui évalue la capacité à mener des dialogues en plusieurs étapes et à utiliser des outils, Bonsai 2 9B a obtenu 73,02 points contre 85,25 pour Qwen 3.5 original. Dans un test d’analyse de documents complexes, les résultats étaient de 73,8 et 88,73 points respectivement.
Les poids des trois modèles ont déjà été publiés sous licence Apache 2.0.
Il faut toutefois noter que 2 Go correspond uniquement à la taille du modèle de langue 9B au format le plus compact. Pour le traitement d’images, un module visuel d’environ 0,62 Go doit être chargé en complément.
Pourquoi c'est important
AnalyseCes modèles réduisent les besoins mémoire et rendent possible l’exécution d’agents d’IA sur des appareils locaux, mais restent moins performants sur les tâches avancées.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs