Lancement de Bonsai 27B : un modèle d'IA capable de fonctionner sur smartphone
PrismML dévoile Bonsai 27B, une version ultra-compressée de Qwen3.6-27B qui réduit la taille du modèle à 3,9 Go pour une exécution locale sur mobile.
Lancement de Bonsai 27B : un modèle d'IA capable de fonctionner sur smartphone
PrismML a présenté Bonsai 27B, une variante en 1 bit et ternaire du modèle Qwen3.6-27B.
Grâce à cette représentation à faible nombre de bits, la taille du modèle original FP16 a été réduite de 54 Go à seulement 3,9 Go, soit une compression d'environ 93 % (ou 14 fois plus léger).
Versions disponibles :
Bonsai 27B 1-bit — 3,9 Go
Optimisé pour l'exécution sur smartphones, utilisant 1,125 bits effectifs par poids.
Bonsai 27B Tertiaire — 5,9 Go
Conçu pour les ordinateurs portables, utilisant 1,71 bits effectifs par poids.
La version tertiaire conserve environ 95 % des performances du modèle en pleine précision, tandis que la version 1-bit en maintient environ 90 %. Cette évaluation couvre le raisonnement, les mathématiques, la programmation, le suivi d'instructions, l'utilisation d'outils et le traitement d'images.
Les deux versions sont publiées en open source sous la licence Apache 2.0.
Grâce à des cœurs WebGPU personnalisés développés avec Fable 5 et GPT-5.6 Sol, Bonsai 27B peut s'exécuter localement directement dans le navigateur, sans envoi de données vers le cloud.
Pourquoi c'est important
AnalyseCe modèle ouvre de nouvelles perspectives pour l'intégration de l'IA sur les appareils mobiles, rendant la technologie plus accessible tout en préservant les performances malgré une réduction drastique de la taille.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs