Lancement de Bonsai 27B : un modèle d'IA capable de fonctionner sur smartphone
PrismML dévoile Bonsai 27B, une version ultra-compressée de Qwen3.6-27B qui réduit la taille du modèle à 3,9 Go pour une exécution locale sur mobile.
Lancement de Bonsai 27B : un modèle d'IA capable de fonctionner sur smartphone
PrismML a présenté Bonsai 27B, une variante en 1 bit et ternaire du modèle Qwen3.6-27B.
Grâce à cette représentation à faible nombre de bits, la taille du modèle original FP16 a été réduite de 54 Go à seulement 3,9 Go, soit une compression d'environ 93 % (ou 14 fois plus léger).
Versions disponibles :
Bonsai 27B 1-bit — 3,9 Go
Optimisé pour l'exécution sur smartphones, utilisant 1,125 bits effectifs par poids.
Bonsai 27B Tertiaire — 5,9 Go
Conçu pour les ordinateurs portables, utilisant 1,71 bits effectifs par poids.
La version tertiaire conserve environ 95 % des performances du modèle en pleine précision, tandis que la version 1-bit en maintient environ 90 %. Cette évaluation couvre le raisonnement, les mathématiques, la programmation, le suivi d'instructions, l'utilisation d'outils et le traitement d'images.
Les deux versions sont publiées en open source sous la licence Apache 2.0.
Grâce à des cœurs WebGPU personnalisés développés avec Fable 5 et GPT-5.6 Sol, Bonsai 27B peut s'exécuter localement directement dans le navigateur, sans envoi de données vers le cloud.
Pourquoi c'est important
AnalyseCe modèle ouvre de nouvelles perspectives pour l'intégration de l'IA sur les appareils mobiles, rendant la technologie plus accessible tout en préservant les performances malgré une réduction drastique de la taille.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs
Lié dans l'écosystème
Guides pratiques, terminologie clé et compétences d'agents
Des chercheurs du MIT montrent que GPT-6 Astra peut améliorer d’autres modèles d’IA en modifiant leurs poids
Dans une expérience, Astra a porté la précision de Qwen3.5-0.8B sur MATH-500 de 7,9 % à 48,1 % en ne modifiant que 0,016 % des poids du modèle.
JSON — données structurées pour les applications, les API et les agents IA
Guide pratique complet du format JSON : règles de syntaxe, sérialisation via parse/stringify, intégration avec les API REST, schémas JSON et sortie structurée pour l'intelligence artificielle.
Formats DOCX et XLSX : quand un document final complet est nécessaire avec l'IA
Guide pratique complet sur la génération et le traitement de documents DOCX et de tableaux XLSX à l'aide de l'IA : comparaison avec Markdown et CSV, ingénierie des prompts, gestion des formules et automatisation dans le code.
Binance publie une enquête sur le vol de 6,3 milliards de dollars
L’enquête relie le vol à un Homebrew modifié, à un entretien d’embauche falsifié et à l’abus d’un outil d’IA interne de Binance.