Lanzamiento del modelo Bonsai 27B capaz de funcionar en smartphones



Bonsai 27B es un nuevo modelo de IA que puede funcionar en smartphones, reduciendo el tamaño del modelo a 3,9 GB. Está disponible en dos versiones de código abierto.
Lanzamiento del modelo Bonsai 27B capaz de funcionar en smartphones
PrismML ha presentado Bonsai 27B — una versión de 1 bit y ternaria de Qwen3.6-27B.
Gracias a la representación de bajo bit, el tamaño del modelo original FP16 se ha reducido de 54 GB a 3,9 GB — aproximadamente un 93%, o 14 veces más pequeño.
Versiones disponibles:
1-bit Bonsai 27B — 3,9 GB
Optimizada para funcionar en smartphones y utiliza 1,125 bits efectivos por peso.
Ternary Bonsai 27B — 5,9 GB
Diseñada para laptops y utiliza 1,71 bits efectivos por peso.
La versión ternaria conserva alrededor del 95% del rendimiento del modelo con precisión completa, mientras que la versión de 1 bit conserva alrededor del 90%. La evaluación abarca razonamiento, matemáticas, programación, seguimiento de instrucciones, uso de herramientas y trabajo con imágenes.
Ambas versiones se publican como código abierto bajo la licencia Apache 2.0.
Gracias a los núcleos WebGPU personalizados desarrollados utilizando Fable 5 y GPT-5.6 Sol, Bonsai 27B puede ejecutarse localmente directamente en el navegador — sin enviar datos a la nube.
Por qué es importante
AnálisisEste modelo abre nuevas posibilidades para el uso de IA en dispositivos móviles, haciendo que la tecnología sea más accesible. La reducción del tamaño del modelo sin sacrificar el rendimiento es un paso importante en el desarrollo de la IA.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
Investigadores del MIT muestran que GPT-6 Astra puede mejorar otros modelos de IA cambiando sus pesos
En un experimento, Astra elevó la precisión de Qwen3.5-0.8B en MATH-500 del 7,9% al 48,1% cambiando solo el 0,016% de los pesos del modelo.
JSON — Datos estructurados para programas, APIs y agentes de IA
Guía práctica y completa sobre JSON: especificación de sintaxis, serialización con parse y stringify, consumo de APIs REST, validación con JSON Schema y salidas estructuradas para LLMs.
Formatos DOCX y XLSX: cuándo se necesita un documento final completo de la IA
Guía práctica y completa sobre la generación y procesamiento de documentos DOCX y libros XLSX con IA: comparativa con Markdown y CSV, ingeniería de prompts, fórmulas y automatización en código.
Binance publica una investigación sobre el robo de $6,300 millones
La investigación vincula el robo con una versión modificada de Homebrew, una entrevista falsa y el uso de una herramienta interna de IA de Binance.