PrismML amplía Bonsai 2 con tres modelos compactos de IA para agentes locales
PrismML presentó tres modelos Bonsai 2 de 2, 4 y 9 mil millones de parámetros basados en Qwen 3.5 de Alibaba. Usan pesos limitados a −1, 0 y +1 y ocupan entre 0,43 y 2 GB.
La empresa estadounidense de IA PrismML amplió la familia Bonsai 2 al presentar tres nuevos modelos con 2, 4 y 9 mil millones de parámetros. Todos están basados en Qwen 3.5 de Alibaba.
Los desarrolladores limitaron los pesos principales de los modelos de lenguaje a tres valores: −1, 0 y +1. Gracias a esto, el tamaño de los archivos se redujo a 0,43 GB, 0,95 GB y 2 GB, respectivamente. Esto es aproximadamente nueve veces menos que los modelos originales con pesos de 16 bits.
Los nuevos modelos siguen admitiendo razonamiento, comprensión de imágenes y llamada de herramientas. Están pensados principalmente para agentes de IA locales que funcionan en teléfonos inteligentes, ordenadores personales y otros dispositivos.
Según PrismML, en el iPhone 18 Pro Max el modelo 9B genera hasta 34 tokens por segundo, mientras que la versión 2B alcanza 120 tokens por segundo.
En pruebas oficiales, Bonsai 2 9B casi iguala a Qwen 3.5 original de tamaño similar en programación y seguimiento de instrucciones, aunque la diferencia es más notable en tareas complejas.
En Tau2Bench, que evalúa la capacidad de mantener diálogos de varios pasos y trabajar con herramientas, Bonsai 2 9B obtuvo 73,02 puntos frente a 85,25 de Qwen 3.5 original. En una prueba de análisis de documentos complejos, los resultados fueron 73,8 y 88,73 puntos, respectivamente.
Los pesos de los tres modelos ya se han publicado bajo la licencia Apache 2.0.
No obstante, conviene tener en cuenta que 2 GB es el tamaño únicamente del modelo de lenguaje 9B en el formato más compacto. Para procesar imágenes, será necesario cargar además un módulo visual de unos 0,62 GB.
Por qué es importante
AnálisisLos modelos reducen la memoria y permiten ejecutar IA local en dispositivos cotidianos, pero aún pierden rendimiento frente al original en tareas avanzadas.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores