Lançamento do modelo Bonsai 27B: IA capaz de rodar em smartphones
A PrismML lançou o Bonsai 27B, um modelo de IA que reduz drasticamente seu tamanho para 3,9 GB, permitindo execução local em smartphones. Disponível em duas versões open-source, a tecnologia mantém alta performance com eficiência extrema.
Lançamento do modelo Bonsai 27B: IA capaz de rodar em smartphones
A PrismML apresentou o Bonsai 27B — uma versão de 1-bit e ternária do Qwen3.6-27B.
Graças à representação de baixa precisão (low-bit), o tamanho do modelo original FP16 foi reduzido de 54 GB para 3,9 GB — uma diminuição de aproximadamente 93%, ou seja, 14 vezes menor.
Versões Disponíveis:
Bonsai 27B de 1-bit — 3,9 GB
Otimizado para execução em smartphones, utiliza 1,125 bits efetivos por peso.
Bonsai 27B Ternário — 5,9 GB
Projetado para laptops, utiliza 1,71 bits efetivos por peso.
A versão ternária retém cerca de 95% do desempenho do modelo com precisão total, enquanto a versão de 1-bit mantém aproximadamente 90%. A avaliação abrange raciocínio, matemática, programação, seguimento de instruções, uso de ferramentas e processamento de imagens.
Ambas as versões são publicadas como código aberto sob a licença Apache 2.0.
Graças aos núcleos WebGPU personalizados, desenvolvidos utilizando Fable 5 e GPT-5.6 Sol, o Bonsai 27B pode ser executado localmente diretamente no navegador — sem enviar dados para a nuvem.
Por que isso importa
AnáliseEste modelo abre novas possibilidades para o uso de IA em dispositivos móveis, tornando a tecnologia mais acessível e privada. A redução do tamanho do modelo sem sacrificar significativamente o desempenho representa um passo crucial na evolução da inteligência artificial eficiente.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores