Lançamento do modelo Bonsai 27B: IA capaz de rodar em smartphones



A PrismML lançou o Bonsai 27B, um modelo de IA que reduz drasticamente seu tamanho para 3,9 GB, permitindo execução local em smartphones. Disponível em duas versões open-source, a tecnologia mantém alta performance com eficiência extrema.
Lançamento do modelo Bonsai 27B: IA capaz de rodar em smartphones
A PrismML apresentou o Bonsai 27B — uma versão de 1-bit e ternária do Qwen3.6-27B.
Graças à representação de baixa precisão (low-bit), o tamanho do modelo original FP16 foi reduzido de 54 GB para 3,9 GB — uma diminuição de aproximadamente 93%, ou seja, 14 vezes menor.
Versões Disponíveis:
Bonsai 27B de 1-bit — 3,9 GB
Otimizado para execução em smartphones, utiliza 1,125 bits efetivos por peso.
Bonsai 27B Ternário — 5,9 GB
Projetado para laptops, utiliza 1,71 bits efetivos por peso.
A versão ternária retém cerca de 95% do desempenho do modelo com precisão total, enquanto a versão de 1-bit mantém aproximadamente 90%. A avaliação abrange raciocínio, matemática, programação, seguimento de instruções, uso de ferramentas e processamento de imagens.
Ambas as versões são publicadas como código aberto sob a licença Apache 2.0.
Graças aos núcleos WebGPU personalizados, desenvolvidos utilizando Fable 5 e GPT-5.6 Sol, o Bonsai 27B pode ser executado localmente diretamente no navegador — sem enviar dados para a nuvem.
Por que isso importa
AnáliseEste modelo abre novas possibilidades para o uso de IA em dispositivos móveis, tornando a tecnologia mais acessível e privada. A redução do tamanho do modelo sem sacrificar significativamente o desempenho representa um passo crucial na evolução da inteligência artificial eficiente.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Pesquisadores do MIT mostram que GPT-6 Astra pode melhorar outros modelos de IA alterando seus pesos
Em um experimento, a Astra aumentou a precisão do Qwen3.5-0.8B no MATH-500 de 7,9% para 48,1% ao alterar apenas 0,016% dos pesos do modelo.
JSON — dados estruturados para aplicações, APIs e agentes de IA
Guia prático completo sobre o formato JSON: regras de sintaxe, serialização via parse/stringify, integração com REST API, JSON Schema e saída estruturada para inteligência artificial.
Formatos DOCX e XLSX: quando é necessário um documento final completo gerado por IA
Guia prático completo para geração e processamento de documentos DOCX e planilhas XLSX com IA: comparação com Markdown e CSV, engenharia de prompts, trabalho com fórmulas e automação em código.
Binance publica investigação sobre roubo de US$ 6,3 bilhões
A investigação relaciona o roubo a um Homebrew modificado, a uma entrevista falsa e ao uso de uma ferramenta interna de IA da Binance.