Вышла модель Bonsai 27B, способная работать на смартфонах
Bonsai 27B — новая модель AI, которая может работать на смартфонах, сокращая размер модели до 3,9 ГБ. Она доступна в двух версиях с открытым исходным кодом.
Вышла модель Bonsai 27B, способная работать на смартфонах
PrismML представила Bonsai 27B — 1-битную и тернарную версии Qwen3.6-27B.
Благодаря низкобитному представлению размер исходной FP16-модели удалось сократить с 54 до 3,9 ГБ — примерно на 93%, или в 14 раз.
Доступны две версии:
1-bit Bonsai 27B — 3,9 ГБ
Оптимизирована для запуска на смартфонах и использует 1,125 эффективного бита на вес.
Ternary Bonsai 27B — 5,9 ГБ
Ориентирована на ноутбуки и использует 1,71 эффективного бита на вес.
Тернарная версия сохраняет около 95% производительности модели с полной точностью, а 1-битная — около 90%. Оценка охватывает рассуждения, математику, программирование, следование инструкциям, использование инструментов и работу с изображениями.
Обе версии опубликованы с открытым исходным кодом под лицензией Apache 2.0.
Благодаря кастомным WebGPU-ядрам, разработанным при помощи Fable 5 и GPT-5.6 Sol, Bonsai 27B может запускаться локально прямо в браузере — без отправки данных в облако.
Почему это важно
АналитикаЭта модель открывает новые возможности для использования AI на мобильных устройствах, делая технологии более доступными. Сокращение размера модели без потери производительности является важным шагом в развитии AI.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
JSON — структурированные данные для программ, API и AI-агентов
Полное практическое руководство по формату JSON: синтаксические правила, сериализация через parse/stringify, работа с REST API, валидация по JSON Schema и структурированный вывод для ИИ.
Форматы DOCX и XLSX: когда от ИИ требуется полноценный финальный документ
Практическое руководство по созданию и обработке документов DOCX и таблиц XLSX с помощью ИИ: сравнение с Markdown и CSV, промпт-инжиниринг, работа с формулами и автоматизация в коде.
Binance опубликовали расследование кражи $6,3 млрд
Расследование связывает кражу с заражённым Homebrew, фальшивым собеседованием и использованием внутреннего ИИ-инструмента Binance.
Пользователь Reddit объяснил почти четырёхкратный расход недельных лимитов Claude Code
Сравнение токенов за две недели показало, что эффективность использования недельного лимита Claude Code упала в 3,8 раза; вероятные причины — субагенты, рост времени рассуждений и фоновые запросы интерфейса.