GLM-5.2 теперь доступна для локального запуска
GLM-5.2 теперь доступна для локального запуска
Unsloth представила впечатляющие 2-битные и 4-битные модели GGUF, которые сохраняют высокую точность при значительном снижении потребления памяти.
Unsloth создали замечательные 2-битные и 4-битные модели GGUF. 2-битная модель сохраняет около 82% точности и при этом снижает потребление памяти на 84%. Запускается на 256GB Mac.
Можно использовать даже 1-бит, и всё равно будет хорошо. На простом примере в сравнении с Claude 4.8 Opus и GPT-5.5 модель демонстрирует впечатляющие результаты ⬆️
Почему это важно
АналитикаЭти новые модели позволяют разработчикам запускать мощные AI-решения на локальных машинах с ограниченными ресурсами, открывая новые возможности для применения искусственного интеллекта.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Часть I. Архитектура ИИ-агентов: фундаментальные блоки
Одиннадцать фундаментальных строительных блоков современного ИИ-агента: таксономия моделей, агентный рантайм, техники промптинга, дистилляция, архитектура навыков (skills), память, function calling и FinOps.
Часть II. Архитектура ИИ-агентов: от модели до памяти и инструментов
Глубокое инженерное погружение: токенизация, KV-кэш, детерминизм сэмплинга, тренировочный стек, квантование, контекстная инженерия, стек безопасности, производственный RAG, ReAct и мультиагентные swarm-системы.
Фронтирные Модели (Frontier Models)
Самый мощный класс искусственного интеллекта на переднем крае мировых исследований (Claude 3.7 Sonnet, OpenAI o3/GPT-4.5, Gemini 2.0 Pro), определяющий границы современных возможностей рассуждения, автономности и кодирования.
LLM (Large Language Model - Большая языковая модель)
Фундаментальный класс нейросетевых архитектур на основе авторегрессионного трансформера, который предполагает вероятностное распределение следующих токенов и демонстрирует эмергентные свойства абстрактного мышления, синтеза кода и логического вывода.