В опенсорсе нашли способ почти вдвое увеличить вычислительную мощность RTX 3090
Проект gpu-unlock обходит программное ограничение Nvidia на тензорных ядрах GeForce 30-й серии, почти удваивает пропускную способность FP16/BF16 и ускоряет префилл LLM без патча драйвера.
В опенсорсе нашли способ почти вдвое увеличить вычислительную мощность RTX 3090
Проект gpu-unlock за пару дней набрал уже более 5 тысяч звезд на GitHub.
Разбираемся.
У видеокарт GeForce 30-й серии (к ним относятся RTX 3080, 3090, 3090 Ti и тд) тензорные ядра умеют перемножать матрицы в FP16 и BF16 с накоплением результата в FP32. Именно через эту операцию обучают и запускают нейросети. Однако, поскольку это игровые GPU, Nvidia специально программно ограничила скорость этой операции на них вдвое. Классическая сегментация рынка, хочешь делать ML – плати за ML-видеокарту, а не за игровую.
Ограничение сделано как делитель скорости выдачи инструкций, и его значение лежит в регистрах, в которые обычно писать нельзя. То есть обойти эту штуку напрямую невозможно. Но автор этой репы нашел, как это сломать.
Автор взял технику, которую раньше придумали для разблокировки аналогичных ограничений майнинговых карт CMP 170HX, и оформил ее как модуль ядра Linux. Он срабатывает при загрузке, до старта драйвера NVIDIA, прописывает полную скорость и только потом отдает карту стоковому драйверу. Главное, что модуль работает именно до драйвера, поэтому не нужно патчить драйвер при каждом обновлении и/или перепрошивать BIOS.
Цифры из репозитория для 3090 Ti (GEMM 8192, 450 Вт):
- BF16 87,5 → 157,4 TFLOPS
- FP16 87,5 → 118,4 TFLOPS
- TF32 42,6 → 82,6 TFLOPS
На реальных задачах прирост немножко скромнее, но он есть. Префилл LLM ускоряется примерно на 14–36%. Результаты вычислений при этом побитово совпадают с прежними.
Оригинальный репозиторий только для Linux, но уже есть сторонние порты для Windows, вот например.
Инструкция по установке есть в репо. Повышаем пенсионный возраст своей 3090.
Почему это важно
АналитикаПоказывает, что сегментацию вендора можно обходить на уровне ядра Linux, повышая ML-производительность игровых GPU, но такие модули могут нести риски совместимости и стабильности.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
ИИ помогает повысить пропускную способность видеокарт Nvidia RTX 3000 и 4000
На GitHub появились проекты gpu-unlock и gpu-unlock-ada, которые заявляют о повышении пропускной способности видеокарт Nvidia серий RTX 3000 и 4000.
10 GitHub-репозиториев, которые помогут стать AI-инженером за 90 дней
Стать AI-инженером сегодня – это не только о моделях и промптах. Большая часть реальной работы строится вокруг агентов, RAG-систем, оркестрации (orchestration), векторных баз данных (vector databases) и AI-инфраструктуры.
Подборка GitHub репозиториев для SEO и поиска по ключам
8 проверенных open-source репозиториев на GitHub для сбора семантики, технического аудита сайтов и Generative Engine Optimization (GEO).
Монополия Nvidia и платформа CUDA
Анализ технологического и экономического доминирования корпорации Nvidia на рынке искусственного интеллекта. Как созданная в 2006 году программная платформа CUDA (Compute Unified Device Architecture) превратила обычные игровые видеокарты в главный вычислительный инструмент планеты и почему конкурентам (AMD, Intel) так трудно разрушить эту монополию.
TensorRT-LLM & SGLang Высокоскоростные Двигатели
Глубоко компилируемые вычислительные движки для экстремальной оптимизации инференса языковых моделей на серверах NVIDIA с оптимизацией графов, FlashAttention-3 и расширенной маршрутизацией.
На GitHub появился открытый проект с 74 скиллами для разработки игр
На GitHub появился open-source проект awesome-gamedev-agent-skills, который объединяет 74 скилла для разработки игр на Unity, Godot, Unreal Engine и других движках. Набор поддерживает Claude Code и Codex и умеет автоматически подбирать скиллы под задачу.