
Открываем твой цифровой клуб…
Технологии и ИИ
Похоже, видеокарты GeForce RTX прошлых поколений могут подорожать на вторичном рынке, поскольку усилиями энтузиастов они неожиданно стали заметно мощнее в задачах искусственного интеллекта.
Ребята нашли способ обойти определённые ограничения Nvidia, что позволяет существенно увеличить вычислительную мощность ядер Tensor Core. При этом не требует никаких аппаратных модификаций и даже не требует прошивки BIOS.
Локальная реализация проекта GPU-Unlock разработчика Zagitta работает путём изменения низкоуровневых регистров конфигурации графического процессора до старта графического драйвера. Это снимает часть ограничений на скорость исполнения инструкций Tensor Core; изменения временные и сбрасываются после отключения питания, однако авторы называют это особенностью, а не препятствием.
Достоверный прирост виден на практике: например, RTX 3090 Ti показала рост производительности матричного умножения BF16 с 87,5 TFLOPS до 157,4 TFLOPS, что примерно вдвое выше показателя. Аналогичные результаты зафиксированы и на протестированных картах линейок RTX 20 и RTX 40.
В изменения в первую очередь задействованы операции FP16 и BF16 с накоплением FP32, а также некоторые рабочие нагрузки TF32 и FP8 на поддерживаемых архитектурах. При этом модификация не увеличивает объём памяти или пропускную способность, зато может ускорить ИИ-задачи, связанные с матричным умножением, включая обработку подсказок LLM и часть задач по генерации изображений.
Однако прирост зависит от характера задачи: в случае обработки запросов для LLM он уже не двукратный, а в диапазоне 14–36%, что всё равно существенно; генерация токенов растутитно незначительно, а влияние на игровые показатели отсутствует.