Ентузіасти продовжують боротьбу з програмними обмеженнями виробників відеокарт. Нещодавно, моддерам вдалося знайти способи обійти штучні ліміти обчислювальної потужності, встановлені компанією NVIDIA для багатьох поколінь графічних процесорів GeForce. Те, що починалося як експерименти з картою RTX 3090, переросло у повноцінне «розблокування» моделей RTX 40-ї та навіть легендарної RTX 2080 Ti.
Швидкість для ШІ, але не для геймінгу
Головна особливість цих модифікацій полягає в тому, що вони впливають на специфічні типи операцій (FP16, BF16, TF32 та FP8), які є критично важливими для завдань штучного інтелекту. Зокрема, це стосується матричного множення — фундаментальної операції для роботи нейромереж.
Результати тестування виглядають вражаюче:
RTX 3090 Ti: продуктивність у матричному множенні BF16 зросла з 87.5 до рекордних 157.4 TFLOPS.
RTX 4090: продемонструвала майже двократне збільшення пропускної здатності тензорних ядер (FP16).
⤢ ВІДКРИТИЦе відкриває нові можливості для обробки запитів у великих мовних моделях (LLM) та прискорює генерацію зображень. Проте важливо розуміти: ігровій продуктивності ці модифікації не додають — у грі ви не побачите жодних переваг.
Чому ШІ працює не так швидко, як очікувалося?
Попри значний приріст «сирої» потужності чипа, реальний ефект залежить від софту. Наприклад, у випадку з RTX 3090 прискорення обробки промптів (запитів) у LLM становить від 14% до 36%. Проте швидкість безпосередньо генерації токенів залишається майже незмінною. Причина криється в «вузькому місці»: для генерації тексту головним стримуючим фактором є пропускна здатність відеопам'яті, а не обчислювальна потужність самого ядра.
⤢ ВІДКРИТИРезультати тестування проєкту KohakUnlock демонструють значний приріст обчислювальної потужності тензорних ядер після зняття програмних обмежень. Для RTX 2080 Ti прискорення у матричних операціях (FP16 в FP32) сягнуло +85.3%, а для RTX 3090 при використанні PyTorch GEMM — +68.1%.
Вплив на ринок та запити спільноти
Ця ситуація викликала бурхливі дискусії серед користувачів. Деякі власники старих відеокарт вже закликає NVIDIA офіційно зняти програмні обмеження для моделей, які вже не випускаються. І це логічно, бо дозволило б власникам старого обладнання ефективніше використовувати його для розробки та запуску нейромереж.
Крім того, такі «хаки» можуть змінити динаміку ринку вживаної техніки: відеокарти минулих поколінь з розблокованими можливостями можуть стати набагато привабливішими для AI-ентузіастів, ніж передбачало NVIDIA.
Джерело: RTX 30 Unlock, RTX 40 Unlock, RTX 20 Unlock
