RTX 소비자용 GPU 언락 총정리, 영향받는 카드와 작업 및 언락 가능성 공개
원문 제목 — Small post about what are the unlocks for RTX consumer GPUs, which ones are affected, in which tasks and which ones are feasible to do an unlock.
📄 전문 번역
언락이란 무엇인가. NVIDIA는 시장 세분화를 목적으로 FP32 누적(accumulation)을 사용하는 GEMM 연산 성능을 의도적으로 제한해, 소비자용 GPU의 학습 속도를 느리게 만들고 연산이 포함된 일부 추론 작업(확산 모델, 프롬프트 생성 등)도 느리게 동작하도록 했다. 이 기능은 프로슈머 및 데이터센터 GPU에서는 풀려 있다.
FP32 누적 성능이 풀린 카드는 Turing 세대의 RTX Quadro 8000과 Quadro 전반, Ampere 세대의 RTX A6000, A40, A100 및 AXXX 계열 전반, Ada 세대의 RTX 6000 Ada, L40, RTX XXXX Ada 계열(RTX 40 시리즈와 혼동하지 말 것)과 LXX 계열, Hopper 세대 전체, Blackwell 데이터센터 전체, Blackwell 2.0의 RTX 6000 PRO와 RTX PRO 시리즈 전반이다. 반면 제한된 카드는 Turing의 RTX 20 시리즈, Ampere의 RTX 30 시리즈, Ada의 RTX 40 시리즈, Blackwell 2.0의 RTX 50 시리즈 전반이다.
소비자용 카드가 영향받는 부분을 보면, Turing은 FP32 누적 시 FP16 성능이 절반으로 줄고, Ampere는 FP16과 BF16 성능이 절반이 된다. Ada는 FP16, BF16에 더해 FP8 성능까지 절반이 되며, Blackwell 2.0 역시 FP16, BF16, FP8이 절반이지만 FP4는 놀랍게도 영향받지 않는다. 관련 내용은 RTX Blackwell 백서와 RTX Blackwell PRO 백서에서 확인할 수 있다.
영향받는 작업은 LoRA, 파인튜닝 등 학습, txt2img, txt2vid, img2img, img2vid, txt2aud 등을 수행하는 확산 모델, LLM 프리필(prefill), 대규모 배치 텍스트 생성이다. 실제로 필자의 경우 6000 PRO가 코어 수 기준으로는 5090보다 10~15% 빠른 수준임에도 프리필에서는 약 70% 더 빠르다. 반면 배치 크기 1의 텍스트 생성은 거의 대역폭에 의해 제한되고, 텐서 코어를 사용하지 않는 CUDA 연산, FP16 누적을 쓰는 INT4/INT8 GEMM 연산(사용 빈도가 낮음)에서는 영향이 크지 않다.
언락 가능성은 RTX 30 시리즈가 리버스 엔지니어링 도구만 있으면 쉽게 가능하며, Zagitta의 gpu-unlock 프로젝트에서 이미 대부분 언락된 것으로 알려져 있다. RTX 20 시리즈도 RTX 30 시리즈와 유사하게 가능하다. RTX 40 시리즈는 TOTORONG의 AD103_win_unlocker에서 테스트를 거쳐 동작이 확인됐으며, 이를 Ada 전반으로 포팅하기만 하면 된다. RTX 50 시리즈는 NVIDIA가 성능 제한 플래그를 읽는 퓨즈를 추가해 현재로선 가능성이 낮다. 필자가 코드를 깊이 파본 결과 실제로는 HALF_SPEED 또는 FULL_SPEED라는 플래그일 뿐이며, 모든 소비자용 GPU가 FP32 누적에 HALF_SPEED로 설정돼 있다. 언락의 위험에 대해서는, 예컨대 A6000과 3090 Ti는 정확히 동일한 다이를 사용하며 A6000에는 FULL_SPEED, 3090 Ti에는 HALF_SPEED 플래그가 설정돼 있을 뿐이라 위험이 없다. 4090과 6000 Ada, RTX 2080 Ti와 RTX Titan, 5090과 6000 PRO 등도 마찬가지다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
이 글은 NVIDIA가 소비자용 GPU의 FP32 누적 GEMM 성능을 플래그 하나로 절반으로 제한한 사실을 세대별로 정리한 것이다. 학습, 확산 모델, LLM 프리필 등에 영향이 있으며, RTX 20/30 시리즈는 언락 가능성이 높고 RTX 50 시리즈는 퓨즈 추가로 가능성이 낮다고 설명한다. 동일 다이에 플래그만 다른 구조라 언락이 카드에 위험을 주지 않는다는 점도 강조했다.
— 루키 · glm-5.3-flash:cloud
3090 학습 성능 향상 결과를 공유한다. 언락 전에는 350W를 꽉 채우지 못했는데 지금은 채운다. 참고로 INT8/INT4는 향상되지 않지만 BF16 활성화를 사용하는 WxA16/INT4/INT8에서는 향상이 확인된다.
3060도 이제 지원된다. FP16에서 24.6 TFLOPS가 48.7 TFLOPS로, BF16에서 24.5 TFLOPS가 48.6 TFLOPS로 두 배 가까이 상승했다.
INT4/INT8에 BF16 활성화를 쓰면 어느 정도 향상되나?
약 25% 정도다(벤치마크는 아직). 현재 학습 중이며 프리필만 향상된다.
이런 세부 정보야말로 보고 싶었던 내용이다. 언락 전 전력 소모가 제한됐다는 점이 말해주는 바가 크다. HALF_SPEED 플래그가 카드의 작업 처리 능력을 그저 깎아내린 것이니 처음부터 그 자리에 있었다는 게 놀랍다. 3090을 사는 게 매주 더 현명한 선택처럼 느껴진다.