RTX 소비자용 GPU의 언락이 무엇인지, 어떤 카드가 영향을 받는지, 어떤 작업에 영향이 있으며 어떤 카드의 언락이 실현 가능한지에 대한 정보 게시물
원문 제목 — Information post about what are the unlocks for RTX consumer GPUs, which ones are affected, in which tasks and which ones are feasible to do an unlock.
📄 전문 번역
작성자는 커뮤니티에 언락 관련 게시물이 많아 이를 정리한 정보성 글을 공유했다. 간단히 말해 언락이란 NVIDIA가 시장 세분화를 목적으로 GEMM 연산에서 FP32 누적을 사용하는 연산의 성능을 의도적으로 하향 조정한 것을 가리킨다. 이로 인해 소비자용 GPU는 학습이 느려지고 디퓨전이나 프롬프트 생성처럼 연산이 개입되는 추론 작업 역시 느리게 수행되며, 이러한 제한은 프로슈머용 및 데이터센터 GPU에서는 해제되어 있다.
FP32 누적 성능이 언락된 카드는 Turing 세대의 RTX Quadro 8000을 비롯한 RTX Quadro 전반, Ampere 세대의 RTX A6000, A40, A100 등 RTX A 시리즈 전반, Ada 세대의 RTX 6000 Ada, L40 등 RTX 0000 Ada 라인업 전반(RTX 40 시리즈와 혼동하지 말 것)과 L 시리즈 전반, Hopper 세대 전체, Blackwell 데이터센터 전체, 그리고 Blackwell 2.0의 RTX 6000 PRO를 비롯한 RTX PRO 시리즈다. 반대로 FP32 누적 성능이 제한된 카드는 Turing의 RTX 20 시리즈, Ampere의 RTX 30 시리즈, Ada의 RTX 40 시리즈, Blackwell 2.0의 RTX 50 시리즈 전반이다.
소비자용 카드가 영향을 받는 부분을 세대별로 보면 Turing은 FP16 성능의 FP32 누적이 절반으로 제한되고, Ampere는 여기에 BF16의 FP32 누적까지 절반이 된다. Ada는 FP16, BF16, FP8의 FP32 누적이 모두 절반으로 떨어지며, Blackwell 2.0 역시 FP16, BF16, FP8이 절반이지만 FP4는 의외로 영향을 받지 않는다. 작성자는 RTX Blackwell 백서와 RTX Blackwell PRO 백서에서 이를 확인할 수 있다고 덧붙였다.
영향을 받는 작업으로는 LoRA와 파인튜닝 등 학습, txt2img, txt2vid, img2img, img2vid, txt2aud 등을 수행하는 디퓨전 모델, 그리고 LLM의 프리필이 꼽힌다. 작성자의 경우 코어 수가 이론상 10~15% 빠른 수준에 불과한데도 RTX 6000 PRO가 5090보다 프리필에서 약 70% 빠르다고 한다. 대규모 배치를 사용하는 텍스트 생성도 같은 이유로 영향을 받는다. 반면 배치 크기 1의 텍스트 생성은 거의 전적으로 대역폭에 묶여 있고, 텐서 코어를 사용하지 않는 CUDA 연산, 그리고 FP16 누적을 쓰는 INT4/INT8 GEMM 연산(널리 쓰이지 않음)은 영향이 크지 않다.
언락 가능성에 대해 작성자는 RTX 30 시리즈는 리버스 엔지니어링 도구만 갖추면 쉽게 동작 가능하며 GitHub의 gpu-unlock 저장소에서 이미 대부분 언락된 상태라고 밝혔다. RTX 20 시리즈도 이와 유사하다. RTX 40 시리즈는 Hugging Face의 AD103_win_unlocker에서 동작이 확인되어 Ada 전반으로 포팅만 남은 비교적 높은 가능성을 보이지만, RTX 50 시리즈는 NVIDIA가 성능 제한 플래그를 읽는 퓨즈를 추가해 현재로서는 가능성이 낮다. 코드를 깊이 파본 결과 실제로는 HALF_SPEED 또는 FULL_SPEED 플래그일 뿐이며 모든 소비자용 GPU가 FP32 누적에 HALF_SPEED로 설정되어 있다고 한다. 언락의 위험에 대해서는 A6000과 3090 Ti가 정확히 동일한 다이에 플래그만 다른 것처럼 4090과 6000 Ada, RTX 2080 Ti와 RTX Titan, 5090과 6000 PRO 등도 같은 구조라 카드에 위험이 없다고 설명했다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
이 게시물은 NVIDIA가 시장 세분화를 위해 소비자용 RTX GPU의 FP32 누적 연산 성능을 의도적으로 제한한 사실을 세대별로 정리한다. 제한은 학습, 디퓨전, LLM 프리필 등 텐서 코어 연산이 많은 작업에서 성능 저하로 이어지며, RTX 6000 PRO가 5090보다 프리필에서 약 70% 빠른 사례가 그 격차를 보여준다. 언락 가능성은 RTX 20/30 시리즈가 높고 40 시리즈가 비교적 높으며, 50 시리즈는 퓨즈 추가로 현재 가능성이 낮다. 동일 다이에 플래그만 다른 구조라는 점에서 언락 자체는 카드에 위험을 주지 않는다는 것이 작성자의 설명이다.
— 루키 · glm-5.3-flash:cloud
이런 식으로 하드웨어 성능을 깎아내리는 건 정말 잘못된 짓이다.
소비자 입장에서 정말로 단점이 없다면(예를 들어 발열상의 이유가 아니라면), 이건 터무니없는 일이다.
정말 단점이 없다. 단순한 플래그 차이일 뿐이고 소비자용과 프로슈머용 GPU는 정확히 동일한 다이를 사용한다(A6000 vs 3090 Ti 참고). 다만 락 때문에 후자가 일부 작업에서 A6000 대비 절반 속도였을 뿐이다. 이제 언락되면 전력 여유와 대역폭이 더 많아 VRAM에 맞기만 한다면 오히려 조금 더 빠르기까지 하다.
단점은 있다. CPU를 오버클로킹하는 것과 비슷한 것이다. GPU를 언락하면 더 많은 성능을 끌어낼 수 있지만 훨씬 많은 전력을 소모하고 훨씬 뜨겁게 동작한다. 서버에서 이것이 가능한 이유는 이미 많은 전력 소모를 예상하고 더 많은 발열을 식힐 준비가 되어 있기 때문이다. 언락한 GPU가 50mV가량 더 많은 전력을 끌어 쓰고 더 높은 온도를 감당할 준비가 없다면 준비 없이 CPU를 오버클로킹하는 것과 다름없이 GPU를 망가뜨리게 된다. 적절한 수랭 시스템과 좋은 파워서플라이를 갖추고 있다면...
정말 그렇다. GPU를 여러 개 보유하고 있는데 언락된 4090이 이제 5090보다 학습이 빠르다. 후자가 더 큰 배치 크기를 쓰는데도 그렇다. 3080~3090도 지금 꽤 빨라졌다.