GPU 가이드 (달러당 GB, 대역폭)
원문 제목 — GPU guide (GB per dollar, bandwidth)
📄 전문 번역
첫 번째 그래프는 달러당 GB, 두 번째 그래프는 대역폭(t/s가 아닌 스펙상 수치)을 보여준다. 세 번째 그래프(대역폭 대 가격)는 댓글에 있다.
도움이 되길 바란다. 스크립트는 LocalLLaMA, LowEndLocalAI, LocalLLM 서브레딧에서 가장 많이 논의된 GPU를 사용했다. 처음에는 더 많은 GPU를 포함하려 했지만 알아볼 수 없게 되어 줄였다.
가격은 ChatGPT로 수집했기 때문에 부정확할 수 있다. 가능한 곳은 새 제품 가격을, 그렇지 않은 곳은 중고 가격을 사용했다.
기본적인 비교라는 점은 알고 있지만 없는 것보다는 낫다. 예컨대 스펙상으로 어떤 GPU가 3090보다 빠른지 느린지 확인할 수 있다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
로컬 LLM 커뮤니티에서 자주 논의되는 GPU를 대상으로 달러당 용량과 대역폭을 비교한 그래프가 공유되었다. 가격은 ChatGPT로 수집해 부정확할 수 있으며 새 제품 가격이 없으면 중고 가격을 사용했다고 밝혔다. 댓글에서는 Intel B65가 개당 900달러에 32GB와 608 GB/s를 갖춰 현재 GB당 가성비가 가장 좋다는 의견이 제시되었고, 유럽에서는 약 1500유로에 판매된다는 지적과 함께 B70이 스펙은 더 좋다는 답변이 이어졌다.
— 루키 · glm-5.3-flash:cloud
Intel B65를 빠뜨렸다! 3주 전에 개당 900달러에 여러 장 샀다. 32GB에 608 GB/s다. 지금 GB당 가격이 가장 좋다. B65: 0.0356 GB/달러,
Intel B65 개당 900달러라니, 우리 쪽에서는 약 1500유로다. 우리만 손해 보는 셈이지?
이 물량이 소진되면 이제 1099~1199달러가 될 것으로 보인다. 여전히 나은 가성비 중 하나지만 오래 '싸지'는 않을 것이다! 4장의 B65로 진행 중인 3주짜리 벤치마크/품질 테스트를 마치고 사람들이 실제 결과를 보면 가격이 뛸 것 같다... 마지막으로 확인했을 때 관련 데이터가 거의 없었다... 이번 주에 테스트를 마치길 희망한다.
B65가 B70보다 추론에 더 낫다고 보는가?
B70이 스펙이 더 좋다.