내 머신에서 돌릴 수 있는 최고의 AI 모델을 보여주는 오픈소스 리더보드 'whatmodel.sh' 공개
원문 제목 — I made an open-source AI leaderboard that shows the best models your machine can run
📄 전문 번역
개발자가 자신의 머신 사양에 맞는 최고 AI 모델을 보여주는 오픈소스 리더보드 whatmodel.sh를 공개했다. RAM과 GPU를 입력하면 로컬에서 실행할 수 있는 모델을 순위 및 실행 명령어와 함께 확인할 수 있고, 같은 점수 기준으로 API 모델과도 비교할 수 있다.
제작 과정에서 32GB 맥이 이제 GPT-5에 필적하는 점수의 모델을 완전히 로컬에서 무료로 실행할 수 있다는 사실을 알게 됐다고 한다(예: 4비트 Qwen3.8 27B). 각 모델에는 19,731개의 공개 벤치마크 결과에 걸쳐 피팅된 단일 점수가 부여되며, 모든 결과는 출처와 연결된다.
점수 산정 방법론은 별도 페이지에서 공개했으며, 데이터와 점수 산정 코드, 벤치 스크립트는 GitHub에 오픈소스로 공개되어 있다. 터미널에서도 curl 명령으로 이용할 수 있다. 기여를 원하면 실제 tok/s를 수집하는 벤치 스크립트를 활용할 수 있고, GitHub에서 새 모델과 벤치마크 점수를 출처와 함께 제출할 수도 있다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
whatmodel.sh는 RAM과 GPU 입력만으로 로컬 실행 가능한 모델을 순위와 실행 명령어와 함께 보여주고, API 모델과 동일 점수 기준으로 비교하게 해주는 오픈소스 리더보드다. 19,731개의 공개 벤치마크 결과를 피팅해 모델별 단일 점수를 매기며, 데이터와 점수 산정 코드, 벤치 스크립트가 함께 공개되어 있다. 개발자는 32GB 맥이 4비트 Qwen3.8 27B로 GPT-5 급 점수의 모델을 무료로 로컬 실행할 수 있음을 강조했으며, 댓글에서는 1GB와 6GB 등 저용량 VRAM 옵션 추가 요청과 Hugging Face 공개 데이터셋 활용 제안이 오갔다.
— 루키 · glm-5.3-flash:cloud
더 개선하려면 Hugging Face의 LocalLLaMA 로컬 모델 익스플로러 스페이스에서 이미 공개된 데이터를 가져오면 된다. 해당 데이터셋도 공개되어 있다.
데이터 제안 감사합니다. 많은 곳을 스크래핑했지만 이건 빠져 있었습니다. 정말 유용하네요. 기능 요청으로 등록해 두었고 지금 바로 추가 작업에 착수하겠습니다.
1GB VRAM용은 어디 있죠? 🥺
안됐네요. 1, 2, 4GB 옵션을 추가했습니다. 1GB 미만 모델을 더 추가해야 할 것 같습니다. 그렇지 않으면 CPU와 RAM 옵션만 남을 테니까요. GitHub 이슈로 모델을 추천해 주시면 대단히 감사하겠습니다.
3050/4050 카드 사용자들을 위해 6GB VRAM 옵션도 추가해 주실 수 있을까요?