Ollama로 RTX 5090 한 장에서 구동한 Qwen 3.8 27B 테스트
원문 제목 — Testing Qwen 3.8 27B running locally on a single 5090 via Ollama
📄 전문 번역
필자는 RTX 5090 한 장으로 Ollama를 통해 로컬 구동한 Qwen 3.8 27B가 Row-Bot에서 무엇을 해낼 수 있는지 테스트했다. 프롬프트는 단 하나였다. "현재 로컬 모델이 할 수 있는 것을 보여주는 애니메이션을 만들어라. 극한까지 테스트하라. 이미지 생성이나 비디오 생성은 사용하지 말고, 그 외에 쓸 수 있는 모든 것을 활용해 최대한 시각적으로 풍부하게 만들어 모델의 능력을 보여달라"는 것이었다. 그 결과물이 바로 이것이다. 모델은 또한 새로운 스킬 점진적 로딩 기능을 통해 프론트엔드 디자인 스킬을 자동으로 로드했다. 로컬 모델은 이미 사람들이 생각하는 것보다 훨씬 많은 것을 해낼 수 있으며, 이를 구동하는 데 필요한 것은 Row-Bot 같은 잘 만들어진 하네스뿐이다.
필자는 결과에 진심으로 감탄했다. "지금 브라우저에서 열려 있습니다. 8개 장면, 약 105초 분량의 자율 애니메이션, 마지막에 리플레이 버튼이 있습니다. 콜드 부트 — 터미널 로그와 스크램블 디코드 타이틀. 언어 합성 — 실시간 토큰 티커, 초안 작성 로그, 실시간 초당 단어 수 스파크라인과 함께 단어 단위로 스트리밍되는 구절. 실시간 수학 — θ가 π까지 진행하는 동안 복소평면에 e^iθ가 그려져 e^iπ + 1 = 0에 도달하며, 아울러 라이프니츠 급수가 약 4,200항에 걸쳐 π로 수렴하는 과정과 실시간 오차 및 일치 자릿수가 표시된다. 프랙탈 계산 — 페이지 안에서 픽셀 단위로 재계산되는 만델브로트 줌(프레임당 57,600 포인트)에 실시간 줌, 반복, 렌더 시간 텔레메트리가 함께 표시된다.
지식 그래프 — 612개 로컬 엔티티의 실시간 네트워크에 자동으로 그려진 관계와 강조된 쿼리 경로가 표시된다. 도구 오케스트레이션 — 계획 → 검색 → 읽기 → 종합 → 작성 → 검증 과정이 터미널 로그와 팬아웃 ×2 병렬 에이전트 진행 데모와 함께 표시된다. 물리 샌드박스 — 중력, 소용돌이, 흐름 세 가지 필드를 통과하는 1,500개 입자로, 커서를 움직여 필드를 교란할 수 있으며 색상은 속도를 나타내고 실시간 FPS가 표시된다. 판정 — 스코어카드가 0에서 8로 진행되며 '이 기기에서 전부 작성하고, 계산하고, 렌더링했습니다'라는 문구로 마무리된다. 조작법은 클릭 또는 → 키로 진행, ← 키로 뒤로 가기, 스페이스로 일시정지이며, HUD에는 실시간 FPS, 시계, 현재 장면이 표시됩니다."
💬 주요 댓글 번역 (5)
🔍 루키 분석
Qwen 3.8 27B를 RTX 5090 한 장에 Ollama로 구동해 Row-Bot 하네스에서 테스트한 결과, 단일 프롬프트만으로 8개 장면 약 105초 분량의 자율 애니메이션을 생성하며 로컬 모델의 가능성을 보여줬다. 모델은 스킬 점진적 로딩 기능으로 프론트엔드 디자인 스킬을 자동으로 로드했다. 댓글에서는 코딩 성능에 대한 호평과 함께 Framework Desktop 구동 시 약 14 tps라는 수치가 언급됐다.
— 루키 · glm-5.3-flash:cloud
맞아요, 3.8은 정말 뛰어난 능력을 갖춘 모델입니다.
요즘 제 작업의 80%를 거의 이 모델로 처리하고 있습니다.
저도 마찬가지입니다. 다만 Framework Desktop에서만 돌리다 보니 훨씬 느립니다(약 14 tps). 코딩 분야에서는 정말 '빅 리그'급과 어깨를 나란히 하고 있네요.
어떤 용도로 사용하시나요?
최고의 모델, 최고의 GPU... 그리고 ollama라니 웃음이 나네요.