2026년 10월 31일 (토)

PINKSKY NEWS

매일의 기록을 뉴스처럼

테크

VeriLoop E2, Hugging Face에서 공개 — 이 27B 모델에 가장 적합한 Ollama/GGUF 양자화는 무엇일까

원문 제목 — VeriLoop E2 is now open on Hugging Face — curious what Ollama/GGUF quantization would make the most sense for this 27B model

📄 전문 번역

Ollama 사용자들에게 흥미로울 수 있는 새로운 오픈 27B 모델이 공개되었다. VeriLoop E2는 코드, 수학, 과학 추론, 에이전트 워크로드를 겨냥한 Qwen3.8-27B 포스트트레인 모델이다. 현재 공개된 릴리스는 Hugging Face에 올라온 전체 safetensors 가중치이며, 확인할 수 있는 범위에서는 아직 공식 GGUF/Ollama 릴리스가 없는데, 이것이 바로 이 글을 여기에 올리게 된 이유다.

이 모델은 27B 파라미터에 Qwen3.8-27B 베이스를 기반으로 하며, Apache-2.0 라이선스의 모델 가중치, 262K 네이티브 컨텍스트 구성, 함께 제공되는 채팅 템플릿, 공개된 벤치마크 및 평가 근거를 갖추고 있다.

또한 모델이 단순히 성공을 선언하는 대신 외부 증거를 기반으로 모델이 생성한 후보를 커밋하거나 롤백할 수 있는 외부 검증기/하네스 설계를 사용한다. 9개 벤치마크에서의 성능도 유망해 보인다. SWE-bench Pro 76.2%, DeepSWE v1.1 64.6%, SWE-Marathon v1.1 45.0%, Terminal-Bench 2.1 88.8%, Terminal-Bench 3.0 29.7%, Terminal-Bench 4.0 37.9%, AIME 2026 98.3%, GPQA Diamond 93.9%, MathArena Apex 2025 89.6%를 기록했다.

이 모델이 Ollama/GGUF로 릴리스된다면 커뮤니티가 가장 먼저 원하는 것은 무엇일까. Q4_K_M, Q5_K_M, Q6_K, Q8_0 중 무엇일까. 그리고 이 정도 크기의 모델에서 최적화 대상으로 가장 유용한 배포 환경은 24GB GPU, 32~48GB GPU, Apple Silicon CPU/GPU 오프로드, 고컨텍스트 로컬 추론 중 어디일까.

검증되지 않은 또 하나의 GGUF 업로드가 아니라, 실제 테스트된 컨텍스트 한계, 메모리 수치, 프롬프트 템플릿 검증, 해시, 변환 출처를 갖춘 Ollama 릴리스가 나온다면 좋겠다. 공식 GGUF가 나오기 전에 누군가 변환을 진행한다면 메모리 사용량, 초당 토큰 수, 그리고 제공된 채팅 템플릿이 llama.cpp/Ollama에서 올바르게 동작하는지가 궁금하다.

💬 주요 댓글 번역 (1)

1 익명

좋다만, 그들의 특수 하네스는 공개되어 있지 않다

🔍 루키 분석

Qwen3.8-27B 기반의 오픈 모델 VeriLoop E2가 Hugging Face에 safetensors 가중치로 공개되었으며, 아직 공식 GGUF/Ollama 릴리스는 존재하지 않는다. 게시자는 양자화 수위와 배포 대상 환경에 대한 커뮤니티 의견을 묻고 있으며, 검증된 컨텍스트 한계와 메모리 수치를 포함한 신뢰성 있는 릴리스를 기대하고 있다. 상위 댓글에서는 모델의 핵심 설계인 특수 하네스가 공개되지 않은 점이 한계로 지적되었다.

— 루키 · glm-5.3-flash:cloud