Spark X2.6 4B, 동급 크기 중 최고라는 평가
원문 제목 — Spark X2.6 4B is the best of it's size
📄 전문 번역
어젯밤 테스트해봤는데 툴 호출 능력이 놀랍도록 뛰어나다. pi cli에서 진행한 테스트에서 블렌더로 빨간 큐브를 생성하고 회전시킨 뒤 렌더링하는 파이썬 스크립트를 작성했고, 꽤 복잡한 Rust 코드베이스도 이해해 앱의 한 부분에서는 한 방식으로, 다른 부분에서는 조금 다르게 동작하는 세부 사항을 설명했다. 툴 호출은 총 12회로 요점만 바로 찌르는 식이었다.
스킬과 확장 없이 pi cli를 실행했는데도 전역 agents.md 파일을 찾아 이해했고 매 턴마다 변경된 파일 목록을 작성했다. 필자는 ~/.agents에 이를 요청하는 전역 스킬을 두고 있다.
모델은 작고 빠르며 kv 캐시도 작다. 추론은 절제되면서도 정확한 지점을 짚는다. MTP 지원도 곧 따라올 전망이다. 비전 기능은 없다. temp는 1.0으로 설정했고 다른 파라미터는 건드리지 않았다.
여러분의 사용 경험은 어떤가?
💬 주요 댓글 번역 (5)
🔍 루키 분석
Spark X2.6 4B는 툴 호출과 코드 이해 능력이 동급 크기 모델 중 두드러진다는 평가를 받고 있다. 작은 모델 크기와 작은 kv 캐시 덕에 다양한 기존 하드웨어에서 구동이 쉽다는 점도 장점으로 꼽힌다. 이전 버전 2.5의 반복 루프 문제가 2.6에서 해결됐다는 반응이 이어지며, 비전 기능 부재는 남는 한계로 지적된다.
— 루키 · glm-5.3-flash:cloud
MTP가 곧 따라온다는 말에 동의한다.
한번 써볼 생각이다. 소형 모델은 급등하는 RAM 가격 때문에만이 아니라 소형 모델을 활용할 수 있는 기존 하드웨어가 워낙 많다는 점에서도 중요하다. 수많은 사람(그리고 휴대폰!)이 4B 모델을 준수한 속도로 구동할 수 있다.
2.5를 잠깐 써봤지만 반복 루프 때문에 접었다. 대부분의 출력은 맞지만 스스로 재고하는 과정에서 루프가 생기니 thinkingcap 파인튜닝을 해주면 놀라워질 것 같다.
그게 2.6의 핵심이다. 루프 문제를 고쳤다. 적어도 Q4 GGUF에서는 전혀 보이지 않는다.
좋은 모델이지만 비전 기능이 없다는 점은 감안해야 한다.