Drummer, Artemis 31B v1 및 v1.1 공개… 화려한 컴백 알린다
원문 제목 — Drummer's Artemis 31B v1 and v1.1 - Coming back with a bang!
📄 전문 번역
여러분, 오랜만이다. 몇 달 전 Gemma가 1년 가뭄을 적시는 단비 같은 모델들을 선사했고, 커뮤니티가 다시 활기를 띠는 모습에 매우 기쁘다. v1과 v1.1의 차이는 단순하다. v1은 산문과 글쓰기에 뛰어났지만 말더듬 같은 특이 사항을 넘기는 데 다듬음이 필요했던 늦어진 초창기 시도였고, v1.1은 안정성과 품질이 만나는 더 정제된 접근이다. 커뮤니티 의견이 갈려 둘 다 공개하기로 했다.
한동안 삶의 굴곡에 대처하느라 자리를 비웠지만, 그동안에도 슬쩍 지켜보며 따뜻한 말들에 감사하고 있었다. Skyfall 31B v4.2는 많은 이용자에게 강력한 작품으로 자리 잡은 듯하다. 업스케일이 자랑스럽고, 아름다운 Mistral 24B 베이스를 향한 최후의 홈런 작별 선물이라 여긴다. Gemma 31B 출시에 가려진 것이 아쉽지만, 일부 이용자가 더 최신 베이스와 비교하거나 오히려 선호한다는 반응은 뜻밖의 수확이었다. Rocinante 12B X / 16B XL은 Nemo가 오늘날까지도 최고의 창작 모델임을 증명한다. 16B XL이 Cydonia 24B v4.3 같았다는 평가는 현대적 자원과 기법으로 어디까지 갈 수 있는지를 보여준다. Anubis 70B v1.2, Valkyrie 49B v2.1, Anubis Mini 8B v1도 저를 놀라게 했다. 기대 없이 공개했지만, Rocinante X / XL과 마찬가지로 오래된 베이스 모델의 현대적 파인튜닝임에도 사용자들의 찬사를 받았다.
Artemis 공개로 어깨의 짐을 내려놓은 만큼 더 많은 베이스를 파인튜닝하는 데 매진하고 싶다. 그러나 다른 준비물도 있다. 바로 HordeAI 같은 플랫폼이다. 파인튜너로서뿐 아니라 로컬 애호가로서도 가치를 제공하고자 한다. 개념은 간단하다. 넉넉한 로컬 호스터가 형편이 어려운 이들과 추론을 나눌 수 있는 곳이다. 얼마나 많은 파워 유저가 자선의 힘으로 방을 데우고 싶어 하는지 놀랄 일이다.
마지막으로 오랜 세월 지지해 준 모든 이에게 감사를 전한다. 따뜻한 말, 엄격한 테스트, 컴퓨팅 접근권, 추론, 현금까지 제공한 이들 덕분에 Rivermind 12B, Fallen 시리즈, Big Tiger Gemma, Precog 24B/123B 같은 재미있는 실험과 Cydonia 24B v4.3, Behemoth X 123B v2.x, Skyfall 31B v4.2 같은 견실한 모델로 로컬 생태계를 풍요롭게 할 수 있었다. 추론이나 컴퓨팅 크레딧을 나눌 의향이 있다면 연락을 주기 바란다. 모두 커뮤니티를 행복하게 만드는 데 쓰인다. 보류 목록으로는 Gemma E2B, Gemma E4B, Gemma 12B, Gemma 26BA4B, Qwen 3.8 27B, Muse Glimmer 30B, Mistral Medium 3.5 128B, HordeAI 대안 겸 크라우드소싱형 OpenRouter인 BeaverNet이 있다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
AI 모델 파인튜너 Drummer가 Gemma 기반 Artemis 31B v1과 v1.1을 동시에 공개하며 복귀를 알렸다. v1은 산문 품질은 높지만 안정성이 부족한 초창기 시도이고, v1.1은 안정성과 품질을 함께 갖춘 정제 버전이다. 작성자는 HordeAI 유사 추론 공유 플랫폼 구상과 Gemma, Qwen 등 다수 베이스 모델 파인튜닝 계획도 밝혔다. 댓글에서는 24GB VRAM 제약, KV 캐시 양자화 미지원, Orion 모델과의 비교가 주요 논점으로 나타났다.
— 루키 · glm-5.3-flash:cloud
인생의 어려움이 이제 끝났기를 바란다. 커뮤니티는 당신과 당신의 작업에 빚을 지고 있다.
이에 강력히 동의한다. Drummer, 정말 잘하고 있다. 좋은 일만 있기를 바랄 뿐이다!!
Artemis에 크게 감동하지는 않았는데 주로 24GB VRAM에 묶여 있기 때문이다. QAT 베이스 기반이 아니라 KV 캐시 양자화를 성능 대폭 저하 없이 쓸 수 없어 Q4에 20000 컨텍스트에 갇혔다. 그래도 표준 Gemma 4 31B보다는 조금 나았다. 하지만 최근 Orion 모델은 실험적이라 해도 베이스 모델 대비 정말 큰 개선이라 감명받았다. 문체가 크게 한 단계 올라갔고 번개처럼 빠르다. 파인튜닝으로 본 가장 큰 향상 중 하나다.
Artemis는 순정 Gemma 4 31B를 상당히 개선한다. 특히 캐릭터 자율성을 더 중시할 때 그렇다. 그리고 그 시점에서 단연 최고의 Gemma 4 31B 파인튜닝이다. 이 측면을 담은 유일한 파인튜닝이라고까지 말하겠는데, 이것이 Drummer의 간판이다. 순정 Gemma 4는 그저 사용자를 기쁘게 하다 보니 몰입이 깨진다. Orion은 깊게 써 보지는 않았지만 역시 인상적이었다. 31B 대신 순정 26B를 쓸 이유를 못 느꼈는데, Orion은 어떻게 순정 31B와 Artemis보다도 나은 산문을 보여준다.
Orion을 쓸 만한가? Artemis 1.1을 BF16으로 쓰고 있는데 실망시킨 적이 없다. Orion이 산문이 더 낫다는 말인가?