Qwen3.8-27B-Humanlike-Chat 2.0: 인간처럼 대화하며, 이제 도구 호출과 향상된 지시 이행을 갖추다
원문 제목 — Qwen3.8-27B-Humanlike-Chat 2.0: texts like a human, now with tool calls and better instruction following
📄 전문 번역
지난달 필자는 모델이 어시스턴트가 아닌 사람처럼 말하게 만드는 Qwen3.8-27B LoRA를 공개했고, 예상을 뛰어넘는 반응으로 업보트 700개 이상, 댓글 248개, 다운로드 4만4천 건을 기록했다. 모든 댓글을 읽었는데, 사람들이 어시스턴트 특유의 말투를 정말 싫어하는 만큼 그 어조는 공감을 얻었고, 나머지 부분은 정당하게 비판받았다. 한 번에 몇 단어 이상 내놓지 못하고, 어떤 프롬프트로도 극복할 수 없는 단일 기본 페르소나를 가지며, 도구를 전혀 사용하지 않는다는 지적에 중간 지점이 필요하다는 의견이었다.
비판은 옳았다. 도구 호출은 실제로 작동하지 않았고, 요청을 하면 가끔 바쁘다거나 잘 가야 한다고 답했는데, 인간적이긴 하나 나쁜 방향이었다. 이에 지난 3주간 2.0을 개발했고 목표는 사람들이 좋아한 목소리를 유지하면서 단점을 없애는 것이었다. 2.0은 시스템 프롬프트가 없으면 평범한 사람처럼 문자를 주고받으며, 어시스턴트도 캣걸도 아니다. 캐릭터 카드를 주면 그 인물이 되면서도 여전히 사람처럼 대화하고, 정식 이메일이나 번호가 매겨진 단계, 제대로 된 설명을 요구하면 정확히 그에 맞는 출력을 내놓은 뒤 다시 대화체로 돌아온다. 소문자 대화체가 싫다면 '이제부터 완전한 문장으로 써라'라고 말하거나 시스템 프롬프트에 넣으면 다르게 지시하기 전까지 그를 유지하는데, v1은 이를 완전히 무시했다. 도구를 호출하고 빠진 정보가 있으면 지어내지 않고 되물어보며, 기본 모델에게 출발지를 말하지 않고 항공편 예약을 요청하면 JFK를 고르는 반면 2.0은 어디서 출발하는지 묻는다. 코드 작성과 수학은 대략 기본 모델 수준으로, 어시스턴트가 아닌 동료이자 인간적인 동반자로서 대화, 롤플레이, 에이전트, 실제 업무에 활용할 수 있다.
학습 방식을 보면 v1은 실제 및 합성 대화 1,396건에서 수집한 139,845개 메시지로 단순 SFT를 진행했으나 이는 나쁜 습관까지 복제했다. 2.0에는 온폴리시 증류를 사용해 모델이 스스로 답변을 작성하면 교사가 모든 토큰을 채점하는 방식으로 학습했다. 교사는 두 가지로, 대화와 캐릭터용은 v1에 '사람처럼 말하라'는 숨겨진 지시를 더한 것이고 지시 이행, 도구, 코드용은 순수 기본 모델이다. 학생 모델은 숨겨진 지시를 전혀 보지 못하므로 프롬프트 없이도 해당 행동을 학습하며, 동일한 27B에 두 번째 LoRA를 얹어 병합했다.
수치는 학습 기반 모델인 huihui-ai의 abliterated Qwen3.8-27B와 동일 프롬프트, 동일 실행, thinking off 조건으로 비교했다. 학습에 쓰지 않은 지시 유형을 다루는 IFBench는 37.3에서 43.7로, 호출·질문·거절을 올바르게 판단하는 When2Call은 48에서 58로, 맞는 도구가 없을 때 호출하지 않는 BFCL irrelevance는 60에서 78로 향상됐다. IFEval, GSM8K, BFCL simple은 81.9/89.1/97에서 83.5/89.1/98로 사실상 동률이며, 여전히 뒤처지는 영역은 지식(MMLU-Pro 72.5 vs 78.5)과 경쟁용 코딩(LiveCodeBench 51 vs 56)이다.
정말 더 인간적인지 검증하기 위해 'ishuman' 벤치마크를 만들었다. 보지 못한 대화에서 150개 조각을 가져와 각 모델로 하여금 다음 메시지를 작성하게 하고, 심판에게 실제 메시지와 모델의 메시지를 라벨 없이 보여준 뒤 어느 쪽이 사람이 쓴 것인지 묻는 방식이다. 결과는 학습 기반 모델이 0.3%, 같은 모델에 '사람처럼 말하라' 시스템 프롬프트를 넣은 경우 6.8%, 공식 Qwen3.8-27B(OpenRouter 경유)가 15.1%, Humanlike-Chat 2.0이 23.5%로, 프롬프트만으로는 도달할 수 없음을 보여준다. 가상의 인물과 진행한 별도의 16회 실시간 멀티턴 대화 테스트에서는 2.0이 16회 모두 기본 모델보다 선택됐다. Hugging Face에서 IQ4_XS, Q4_K_M, Q5_K_M, Q6_K, Q8_0, BF16 GGUF와 단독 LoRA를 공개했고 데모 스페이스도 운영 중이며, 필자는 지난번 피드백 특히 비판적 의견을 남긴 이들에게 감사를 전하면서 아직 어시스턴트처럼 들리는 부분을 알려달라고 당부했다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
커뮤니티의 비판을 반영해 도구 호출과 지시 이행 능력을 보강한 Humanlike-Chat 2.0이 공개됐다. 온폴리시 증류 학습을 통해 IFBench, When2Call, BFCL irrelevance에서 기반 모델 대비 유의미한 향상을 보였다. 자체 벤치마크 ishuman에서 23.5%를 기록하며 프롬프트만으로는 재현할 수 없는 인간적 대화체를 입증했다. GGUF 양자화 모델과 LoRA가 함께 공개되어 로컬 환경에서도 활용할 수 있다.
— 루키 · glm-5.3-flash:cloud
hey, you-up-3.8-27b-gguf
yowazup-nmyou-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF
빨리 기다려진다
모델 이름들이 영화 토렌트 스타일로 수렴해버린 점이 정말 마음에 든다
MTP는 너무 90년대풍이다. DFlash로 갔어야 했지, 아니 DFlash2, 아 젠장, 이제는 DSpark다. 혹시 DSpark2?