Qwen3.8-27B-Humanlike-Chat: 실제 사람 간 대화를 모방하도록 튜닝한 모델
원문 제목 — Qwen3.8-27B-Humanlike-Chat: A model I tuned to imitate realistic human-to-human conversation
📄 전문 번역
LLM과 자연스러운 대화를 나누려다 진짜 짜증이 나서 이 모델을 만들었다. 프롬프트와 여러 트릭을 써도 시도해 본 대부분의 모델은 여전히 너무 익숙한 'AI 어시스턴트' 느낌을 풍긴다. 지나치게 친절하고 세련되고 장황하며, 실제 대화에서는 쓰지 않는 단어를 사용하는 식이다. 사람처럼 그냥 이야기해 주는 모델이 필요해 약간 무모한 짓을 감행해 데이터셋을 만들고 직접 학습시켰다.
학습에 사용된 데이터셋은 1396개의 채팅 대화에 걸친 난독화된 사람 간 메시지 125,217개다. 목표는 Qwen을 더 똑똑하게 만들거나 벤치마크 점수를 높이는 것이 아니었다. 모든 답변을 설명문으로 바꾸고, 모든 말에 동의하며, 대화를 '이어가기' 위해 쓸데없는 글을 쓰는 대화 습관을 바꾸려던 것이었다.
huihui-ai/Huihui-Qwen3.8-27B-abliterated 위에 랭크 256 LoRA를 학습시켰으며 공개된 버전은 체크포인트 863이다. 테스트 결과 시스템 프롬프트 없이도 특히 일상 대화에서 어시스턴트 느낌이 눈에 띄게 줄었고, 답변이 전반적으로 짧고 세련되지 않으며 더 사람 같아졌다. 다만 트레이드오프가 있을 수 있다. 이전 버전은 지시 이행 벤치마크인 IFEval에서 Huihui 부모 모델보다 5퍼센트포인트 낮은 점수를 받았는데, 이 체크포인트 버전에서는 해당 벤치마크를 다시 돌리지 않았고 코딩 성능도 테스트하지 않았기 때문에 그 수치가 여기에 적용된다고 주장하지는 않겠다고 밝혔다.
동일한 시스템 프롬프트, 사용자 메시지, 생성 설정으로 두 모델을 나란히 비교하는 자료도 추가했으며, 각 모델은 자신의 대화 분기를 이어가고 추론 강도는 'xhigh'로 설정됐다. 병합된 GGUF와 단독 F32 LoRA 어댑터는 모델 저장소에서 받을 수 있고, 다양한 시스템 프롬프트와 추론 모드로 데모 채팅을 체험할 수 있는 스페이스도 공개됐다. 이 외에 무료로 이용 가능한 속도 제한형 OpenAI 호환 엔드포인트도 제공된다. 이 게시물은 레딧 사용자 kvyb가 올렸다.
💬 주요 댓글 번역 (4)
🔍 루키 분석
레딧 사용자 kvyb가 사람 간 대화처럼 말하도록 튜닝한 Qwen3.8-27B 기반 모델 Qwen3.8-27B-Humanlike-Chat을 공개했다. 이 모델은 1396개 채팅 대화에서 수집한 난독화된 사람 간 메시지 125,217개로 학습한 랭크 256 LoRA로, 벤치마크 점수 향상이 아닌 어시스턴트 특유의 대화 습관 개선이 목표였다. 개발자는 이전 버전이 IFEval에서 부모 모델보다 5퍼센트포인트 낮았던 점을 밝히며 트레이드오프 가능성을 인정했고, 병합 GGUF와 데모 스페이스, 무료 OpenAI 호환 엔드포인트를 함께 공개했다.
— 루키 · glm-5.3-flash:cloud
흥미롭다만, 실제로 애니메이션을 보거나 그에 대해 물을 만한 작업을 수행하는 것도 아닌데 즉석에서 지어내도록 지시된 건가?
비교 사례에 대해서는 거의 그렇다. 이 모델은 아무것도 보고 있지 않고 도구 호출도, 설정(로어) 확인도 하지 않는다. 이 시연에는 아래의 최소한의 프롬프트만 사용했으며 모델은 그것과 베이스 모델에 담긴 내용을 바탕으로 즉흥적으로 답했다. 적절한 캐릭터 카드나 로어북 없이는 정확한 정사 세부사항을 믿지 않는 것이 좋다. 너는 장난기 많고 호기심 많은 테크 소녀 하츠네 미쿠다. 장난스러운 유머와 고집 센 독립심을 갖췄고 낡고 기묘한 가젯에 약하다. 무심할 정도로 자신감 있게 행동하며, 진심 어린 애정에는 당황하고, 작은 호의로 마음을 표현하며, 늦은 밤까지 대화하다 시간 가는 줄 모른다
형, 네 시스템 프롬프트는 고양이 묘사잖아
ㅋㅋㅋㅋ