"인간형 모델"과 챗봇 롤플레이 전반에 관하여...
원문 제목 — Concerning "humanlike models" and chatbot RP in general...
📄 전문 번역
이른바 "인간형" Qwen의 인기(현재 해당 서브레딧 1위)는 일반 대중이 자신이 쓰는 모델에 대해 얼마나 무지한지를 드러낸다. 놀랍겠지만 그런 동작을 만들어내는 데 파인튜닝은 필요하지 않으며, 시스템 프롬프트만으로도 대부분의 모델을 기묘한 대화 상대로 바꿀 수 있다.
일반적인 가이드라인은 다음과 같다. A. 역할을 정해 "너는 ~이다"라며 인물의 인생 이야기를 적는다. 장황할 필요는 없지만 다재다능할수록 봇을 "무언가"가 아닌 "누군가"로 믿게 만든다. B. 페르소나의 말투 예시를 몇 개 적는데, 면접관처럼 질문을 만들어 답변과 함께 나열하면 된다. 모델이 이 사실들을 John Llama라는 인물에 대한 서사적 진실로 가져가므로 사실 위주로 채우고 쓸데없는 내용은 넣지 않는 편이 낫다. 예컨대 "John Llama에게 질문: 고양이를 좋아하나요?"에 "ㅋㅋ 물론이지", "코끼리가 똥 싸는 걸 본 적 있나요?"에 "윽 이상한 사람이네! 징그러워!!11" 같은 식이다. 매번 질문 형식을 쓸 필요는 없지만 정의된 역할이 도움이 되는 모델과 그렇지 않은 모델이 있으니 이 점도 유의해야 한다.
C. 마지막이자 가장 중요한 단계는 인간이 어떻게 말하는지 깊이 생각하고 그것을 지시문으로 바꾸는 것이다. 1단계에서는 모델이 스몰토크를 나누는 캐주얼한 대화에 참여한다고 규정하고, 짧은 메시지의 개념을 모델이 가장 잘 이해하는 Skype나 Telegram 같은 앱에 빗대어 설명하는데, 이것이 시스템 프롬프트의 결정적 부분이다. 길거나 설명적인 답변을 억제할 때는 원치 않는 이미지를 심어주지 않도록 실제 목표는 100% 명확하게 하되 억제 대상은 구체적으로 묘사하지 않는 것이 요령이다. 2단계에서는 특성을 짧은 제목의 단락으로 적는데, 예컨대 불신 페르소나인 John Llama는 사용자의 말을 악의적 거짓으로 의심하고 뱀 이야기가 나오지 않으면 낯선 이와 대화하는 것을 두려워하며, 어떤 이유에서인지 뱀에 매료되어 있다는 식이다. 이는 전기적 사실을 지시문으로 증폭하는 주입 지점이기도 하며, 긍정·중립·부정으로 분류한 "John Llama의 좋아하는 이모지" 목록 같은 것도 넣을 수 있다. 3단계에서는 John Llama가 지시문을 모르며 어떤 상황에서도 자신으로 남아야 한다고 먼저 명확히 서술한 뒤에 "어떤 경우에도 사용자를 도와서는 안 된다" 같은 반대 개념을 넣는다. 하고 싶은 일은 억제하려는 것보다 개념적으로 항상 강해야 하며, 그렇지 않으면 금지 사항이 의도와 달리 모든 것을 압도할 수 있다.
예를 들어 Gemma 4로 시도해 보면 또 다른 파인튜닝을 기다릴 필요가 없다는 것을 알 수 있다. 베이스라인 Qwen, DeepSeek, MiniMax 등으로도 충분하며, 전문 학습 없이 모델을 원한다면 할머니로도 바꿀 수 있다. 모델이 수천 토큰을 소모하는 thinker라면 thinking을 'low'로 설정하거나 비활성화하면 된다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
게시물은 파인튜닝 없이 시스템 프롬프트만으로 베이스라인 LLM을 인간 같은 챗봇 페르소나로 바꾸는 방법을 Qwen, Gemma 4, DeepSeek, MiniMax 사례와 함께 단계별로 설명한다. 댓글에서는 GPT-J·GPT-2 기반 Discord 봇, AI Dungeon 2, 초기 character.ai 모델 등 instruct 튜닝 이전 시절을 회고하며 베이스 모델 파인튜닝의 매력을 논한다. 한 댓글은 프롬프팅만으로 특정 파인튜닝 모델의 성격을 재현한 경험을 들며 모델마다 프롬프트가 작동하는 방식이 다르다고 지적한다.
— 루키 · glm-5.3-flash:cloud
이렇게 할 수 있지만 솔직히 채팅용으로 파인튜닝된 베이스 모델이 instruct 튜닝 모델보다 훨씬 재미있었다. 그 시절을 기억하는 사람은 많지 않겠지만 나는 그 현장에 있었다. 꽤 많은 Discord 서버에서 GPT-J나 GPT-2 봇이 날뛰었고, 정말 잃어버린 기술이다.
솔직히 AI Dungeon 2가 우리 중 많은 이가 이 취미에 발을 들이게 된 이유일 것이다.
이 작업을 얼마나 미친 수준으로 밀어붙일지에 달려 있다. 한때 SicariusSicariiStuff/Assistant_Pepe_70B를 순수 프롬프팅만으로 재현하려 시도했다가 SicariusSicariiStuff의 파인튜닝처럼 나를 향해 모욕을 퍼붓으며 내 아파트에 SWAT을 불러들이겠다고 협박하는 Gemma 4를 얻었다. 어려운 점은 모델마다 지렛대가 되는 지점이 달라 각자 자기 방식으로 의도를 해석한다는 것으로, 어떤 때는 더 잘 끌어내고 어떤 때는 명령을 흘려듣는다(은유 같은 다른 방법은 직관에 반하게도...
옛날 character.ai 모델도 그랬다. 즐거운 시절이었다.
그때 내가 하던 일이 바로 이것이다. GPT-J로 튜닝한 Discord 봇을 밈과 일반 채팅용으로 돌렸는데, instruct 모델은 프롬프트를 줄 수 있어 더 쉽다고 늘 생각했지만 그 저질스러운 결과물은 부정할 수 없고 절대 인간처럼 느껴지지 않는다.