모델이 내 규칙을 실제로 따르게 하려면 어떻게 해야 할까
원문 제목 — How do I get a model to actually follow my rules?
📄 전문 번역
필자는 현재 Ollama를 통해 로컬 모델을 활용하는 어시스턴트를 만들고 있다. ministral-3:14b를 사용 중이며, 최소 다섯 가지 다른 옵션도 시도해 보았다.
실행 환경은 Ryzen 9600x에 시스템 RAM 16GB, VRAM 16GB이다.
모델이 학습된 성향 대신 성격과 정체성 규칙이 드러나도록 만들어야 하는데, 여기저기 검색해 봤지만 이제 한계에 이르렀다.
이 방법이 통하지 않으면 솔직히 이 프로젝트를 훨씬 덜 진보적인 무언가로 전환할 생각이며, 모델 변경 등 어떤 제안이든 환영한다.
수정: 이 문제가 해결되었다! 압도적인 지원에 감사한다. 결국 Gemma 4 12b를 사용하게 되었고, 앞으로도 이 프로젝트를 계속 진행할 계획이다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
로컬 LLM 기반 어시스턴트를 개발하던 사용자가 모델의 성격과 정체성 규칙 준수 문제로 고민하다가 커뮤니티 조언을 통해 Gemma 4 12b로 전환해 문제를 해결했다. 해당 사용자는 Ryzen 9600x, 시스템 RAM 16GB, VRAM 16GB 환경에서 Ollama로 ministral-3:14b 등 여러 모델을 시도했으나 만족스럽지 못했다. 댓글에서는 gemma4-12B와 Gemma 4 26B 추천이 이어졌고, Cline의 .clinerules를 활용해 프롬프트마다 규칙을 주입하는 방식도 소개되었다.
— 루키 · glm-5.3-flash:cloud
그 범위라면 gemma4-12B를 시도해 보라. 더 나을 것이다.
정말 고마워, 넌 진심으로 구세주다. Gemma 4가 아주 잘 작동하고 있다!
훌륭하다!
Gemma 4 26B도 시도해 볼 가치가 있다.
필자는 Cline을 사용하는데, .clinerules를 통해 규칙을 지원한다. 기본적으로 이는 모든 프롬프트에 주입되는 가이드일 뿐이다. 필자는 작업 시 항상 새 브랜치 생성, 모든 변경 사항 커밋, 메인 브랜치 병합 전 커밋 스쿼시 같은 간단한 git 워크플로 규칙을 사용해 삶을 편하게 만든다. 가장 마음에 드는 규칙은 델타만 테스트하고 메인 브랜치 병합 전에만 전체 테스트를 실행하는 것으로, 1500개 테스트가 이미 있을 때 많은 시간을 절약해 준다.