Ollama 연동 Qwen Code가 답변 대신 도구 호출을 반복 생성한다
원문 제목 — Qwen Code with Ollama keeps generating tool calls instead of answering prompts
📄 전문 번역
Unity 앱을 만들기 위해 Qwen Code를 Ollama와 함께 로컬로 사용하려고 하지만 이상한 문제에 부딪히고 있다. Windows 11에서 RX 9060 XT 16GB를 장착한 시스템으로, Ollama의 OpenAI 호환 API를 통해 qwen2.5-coder:7b 모델과 함께 Qwen Code 0.25.1을 사용 중이다.
터미널에서 직접 테스트할 때는 Ollama가 정상 작동하며 간단한 프롬프트에 올바르게 답변한다. 그러나 VS Code 확장과 독립형 Qwen Code CLI 양쪽에서 'Reply with exactly: 4' 같은 프롬프트조차 답변 대신 read_file이나 무관한 스킬 같은 이상한 도구 호출을 유발한다. Ollama 로그에는 프롬프트 잘림 경고도 표시되었다.
누구든 이런 문제를 겪었거나 해결책, 또는 Qwen Code를 Ollama로 실행하기 위한 안정적인 구성을 찾았다면 알려달라. 이 글은 /u/segasega89가 제출한 것이다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
Qwen Code 0.25.1을 Ollama의 OpenAI 호환 API로 구동할 때 모델이 답변 대신 read_file 같은 도구 호출을 반복하는 문제가 보고되었다. 터미널 직접 테스트에서는 정상 작동하지만 VS Code 확장과 CLI 양쪽에서 증상이 재현되며 Ollama 로그에 프롬프트 잘림 경고가 함께 기록되었다. 댓글에서는 Ollama의 도구 템플릿 불량 가능성과 모델 재다운로드, llama.cpp나 unsloth로의 대체 호스팅, ornith 계열 소형 모델 대안 등이 제시되었다.
— 루키 · glm-5.3-flash:cloud
에이전트용으로 Ollama를 사용할 때 파일 쓰기에서 비슷한 문제를 겪었지만 원인을 파악할 수 없어 결국 모델을 llama.cpp와 unsloth로 호스팅했다. Ollama에 뭔가 문제가 있는 것이 분명하다. 다른 모든 도구는 하네스 도구 호출과 잘 작동한다.
맞다, 내 경우 coder는 JSON으로만 응답했다. 일반 qwen 2.5와 비교 기준을 잡아보니 같은 응답을 냈다. coder가 사람들이 생각하는 것이 아니라고 본다. 최근에 Ollama를 업데이트했다면 모델을 다시 받아야 할 수 있다. 여러 모델에서 도구 템플릿이 깨져 있었다. Hugging Face의 qwen 헬퍼 템플릿 수정본을 사용해야 할 수도 있다.
모델이 너무 오래됐다
내 경험상 qwen2.5-coder:7b는 도구를 제대로 호출하는 것은커녕 기본적인 판단도 거의 못 한다. 가끔 간단한 짧은 코드 조각을 생성하는 데는 능하지만 그 정도다. 그 크기대로는 ornith-1.5:9b를 시도해 보라. 그 정도로 작은 모델에서는 큰 기대를 하지 말라. 하지만 내 경험상 ornith는 소형 모델 부문의 선두다. 이는 어디까지나 개인 경험임을 유의하라. qwen2.5-coder:7b로 더 나은 결과를 낸 사람이 있다면 나쁜 경험에 대한 트롤링은 관심 없지만 지적인 논의는 환영한다. 수정: 네 시스템에서는 ornith-1.5:35b를 시도해 보라. 네 시스템이
모델이 어떤 도구를 호출해야 할지 파악하지 못한다. 루프에 갇힌 것이다. 직접 만든 도구가 있다면 이해하기 쉽게 단순하게 만들라. 더 똑똑한 모델은 아마 이 문제를 더 잘 처리할 것이다.