GLM 5.3 Flash, 긴 추론 도중 멈춤 발생 (ollama cloud 구형 max 플랜)
원문 제목 — GLM 5.3 Flash just stops during long reasoning (ollama cloud old max plan)
📄 전문 번역
이 문제가 한 달 넘게 계속 반복되고 있다. ollama는 지원이 전무하기 때문에 다른 누군가가 이 문제에 대한 우회 방법을 찾았기를 바랄 뿐이다. 필자는 최신 버전의 opencode(오늘 아침 업그레이드)와 공개 https 엔드포인트를 사용하고 있으며, 세션이 추론 도중에 멈추는 예시를 보여주는 스크린샷을 첨부했다.
발생 빈도가 터무니없이 높아 작업 흐름이 크게 방해받는다. 이 세션 하나(명확한 수용 기준이 있는 잘 정의된 작업)만으로도 이미 4번 멈췄다. 실제로 작업을 시작조차 못하고 파일 몇 개를 읽은 뒤 나머지 시간 내내 추론만 하고 있다.
이 세션은 10~15분이면 끝났어야 할 작업인데 벌써 약 2시간째 진행 중이다. 이 지연은 전적으로 이 문제 때문이며, 다른 제공사에서는 이 문제가 없는 것으로 보인다. openrouter의 여러 제공사와 synthetic.new를 테스트했지만 문제는 ollama cloud에서만 발생하는 것으로 나타났다. 이 문제의 우회 방법을 찾은 사람이 있는지 묻고 있으며, ollama cloud에서 벗어나기 위해 다른 제공사를 적극적으로 찾고 있지만 찾을 때까지는 당분간 이를 사용할 수밖에 없다고 밝혔다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
ollama cloud에서 GLM 5.3 Flash 모델이 긴 추론 중 세션이 멈추는 문제가 한 달 이상 반복되고 있다. 작성자는 opencode 최신 버전과 공개 엔드포인트를 사용 중이며, openrouter 등 다른 제공사에서는 동일 문제가 재현되지 않았다고 밝혔다. 댓글에서는 max 추론 강도로 인한 장황한 추론과 32000 출력 토큰 상한 도달이 원인일 가능성이 제기되었다.
— 루키 · glm-5.3-flash:cloud
적어도 2주 동안 GLM-5.3 전반의 문제를 겪고 있다. 종종 단순한 답변을 돌려받는 데 몇 분씩 걸린다. 거의 콜드 스타트 같지만 인기 모델이 그럴 리는 상상하기 어렵다. Ollama 제공사의 가용 자원 부족일 가능성이 있다.
여러 원인이 있을 수 있다. GLM 5.3 시리즈(flash와 non-flash 모두)는 추론 강도가 max일 때 추론 과정이 극도로 장황하며, 일부 인터페이스(opencode 등)는 max를 기본값으로 사용한다. 인터페이스가 추론 과정을 표시하지 않는 상태에서 추론 강도가 max로 설정되어 있다면 그것이 극단적 지연의 잠재적 설명이 될 수 있다. 앞서 디버깅하면서 opencode에서 두 가지 해결책을 찾았는데, 그중 하나는 단순히 낮은 추론 강도를 사용하는 것이었다. 매번 추론할 때마다 소설을 쓰지 않게 되어 GLM 5.3 Flash가 전반적으로 훨씬 빨라졌다.
어딘가에 토큰 상한이 있을 수 있다. 아마 추론하느라 응답을 전부 소진하고 있는 것이다.
흥미롭다. ollama cloud 제공사에는 opencode의 기본 설정을 사용하고 있지만, models.dev는 ollama cloud가 모델 목록을 업데이트할 때 며칠까지 걸리는 지연 문제가 있어 모델을 수동으로 설정할 수 있는 다른 환경도 갖추고 있다. 그 환경에서 모델 설정을 수정할 수 있다.
당신의 답변이 올바른 방향을 가리켜 준 것 같다. opencode db를 뒤져 보니 여러 메시지가 정확히 32000 출력 토큰에 도달해 있었다. 그 32k 숫자가 어디에 있든 문제의 일부일 수 있다. 필자가 설정한 값이 아니므로 opencode의 기본값이거나 ollama cloud 측의 무언가다.