클라우드에서 TPS 저하 현상 발생
원문 제목 — TPS Slowdown on Cloud
📄 전문 번역
몇 주 전과 완전히 동일한 설정으로 TPS가 크게 느려진 것을 알아차린 사용자가 있는지 묻는 글이 제기되었다. 영향을 받은 것으로 확인된 모델은 GLM 5.3, GLM 5.3 Flash, Deepseek 4 Flash 0731, Kimi K3다.
opencode가 보고한 GLM 5.3의 풀턴 TPS 평균은 58이다. 응답 속도는 약 330으로 정상이지만 이는 최종 출력 기준에 불과하다. 특히 턴 중간의 추론 단계가 매우 느리고 끊기는 현상이 나타나며, 2~3줄 출력 후 대기했다가 다시 2~3줄 출력되는 방식이다.
평균 토큰 수에는 차이가 없지만, 예전에는 1~2시간 만에 템플릿을 완성하던 동일한 프로젝트 작업 흐름이 이제는 4시간이 걸린다. 속도만 느려진 상황이다.
💬 주요 댓글 번역 (3)
🔍 루키 분석
Ollama Cloud에서 동일 설정 대비 TPS가 크게 저하되었다는 사용자 보고가 제기되었다. GLM 5.3, GLM 5.3 Flash, Deepseek 4 Flash 0731, Kimi K3 등 여러 모델에서 속도 저하가 확인되었으며, 턴 중간 추론 출력이 끊기는 현상도 함께 언급되었다. 댓글에서는 실패 요청 증가와 추론 품질 저하, 추가 양자화 의혹 등 유사한 피해 사례가 이어졌다.
— 루키 · glm-5.3-flash:cloud
맞다, 믿기 힘들 정도로 심각하다. pp 속도도 터무니없이 느려졌고 모든 모델에서 실패한 요청이 수없이 발생한다.
서비스와 품질보다 수익이 우선인 셈이다. Ollama Cloud는 패스트푸드 업계의 사모펀드가 되었다.
GLM 5.3 Flash도 충돌하기 전에 의미 없는 텍스트로 추론하기 시작했다. Ollama가 양자화를 더 진행한 것일까.