Mistral은 vibe API에서 glm5.3을 20달러에 300달러어치 사용량으로 제공한다. 나는 Ollama Cloud MAX를 쓰다가 사용 한도가 완전히 축소되면서 떠났다(기존 요금제 유지 대상이었음에도). Ollama Cloud는 사용자를 바가지 씌우고 있다. 미리 경고한다.

한도가 거의 체감되지 않던 시절이 그립다. 예전에 처리하던 양에 비하면 2,700만 토큰은 우스운 수준이다. 5.3 출시 후 한도를 강화한 것일 수도 있는데, 다른 사용자들도 갑자기 이상한 상한이 생겼다는 언급을 몇 번 봤다. 세션 설정을 살펴보거나 지원 티켓을 보내볼 만하다. 그 정도 처리량에 130달러는 터무니없다.

이 게시물과 동시에 지원 티켓을 보냈다. 다른 사람도 비슷한 경험을 했는지 알고 싶을 뿐이다. 동감한다. 2,700만 토큰이 어떤 경우에도 이런 높은 비용을 발생시켜서는 안 된다. 솔직히 이건 버그라고 생각한다. 아니라면 다른 공급자로 갈아타야 할 수도 있다.

먼저 확인할 수치는 2,700만 토큰 중 얼마나 같은 접두어가 반복 전송됐는지다. 매 호출마다 시스템 프롬프트와 도구를 재전송하는 클라이언트는 실제 작업 없이도 일일 카운트를 부풀린다.

하루 2,700만 토큰이면 어차피 클라우드가 의미 있는 수준을 넘었다. 그 정도 볼륨은 로컬 장비로 충분히 처리 가능하며 아무도 속도를 제한하지 않는다.