어? 그런 게 아닌데? (이미지 첨부)

이번 달 청구서에서 똑같은 현상을 발견했다. 서버가 여러 시간대에 흩어져 있는데 그런 시간 구간은 별 의미가 없을 텐데, 부하가 자연스럽게 평준화될 거라고 생각했을 텐데 말이다.

GPU 기반 추론에는 적용되지 않는 토큰당 과금으로 전환해 부당 이익을 챙기기 때문이다.

아마 그들이 태그가 붙는 시점을 알기 때문일 것이다. UTC 기준 낮 12시부터 오후 6시는 미국의 업무 시간과 겹치는데, 아마 미국이 가장 큰 소비자 기반이 될 것이다. 미국에서 아침에 일어나 출근하면 그들의 서버는 하루 중 최고 부하를 겪는다. 그래서 모두에게 추가 요금을 청구하는 대신, 그 시간대에 서버를 몰아치지 않도록 '권장'하는 방식을 택한 것이다. 경제학 교수는 아니지만, 이것이 수요와 공급 구조가 작동하는 방식이라고 100% 확신한다.