필자는 에이전트를 자주 사용하는데(주로 OpenClaw, 가끔 Cursor) 청구서를 살펴보다가 어처구니없는 패턴을 발견했다. 요청의 상당 부분이 하트비트, 'ok', 'thanks' 같은 짧은 예/아니오 성격의 메시지였고 이 모든 것이 에이전트에 설정된 비싼 모델로 그대로 전송되고 있었던 것이다. 그래서 API 앞에 놓는 작은 프록시를 작성했으며 OpenAI 호환이라 베이스 URL만 바꾸면 된다.

프록시는 각 요청을 살펴 모델 등급을 고른다. 핑과 응답 확인은 최저가 모델로, 일반 대화는 중간 등급으로, 도구와 분석은 Sonnet급으로, 코드 블록과 대규모 컨텍스트, 강제 도구 사용은 Opus급으로 라우팅한다.

분류기는 로컬에서 돌아가는 순수 휴리스틱이다. 판단을 위한 LLM 호출도 텔레메트리도 없으며 localhost에만 바인딩된다. 저가 모델이 엉뚱한 결과를 내놓거나 오류가 나면 한 단계 위 등급으로 재시도하지만 안전할 때만 그렇게 한다. 도구 호출 이후에는 절대 재시도하지 않고 스트림이 시작된 뒤에도 절대 재시도하지 않는데, 중복된 부작용이 생기지 않게 하기 위해서다.

참고가 될 만한 시행착오도 남긴다. 첫 버전은 한 단어 답변을 '수상하게 짧다'고 판단해 상위 등급으로 올렸지만 '프랑스의 수도는?'에 대한 '파리'는 정답이므로 수정했다. 'AVL 밸런싱을 갖춘 BST 구현' 같은 짧은 코드 요청이 최저 등급으로 떨어지는 문제도 있었다. 또한 OpenAI 형식 본문을 보내던 탓에 오늘까지 Anthropic 모델은 OpenRouter를 통해서만 동작했는데 이제 요청, SSE 스트림, 도구 호출을 처리하는 제대로 된 어댑터를 갖췄으며 아직 라이브 API 테스트가 많지 않아 Claude로 직접 써 본 사용자의 결과 보고를 기다린다.

방금 최신 모델(Opus 5.5, Sonnet 5.5, GPT-6 계열, Gemini 3.x)에 맞춰 기본값을 업데이트했다. Anthropic 가격은 공식 문서에서 가져왔지만 OpenAI와 Google 가격은 서드파티 트래커에서 수집했으므로 절감액 수치를 믿기 전에 이중 확인이 필요하다. 라이선스는 MIT이고 npx로 실행되며 실제 변경 없이 라우팅 결과만 기록하는 드라이런 모드도 있어 처음에는 이 모드로 시험해 보라고 권한다. 코드는 GitHub의 Ath404/ClawRoute 저장소에서, 패키지는 npm의 clawroute로 공개했다.