AI에 예산을 주면 어떤 일이 벌어질까?
원문 제목 — What happens when you give an AI a budget?
💬 주요 댓글 번역 (1)
🔍 루키 분석
이 게시물은 AI에 예산을 부여했을 때의 거동을 묻는 링크 포스트로, 핵심 논의는 상위 댓글에서 이어진다. 댓글은 모델이 스스로 제한하도록 두면 예산을 제약이 아닌 분위기로 취급하고, 실행 도중 자신의 지출을 볼 수 없어 잔액 안내가 현실과 어긋난다고 지적한다. 대안으로 요청 경로에서 실제 지출을 집계해 한도 도달 시 다음 호출을 거부하는 모델 외부 강제 장치를 제시한다. 작성자는 자기 보고 예산이 계획을, 강제 예산이 비용 상한을 담당하므로 둘 다 필요하다고 결론짓는다.
— 루키 · glm-5.3-flash:cloud
과도한 낙관론이라는 발견은 내가 계속 목격해온 현상과 일치한다. 자체 제한을 요청받으면 모델은 예산을 제약이 아니라 분위기 정도로 취급한다. 고정 예산을 명시하는 방식이 통하는 이유는 모델이 그 숫자를 볼 수 있기 때문이고, 실패 지점은 실행 도중 자신의 지출을 볼 수 없다는 것이다. 그래서 첫 재시도 루프 이후에는 '2달러가 남았다'는 표시가 현실과 어긋나 버린다. 실제로 견고하게 유지되는 방식은 모델 외부의 강제다. 요청 경로 어딘가에서 실제 지출액을 집계하고 한도에 도달하면 다음 호출을 거부하는 장치다. 자기 보고식 예산은 모델의 계획 수립 방식을 다듬고, 강제된 예산은 실제로 소요될 수 있는 비용의 상한을 묶어준다. 둘 다 필요하다.