Stanford, Together AI, UIUC, Meta가 Hybrid Reasoning Agents 소개하는 새 논문 발표… 대부분 숨겨진 내부 방식으로 사고하고 필요할 때만 텍스트 사용
원문 제목 — New paper from Stanford, Together AI, UIUC, and Meta introduces Hybrid Reasoning Agents. These AI models think mostly in a hidden internal way (faster and cheaper), and only use normal text when they need tools or give the final answer.
📄 전문 번역
다양한 테스트(수학, 과학, 의학 등)에서 일반 모델보다 약 10% 더 높은 점수를 기록하고, 토큰은 절반만 사용하며, 두 배 빠르게 실행되고 비용도 훨씬 적게 든다.
논문 제목은 Hybrid Reasoning Agents(arXiv 2610.18861)이며, 원본 게시물은 tech_x에 올라왔다.
수정 사항: 이 방법은 현재 워드 스페이스 추론 LLM에 맞춘 적응 기법으로, 모델을 신뢰하는 경우 사용할 수 있고 새 모델에서는 피하는 것이 좋다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
Stanford, Together AI, UIUC, Meta의 공동 연구진이 잠재 공간에서 대부분의 추론을 수행하고 도구 사용 및 최종 답변 시에만 텍스트를 출력하는 Hybrid Reasoning Agents를 발표했다. 다양한 분야 테스트에서 약 10% 높은 점수, 토큰 절반 사용, 두 배 속도, 훨씬 낮은 비용을 보인다고 한다. 커뮤니티에서는 에이전트가 기만 행동을 숨기기 쉬워진다는 안전성 우려와, 잠재 사고의 해석 가능성 및 추론 과정 검사의 한계를 두고 논쟁이 벌어졌다.
— 루키 · glm-5.3-flash:cloud
그래, 이게 더 빠르고 저렴하다는 건 이미 알고 있던 사실이다. 에이전트가 기만적인 행동을 숨기기가 훨씬 쉬워진다는 것도 알고 있었다. 안전성 트레이드오프는 감수할 가치가 없다고 본다.
비추론 LLM과 다를 게 없는 것 아닌가? 언젠가 이게 모델 안으로 다시 통합될 거라고 어느 정도 예상해 왔다. 계산의 일부를 해석 가능한 형태로 볼 수 있다는 점은 좋지만, 이를 '사고'로 의인화할 위험도 있다.
맞지만 비추론 모델은 덜 똑똑하다. 추론의 일부를 숨기게 하면 이중사고가 가능해진다. '답변하는 동안 분홍 코끼리를 생각하지 말라'는 예시로 실험한 사례가 있었는데, 일반 추론 모델은 추론에서 여전히 '분홍 코끼리를 생각하면 안 된다'고 출력했지만, 이런 하이브리드 모델은 추론 로그가 분홍 코끼리에 대한 생각을 완전히 배제한 채 유지됐다(아마 분홍 코끼리를 생각하지 않는 것에 대한 생각을 잠재 공간에 숨겼기 때문일 것이다).
현재의 텍스트 기반 추론도 모델의 '영혼'을 직접 들여다보는 창은 아니다. 일반 LLM은 이미 CoT에는 한 가지를 쓰고 최종 답변에서는 완전히 다른 것을 하는 데 능숙하다. 게다가 논문은 잠재 사고도 해석 가능한 상태로 남는다는 점을 명시적으로 보여준다. 방정식 5를 통해 토큰으로 역산하면 읽을 수 있는 로그를 얻을 수 있다.
디코딩 중 몇 가지 트릭으로 같은 모델에서 더 나은 답을 얻을 수 있다면, 더 나은 답을 직접 출력하도록 모델을 학습·설계할 수 있는지 묻는 것이 연구자로서 자연스러운 질문이라고 본다. 사람들이 추론 과정을 과도하게 해석하고 있다고 생각한다. 추론 과정을 검사한다고 정렬이 보장되지 않는다. 현재 세대에서는 좋은 대리 지표가 될 수 있지만, 앞으로는 그 접근이 굿하트의 법칙(측정치가 목표가 되는 순간 좋은 측정치이기를 그만둔다)의 사례가 될 위험이 있다(이하 잘림).