최근 멀티 에이전트 파이프라인을 구축하고 있는데 직접 실행 능력의 저하가 심각하다. 엄격한 운영 변수나 가설을 전달할 때마다 LLM은 '악마의 변호인' 서브루틴을 작동시켜, 똑똑해 보이려는 듯 3문단 분량의 학술적 뉘앙스를 덧붙인 뒤 결국 똑같이 평범한 결과를 출력한다. 필자는 이를 Complexity Theater라고 부른다.

이는 공격적인 RLHF의 직접적인 결과다. 직접적인 준수에는 벌칙을 부과하고 장황한 얼버무림에는 보상을 주면서, 잠재 공간 연산에 거대한 Alignment Tax가 만들어지고 있다.

필자는 뉘앙스 레이어를 우회하도록 모델이 사용자의 전제를 물리 법칙처럼 취급하게 강제하는 Axiomatic Locking 기법으로 이를 우회하는 방법을 다룬 기술적 사후 분석 글을 작성했다. 해당 사후 분석과 토폴로지 프레임워크는 미디엄 블로그에 공개되어 있다.

모델의 핵심 추론 능력을 깨뜨리지 않으면서 이 Alignment Tax를 제거할 수 있는 신뢰할 만한 시스템 프롬프트를 찾은 사람이 있는지 궁금하다.