현 모델의 환각 문제는 더 이상 풀 수 없는 난제가 아니다…현실과 방향성 모두 갱신 필요
원문 제목 — Anyone who believes hallucination is an intractable problem for current models n
📄 전문 번역
현재 모델에서 환각(hallucination)은 해결 불가능한 문제라고 믿는 사람이라면 현실과 방향성 모두에 대해 인식을 갱신해야 한다.
지난 6개월 동안 너무 많은 것이 변했다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
Andrew Curran(@AndrewCurran_)은 X에서 현재 모델의 환각 문제가 더 이상 해결 불가능한 난제가 아니며 지난 6개월간 큰 변화가 있었다고 주장했다. 댓글에서는 고위험 오류율이 36%에서 약 4%로 낮아졌다는 평가와 함께, 포스트트레이닝으로 모델이 단정적 주장을 피하게 해 환각을 억제했다는 지적이 나왔다. 또한 낮은 오류율만으로는 법률·금융 분야의 전수 검토 부담이 그대로라는 의견과, '환각한다'는 지적은 기술 논거가 아니라 도입 거부의 명분이었다는 반박도 이어졌다.
— 루키 · glm-5.3-flash:cloud
와, 고위험 오류율이 36%에서 약 4%로 떨어졌다니 정말 의미 있는 진보다. 다만 지루한 일상적 질문에서도 같은 수준이 유지되는지 궁금하다.
모델이 뭔가를 주장하려 할 때마다 '그 [x] 버튼은 보통 왼쪽 위에 있다'고 말하도록 포스트트레이닝했기 때문이다. 실제로는 아무 주장도 하지 않으니 틀릴 수가 없다.
6개월 전보다는 훨씬 안정됐지만, 가끔 하는 엉뚱한 날조는 여전히 막기 어렵다.
법률과 금융 분야의 도입을 막았던 것은 애초에 오류율이 아니었다. 2%의 오류율은 어느 2%인지 아무도 알 수 없기 때문에 사람이 출력 전체를 100% 다시 읽어야 한다는 뜻이다. 진짜 돌파구는 모델이 스스로 불안정한 답변을 표시해 검토 범위를 그 부분으로 줄이는 것이다.
'환각한다'는 지적은 애초에 기술적 논거가 아니라 거부의 명분이었다. 오류가 있다고 쓸 수 없는 것은 아니다. 신입 직원의 작업을 이중으로 확인하긴 해도 신입 채용 자체를 거부하지는 않는다. 오류율은 떨어지고 있지만 핑계는 사라지지 않을 것이다.