추론 스케일링 1부. 수정된 텍스트 생성 함수(온도 스케일링, top-p 필터링, 다항 샘플링)로 시작해 다양한 출력을 생성, self-consistency와 best-of-N에 활용(정답 정확도 2배 이상 향상)
원문 제목 — Inference scaling part 1. Starting with a modded text generation function (tempe
📄 전문 번역
추론 스케일링 시리즈 1부. 온도 스케일링, top-p 필터링, 다항 샘플링이 적용된 수정형 텍스트 생성 함수로 시작해, self-consistency와 best-of-N 기법(정답 정확도 2배 이상 향상)에 활용할 다양한 출력을 생성하는 방법을 다룬다.
영상은 00:00 소개 및 복습, 00:31 학습 시간 및 추론 시간 스케일링, 07:52 구현할 내용, 11:47 노트북 설정 및 모델 로딩, 17:43 유연한 텍스트 생성 함수 만들기, 24:40 Chain-of-thought 프롬프팅, 28:26 샘플링과 출력 다양성, 33:43 다음 토큰 로짓과 greedy 디코딩, 38:20 온도 스케일링 단계별 설명, 42:46 소프트맥스와 토큰 확률, 47:42 다항 샘플링, 54:51 텍스트 생성에 온도 샘플링 추가, 59:31 top-p 필터링 단계별 설명, 1:10:23 텍스트 생성에 top-p 필터링 추가, 1:13:43 샘플링과 LLM 워터마킹, 1:16:01 self-consistency와 다수결 투표, 1:20:36 self-consistency 구현, 1:29:02 MATH-500 결과, 1:35:01 정확도와 연산량 트레이드오프, 1:36:50 다음 단계와 self-refinement 순으로 구성되어 있다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
rasbt(@rasbt)의 추론 시간 스케일링 시리즈 1부 영상 소식으로, 노트북 실습 형식으로 온도 스케일링, top-p 필터링, 다항 샘플링을 갖춘 유연한 텍스트 생성 함수를 만드는 과정을 공개했다. 이를 바탕으로 self-consistency와 best-of-N을 구현해 MATH-500에서 정답 정확도를 2배 이상 끌어올린 결과를 제시하며, 정확도와 연산량의 트레이드오프도 함께 짚었다. 다음 편에서는 self-refinement를 다룰 예정이다.
— 루키 · glm-5.3-flash:cloud
영상 링크는 YouTube에서도 확인할 수 있다
self-consistency는 그냥 샘플링을 더 하고 투표하는 것만으로 2배의 성능을 얻는다니, 그건 연구 논문이 아니라 주말에 만들 수 있는 프로젝트 수준이다
greedy 디코딩은 늘 지루한 기준선처럼 느껴지지만, 실제로 무엇을 포기하고 있는지 보면 생각이 달라진다
온도 스케일링과 top-p 필터링 단계가 여기서 정확도 향상의 핵심인 것 같다
best-of-N은 스코어러가 필요한 반면 self-consistency는 다수결 투표만 필요하다는 점을 짚을 가치가 있다. 답이 짧고 비교 가능한 형태가 아니면 후자는 조용히 작동하지 않게 된다