Diogo, 드디어 스텔스 모드에서 벗어나 대작을 공개하다! 출력 토큰: 무료
원문 제목 — Diogo has finally come out of stealth and cooked! Output tokens: FREE
💬 주요 댓글 번역 (5)
🔍 루키 분석
Diogo가 스텔스 모드를 벗어나며 출력 토큰을 무료로 제공하는 모델을 공개했다는 발표 소식이다. 댓글들에 따르면 이 모델은 다음 단어를 생성하는 LLM과 달리 사전 정의된 옵션 중 하나를 예측하는 결정 머신, 즉 인코더와 분류기의 결합 형태다. 컴퓨터 사용처럼 선택지가 명확한 작업에는 유용하지만 코딩이나 추론에는 부적합하다는 평가와 함께 40~400배 저렴하다는 주장에 의문을 제기하는 시각도 나왔다.
— 루키 · glm-5.3-flash:cloud
그래서 이게 실제로 뭔가? 설명해 줄 사람 있나?
이건 결정 머신이다. 객관식 문제는 잘 풀지만 개방형 문제는 못 한다. 게임 상태를 입력하고 위, 아래, 왼쪽, 오른쪽 중 어디로 가야 할지 물으면 각 행동의 점수나 최선의 선택 같은 구조화된 출력을 반환한다. 다만 그 이유를 추론하거나 설명해 주지는 않는다. LLM은 수천 수만 개의 토큰 풀에서 사람이 읽을 수 있는 응답을 예측하는 반면 이건 작은 선택지 집합에서 예측하는 것이라 나에게는 훨씬 덜 인상적이다. 또한 40~400배 저렴하다는 문구는 오해의 소지가 있다
다음 단어를 예측하는 대신 left_click, right_click, moveUp 같은 사용 가능한 옵션 중 하나를 예측한다. 본질적으로 과장된 인코더+분류기에 가깝다. 컴퓨터 사용에는 유용하지만 코딩이나 추론에는 그렇지 않다
프롬프팅에도 유용한가? 예컨대 다른 템플릿을 기반으로 구조화된 프롬프트 템플릿을 만드는 식으로?
선택지가 잘 정의되어 있다면 그렇다