RLCD로 Jev용 오픈소스 모델을 만들었고, 모든 Jev 벤치마크를 능가한다. HF 스페이스, 벤치마크, 모델, 저장소 공개
원문 제목 — Made the horizontal open-source model for Jev with RLCD, and it surpasses all the Jev benchmarks. HF space, benchmark, model, repo
📄 전문 번역
탁월한 지원과 누구나 테스트할 수 있는 범용 모델 제작, 벤치마크 실행, HF 스페이스 생성 요청 수십 건에 감사를 전한다. 그래서 준비했다. 대규모 데이터 코퍼스로 개선된 모델을 학습시켰으며 이제 Laya라 불린다. 단일 RTX 6000 Pro(96GB VRAM)에서 학습되었고, 아키텍처는 양방향 ModernBERT-large 인코더와 스크래치 Transformer 헤드를 결합한 421M 파라미터 비자기회귀 결정 모델로, 약 35ms의 단일 순전파로 옵션 마커에 점수를 매겨 타입화된 스키마를 해석한다.
데이터셋은 의도 라우팅, 팩트 체킹, 모더레이션 합의, 프롬프트 가드레일, 루브릭 채점, 멀티턴 대화 궤적을 아우르는 25,000개 이상의 실제 사례로 이루어진 100% 사람 주석 코퍼스이며, 합성 데이터 지름길은 없었다.
이번에 적용한 RLCD(비공식)는 정책 경사 강화학습 접근법으로, 엄격히 적절한 스코어링 규칙을 기준으로 결정 모델을 최적화해 참이고 수학적으로 보정된 확률을 출력할 때만 최대 보상이 주어지도록 보장한다.
참고로 421M 규모의 소형 모델이라 저사양 PC에서도 구동된다. HF 스페이스에서 체험할 수 있고 GitHub 저장소와 HF 저장소도 공개되어 있다. 지지하고 이야기를 공유하고 개인 DM을 보내준 모든 이에게 감사를 전하며, 물론 추가적인 다듬이가 필요하다. 커피를 사고 싶은 이는 링크를 이용하면 된다.
💬 주요 댓글 번역 (4)
🔍 루키 분석
Jev 아키텍처 기반의 421M 파라미터 비자기회귀 결정 모델 Laya가 RLCD 학습으로 공개되었으며, 단일 RTX 6000 Pro(96GB VRAM) 한 장으로 학습되었다. 25,000개 이상의 사람이 주석한 실제 사례로 구성된 데이터셋을 사용했고, 약 35ms의 단일 순전파로 타입화된 스키마를 해석한다. 소형 모델이라 저사양 PC에서도 구동 가능하며 HF 스페이스와 GitHub 저장소가 함께 공개되었다. 댓글에서는 Doom 실행 영상과 이미지 데이터 인코딩 방식에 대한 반응이 이어졌다.
— 루키 · glm-5.3-flash:cloud
실수는 Doom 플레이 영상을 만들지 않은 거다 ㅋㅋ
내 생각엔 Doom 게임플레이와 위키레이싱이 Jev 흥행의 75%를 차지한다
아... Laya는 Doom을 할 수 있구나. 아직 잘은 못 하지만 내 Mac에서 로컬로 돌아가는 영상이다.
Laya에 전달할 때 이미지 데이터를 어떻게 인코딩했나?