대조 언어 모델(Contrastive Language Models)
원문 제목 — Contrastive Language Models
💬 주요 댓글 번역 (5)
🔍 루키 분석
Contrastive Language Models(CLM)는 qwen3-8B 위에 얹는 헤드 형태로 공개된 모델로, 8B 버전이 수십 MB 수준에 들어간다는 반응이 커뮤니티에서 나온다. 다음 달 출시 예고와 함께 멀티모달 35B가 기다려지고 있으며 qwen3.6-35B-A3B(또는 3.5)용 헤드일 가능성이 논의되었다. GitHub와 Hugging Face의 Contrastive-LM 저장소가 언급되었고, GPU 자원이 부족한 사용자 사이에서는 llama.cpp의 GGUF 임베딩 엔드포인트 기능을 활용한 구동법이 공유되었다.
— 루키 · glm-5.3-flash:cloud
스포일러: 다음 달 출시된다.
이미 출시됐으며 8B는 수십 MB 안에 들어간다. qwen3-8B 위에 얹어 쓰는 새 헤드일 뿐이다. 멀티모달 35B를 기다리는 중인데 qwen3.6-35B-A3B(또는 3.5)용 헤드일 가능성이 높다.
네 시스템에서 35B A3B 헤드를 학습하는 데 몇 시간이나 걸릴까?
GPU가 부족한 사용자를 위한 방법: llama.cpp(llama-server)로 GGUF 실행하기. llama.cpp는 OpenAI 호환 API를 통해 GGUF 모델을 임베딩 엔드포인트로 서빙하는 기능을 기본 지원하며 풀링 타입 설정도 가능하다. 1. Qwen3-8B GGUF 다운로드 - 선호하는 양자화(예: Q4_K_M, Q5_K_M, Q8_0)를 내려받는다. 2. 임베딩 모드로 llama-server 시작 - --embedding 옵션으로 실행하고 풀링 타입을 last로 명시한다(버전에 따라 cls도 가능하지만 CLM은 last-token 풀링이 필수다). 이어지는 명령 예시는 llama-server -m ./qwen3-8b-Q4_K_M.gguf -c 8192 --em에서 잘려 있다.
경량 크기와 시각 지원을 갖춘 Jev 같은 모델은 일부 자동화 작업에 매우 유용할 것이라고 본다.