Ornith1.5-9B 언센서드 모델이 작동하지 않는다
원문 제목 — Ornith1.5-9B uncensored doesn't work
📄 전문 번역
게시자는 Q4K_M 양자화로 찾을 수 있는 거의 모든 방법을 시도했지만 Ornith1.5-9B 언센서드 모델이 유해성 테스트 프롬프트를 모두 거부한다고 보고했다. 쓸 만한 버전이나 정상 작동 방법을 아는 사람이 있는지 물었다.
💬 주요 댓글 번역 (4)
🔍 루키 분석
언센서드로 배포된 Ornith1.5-9B 모델이 Q4K_M 양자화에서 유해 프롬프트를 거부하는 문제를 다룬 글이다. 댓글에서는 하위 버전 1.0-9B 시도와 함께 SC117의 Ornith-1.5-35B 계열 GGUF가 소개되었으나, 작성자는 하드웨어 한계로 35B급은 구동이 어렵다고 밝혔다.
— 루키 · glm-5.3-flash:cloud
1.0-9B도 꼭 시도해 보겠다. 고맙다.
아, 미안하다. 그 부분을 놓쳤었다. SC117 쪽에도 뭔가 있을 것 같다.
정말 멋져 보이지만 35B는 도저히 돌릴 수 없다. 9B 모델을 알아보고 있었다. PC를 업그레이드한 뒤에 꼭 확인해 보겠다.
SC117의 Ornith-1.5-35B-A3B-Heretic-MTP-APEX-GGUF 모델이 바로 그것이다. 정말 환상적이다.