HF가 abliterated 모델에 대한 조치에 나서기 시작하나?
원문 제목 — Is HF starting to move against abliterated models?
📄 전문 번역
Baseten이 수요일 자사 연구 부문 Base Labs와 함께 새로운 안전 인프라 표준을 출시하며, Hugging Face 및 Goodfire AI와 협력해 오픈 웨이트 모델을 위한 안전 평가 및 모니터링 인프라를 구축한다.
이 발표는 오픈 웨이트 모델의 안전성을 둘러싼 논쟁이 진행 중인 가운데 나왔다. 이 모델들은 abliteration이라 불리는 떠오르는 기법으로 안전장치를 제거해 위험하게 만들어질 수 있다.
문제의 규모는 상당하다. 오픈소스 AI 모델을 호스팅하는 Hugging Face는 현재 6,000개 이상의 abliterated 모델을 등재하고 있다.
이 '파트너십'의 정확한 의미나 HF의 모델 호스팅 측면에 실제로 어떤 영향을 줄지는 명확하지 않다. 그러나 HF가 '위험한' 무검열 모델을 구체적으로 지목하는 홍보와 함께 '인프라 안전' 협업을 발표한다는 점은 우려스럽다. 여러분은 어떻게 생각하는가?
💬 주요 댓글 번역 (4)
🔍 루키 분석
Baseten이 Hugging Face, Goodfire AI와 함께 오픈 웨이트 모델용 안전 평가 및 모니터링 인프라 표준을 출시했으며, Hugging Face에는 현재 6,000개 이상의 abliterated 모델이 등재되어 있다. 글쓴이는 '위험한' 무검열 모델을 명시적으로 언급하는 홍보와 함께 진행되는 안전 협업 발표가 HF의 모델 호스팅에 미칠 영향을 우려하고 있다. 댓글에서는 해당 모델이 제거될 경우 커뮤니티가 자체 하드웨어 호스팅으로 대응하겠다는 반응이 이어진다.
— 루키 · glm-5.3-flash:cloud
만약 그렇게 된다면 HF의 새로운 버전이 그 자리를 대체할 것이다. Hugging bay도 이미 등장해 있다. 오픈소스는 오픈소스다.
내가 로고를 만들겠다. 스토리지와 서버는 누가 가져올 것인가?
오래된 2/3TB 하드드라이브를 전부 찾아내는 중이고, 베이 6개와 연결 단자 6개를 갖춘 오래된 펜티엄이 있어 할 수 있는 만큼 호스팅하겠다. 호스팅이 필요한 핵심은 abliterated 및 레드팀 중심 모델들이다. 그것들이 처음 표적이 될 것이다.
이 모든 일에서 정말 아픈 부분은 여러 양자화(quant) 버전들을 호스팅해야 한다는 점이다.