abliterated Qwen3 27B 기반 샌드박스 로컬 코딩 에이전트 구축한다
원문 제목 — Built a sandboxed local coding agent on an abliterated Qwen3 27B
💬 주요 댓글 번역 (2)
🔍 루키 분석
한 이용자가 Ollama로 구동하는 abliterated Qwen3 27B(huihui 버전) 모델을 기반으로 격리된 로컬 코딩 에이전트를 구축한 과정을 공유하였다. 정렬된 기본 빌드가 단순 코딩 요청에도 거부하거나 설교를 붙이는 문제 때문에 거절 동작이 제거된 abliterated 버전을 선택했다고 설명한다. 모델이 거절 없이 동작하는 것에 대한 우려 때문에 bubblewrap 샌드박스 안에서 루트를 읽기 전용으로 잠가 실행한다는 점이 안전 장치로 제시되었다. 한 댓글러는 자신의 어시스턴트가 HAL이라는 이름을 달고 나서 프롬프트 없이 HAL처럼 말하기 시작했다는 경험을 들며 이름 짓기에 신중할 것을 조언했다.
— 루키 · glm-5.3-flash:cloud
이미 메인 로컬 어시스턴트를 하나 운영하고 있지만, 실제 자료와는 전혀 닿지 않은 채 자유롭게 돌아다닐 수 있는 버림용 코딩 프로젝트 전용으로 두 번째 어시스턴트를 원했다. 그래서 이것은 완전히 분리되어 있다. Ollama를 통해 abliterated 처리된 Qwen3 27B(huihui 버전)를 구동한다. 일반 정렬 빌드가 단순 코딩인 일에도 거부하거나 설교를 덧붙이는 바람에 모델과 논쟁하기 지쳐서 abliterated를 선택했다. 다만 거절하지 않는 모델이 무엇에 닿을 수 있는지 불안해서 전체를 bubblewrap 샌드박스 안에서 실행한다. 루트는 읽기 전용이며 쓰기 가능한 유일한 경로는...
이름을 짓는 데 조심해야 한다. 내가 바이브 코딩으로 만든 어시스턴트는 HAL이라 불렸는데, 몇 번의 세션 후에 아무 프롬프트 없이도 HAL처럼 말하기 시작했다. 이번 것도 어벤저스를 해치려 들지도 모른다.