r/localllama 독자 여러분, 다시 인사한다. 개발자 concedo이다. 지난 포스트 이후 몇 달이 지났고, 오늘은 새로 공유할 것이 있어 찾아왔다. 바로 KoboldCpp에 통합형 KoboldCpp Agent Harness가 내장되어 함께 제공된다는 소식이다.

출시 시기가 다소 늦었다는 점은 알고 있지만, 복잡한 외부 에이전트 도구 설정에 불만을 느끼는 사용자들을 보고 기본 작업을 위한 쉬운 대체제를 직접 만들기로 했다. KoboldCpp는 이제 체크박스 하나로 활성화할 수 있는 에이전트 헤니스를 번들로 제공한다. 이는 Opencode, Codex, Claude Code 같은 도구의 극도로 경량화된 대체재로 작동한다. 9개의 내장 도구를 갖추고 있으며, 모든 도구를 포함해도 2k 토큰에 불과한 작은 시스템 프롬프트를 사용해 대다수 헤니스보다 훨씬 작다. 기본적인 코드 생성이나 편집, 간단한 게임과 프로젝트 제작, 파일 정리나 작업 일정 관리 같은 일반적인 에이전트 작업에 적합하다.

사용법은 GUI 런처의 Admin 탭에서 토글하거나 --agent 플래그를 실행 옵션에 추가하면 되며, 새 터미널이 열린다. KoboldCpp Agent는 서드파티 백엔드나 OpenAI Chat Completions 호환 엔드포인트에도 연결할 수 있다. mcp.json 파일을 로드하면 도구를 추가할 수 있고, MCP 도구는 에이전트에 공유된다. 참고로 MCP 도구는 KoboldCpp 서버에서 실행되고, 에이전트 도구는 에이전트 클라이언트에서 실행된다. 도구 호출 확인을 위한 on, auto, off 세 가지 승인 모드를 제공하며, 도구 호출 승인 시에는 주의가 필요하다.

원활한 작동을 위해 KoboldCpp Agent는 최소 28k 컨텍스트와 8k 생성량이 필요하며, 더 큰 값이 권장된다. 좋은 경험을 위해서는 최소 12GB VRAM을 권장한다. Qwen 3.6 35BA3B로 시작할 수 있는 .kcppt 템플릿을 다운로드해 최신 KoboldCpp에서 불러오고 실행하면 된다. AGENTS.md, 컨텍스트 압축 등 다양한 기능을 지원하며, 에이전트에서 /help를 입력하면 더 많은 정보를 얻을 수 있다. 에이전트가 이미지를 정리한 뒤 웹사이트를 만드는 쇼케이스 영상도 공개했으며, 음악 역시 KoboldCpp로 제작되었다. 놓쳤을 독자를 위해 덧붙이자면, KoboldCpp는 이제 Minimax H3 모델을 사용한 참조 이미지 기반 동영상 생성도 지원한다. 이는 이전 릴리스에 포함된 기능이지만 재미있는 영상을 만들어 함께 공유하고 싶었다. KoboldCpp는 공식 GitHub 릴리스 페이지에서 다운로드할 수 있다.

그리고 안타까운 소식도 있다. kobolcpp(dot)com이라는 가짜 피싱 사이트와의 싸움에 도움이 절실히 필요하다. 이 사이트는 블랙햇 SEO로 구글 검색 상위에 노출되어 사용자를 오도하고 스팸 팝업으로 멀웨어를 다운로드하게 만든다. 구글에 여러 차례 신고했고 웹호스팅 업체에도 신고했지만 아무 소용이 없었다. 도움을 주고 싶다면 해당 링크를 확인하기 바란다. 이것으로 마친다. concedo / LostRuins 올림.