VS코드 에이전트 채팅에서 로컬 LLM 활용하기
원문 제목 — Use Local LLM within VScode agent chat
📄 전문 번역
VS코드의 에이전트 인터페이스에서 로컬 LLM을 쓰기 위해 Ollama 확장을 사용해 왔지만 성능이 만족스럽지 못했다. 자주 렉이 걸리거나 진행 상황에 대한 정보가 없거나, 응답이 JSON 형태로 돌아오는 문제가 반복됐다.
이에 코드를 호스티드 서비스로 보내지 않고 채팅에서 AI 지원을 받고 싶은 이들을 위해 Local Ollama Chat이라는 VS코드 확장을 직접 만들었다.
이 확장은 로컬 Ollama 서버에 연결되며, 프로젝트 워크스페이스를 탐색하고 파일을 읽어 질문에 답한다.
또한 사용자 승인 없이는 아무것도 적용되지 않도록, 검토 가능한 diff 형태로 파일을 생성하고 편집하는 기능을 갖췄다.
로컬 에이전트 채팅 창 안에서 동작하며 @local-ollama로 호출할 수 있다. 아직 초기 단계라 피드백과 버그 리포트를 환영한다.
💬 주요 댓글 번역 (4)
🔍 루키 분석
VS코드 에이전트 채팅에서 공식 Ollama 확장의 불안정성을 대체하기 위해 개인이 개발한 로컬 LLM 채팅 확장이 소개됐다. 이 확장은 로컬 Ollama 서버 연결, 워크스페이스 파일 탐색, 사용자 승인 기반 diff 편집 기능을 제공한다. 댓글에서는 기존 Ollama 연동으로도 충분하다는 의견과 파일시스템 접근에 대한 보안 우려가 함께 나왔다.
— 루키 · glm-5.3-flash:cloud
물론 멋지지만, 일반 Ollama도 이미 파일 편집이 가능하다. 우분투나 페도라의 인텔리제이, 윈도우의 VS코드에서 별도 설정 없이 바로 작동하며 로컬과 클라우드 모두에서 파일을 편집하고 불필요한 코드 레이어도 없다. 추가 기능이 필요 없다고 말하는 이유는, 당신의 스택이 어떻게 작동하는지 논리와 의도를 코드로 직접 파악해야 하기 때문이다. 그런 이유로 당신이 만든 무언가가 내 시스템을 탐색하게 두는 일은 조심스럽다. 최적화되지 않은 스택이 아닌지 확인하려면 저장소를 내려받아 탐침을 넣는 방식으로 검증해야 한다.
이 확장은 diff 리뷰나 워크스페이스 인식 같은 쓸모 있는 편의 기능을 더하는 것으로 들리지만, 파일시스템을 뒤지는 낯선 코드를 실행하는 것에 대한 경계심은 이해할 만하다.
이해해 줘서 고맙다. 그건 평균적인 사용자가 아닌 내 관점일 뿐이니 걸러서 들어달라.
말씀에 공감한다. 나는 코딩과 테스트를 챗 에이전트에 크게 의존하는 초보 개발자인데, 아무리 Ollama를 좋아해도 공식 확장은 자꾸 멈추거나 이상한 JSON 출력과 오류만 내뱉어 쓸 수 없었다. VS코드 확장 스토어의 kline 등 다른 확장도 시도했지만 모두 실패했고, 결국 내 요구에 맞는 확장을 직접 만들게 됐다.