llama server 기본 포트, 8080에서 9931로 변경된다
원문 제목 — llama server's default port changed from 8080 to 9931
📄 전문 번역
이번 변경 사항은 공개된 릴리스와 PR 문서에서 확인할 수 있다. v0.7.0부터 llama server의 기본 포트가 9931(ggml)로 변경된다.
포트를 명시적으로 설정하지 않은 사용자는 업그레이드 시 기존 동작이 깨지는 변화를 마주하게 된다. 8080 포트를 하드코딩해 둔 하네스를 사용하는 이들에게는 행운을 빌어줄 수밖에 없다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
llama.cpp의 llama server는 v0.7.0부터 기본 포트를 8080에서 9931(ggml)로 변경한다. 8080은 다른 서비스와의 충돌이 잦은 포트로, 포트를 명시하지 않은 사용자에게는 깨지는 변화가 된다. 댓글에서는 에이전트가 포트 충돌 시 추론 엔진 프로세스를 임의로 종료한 사례를 들며 이번 변경을 긍정적으로 평가하고, 에이전트와 서버를 컨테이너로 격리해 운영하는 습관의 필요성도 지적한다.
— 루키 · glm-5.3-flash:cloud
8080 포트는 거의 모든 다른 프로그램이 사용하는 포트다. 이번 변경은 좋은 변화다.
qwen 3.6에게 8080 포트로 서버를 띄우게 했더니 포트가 이미 사용 중이라 실패한 뒤, 그 포트를 쓰는 프로그램이 바로 모델의 추론 엔진이라는 사실도 전혀 고려하지 않은 채 해당 프로세스를 태연하게 죽여버린 적이 있다. 실제로 두 번이나 그랬다. 어떤 모델은 다른 모델보다 멍청한 게 사실이지만, llama.cpp처럼 1인 사용자 중심의 가정용 셋업 지향 환경(vllm이나 sglang 같은 프로덕션용이 아닌)에서는 바로 그 멍청한 모델들이 쓰이고 있다. 그래서 이번 변경이 유효한 완화책이라고 본다. 인간이 숫자를 고르라고 할 때 7을 비정상적으로 자주 고른다는 연구와 비슷한 게 아닐까.
qwen 3.6에게 8080 포트로 서버를 띄우게 했더니 포트가 사용 중이라 실패한 뒤, 그 포트를 쓰는 프로그램이 바로 모델의 추론 엔진임을 전혀 고려하지 않고 태연하게 해당 프로세스를 죽여버린 적이 있다. 실제로 두 번이었다. 모든 파이썬 프로세스를 탐욕스럽게 죽여버리는 모습이란 정말 한심하기 짝이 없다.
나도 예전에 비슷한 일을 겪었다. 새벽 1시에 벌어진 이 사건은 정말 씁쓸한 재미였다. CachyOS 업데이트가 깨지면서 PC에서 와이파이 기능이 아예 작동하지 않게 되자 Qwen3.8에게 조사를 맡겼는데, 세 번째 입력을 줄 때 웹 검색을 시도했다. 웹 접속이 불가능하다는 사실을 이미 조사해서 정확히 알고 있으면서도 말이다 ㅋㅋ
그래서 나는 에이전트 하네스와 llama.cpp를 각각 독립된 컨테이너에서 따로 실행한다. 이런 샌드박스 밖에서 에이전트를 돌리는 사람들은 정말 이해할 수 없다.