Ollama serve 명령어가 파이썬과 함께 작동하지 않는다
원문 제목 — Ollama serve command doesn't work with python
📄 전문 번역
WebUI를 사용해볼 생각이었는데 ollama serve 명령어에서 큰 문제에 부딪혔다. Ollama API를 사용하는 파이썬 스크립트를 만들었는데, Ollama 서버를 수동으로 실행하지 않고 자동으로 처리되게 두면 아주 잘 작동한다.
그러나 ollama serve를 실행하면 파이썬의 API 호출이 터미널에 표시되면서도 아무것도 반환하지 않는다(예: ollama.list()가 빈 값을 반환한다). ollama 서버가 떠 있는 터미널 창을 ctrl c로 종료하면 다시 정상 작동한다.
서버가 PC 시작 시 자동으로 실행되고 수동으로 실행하면 충돌이 발생하는 것으로 추측하지만, 이를 확인하는 방법을 모르겠다. 필자는 Linux Mint Cinnamon을 사용 중이다.
수정: Ollama 서비스를 완전히 종료한 뒤 ollama serve를 다시 실행했지만 여전히 전혀 작동하지 않았고 파이썬 API도 작동하지 않았다.
💬 주요 댓글 번역 (2)
🔍 루키 분석
Ollama 서버를 수동으로 실행할 때 파이썬 API 호출이 빈 응답을 반환하는 문제가 보고되었다. 해당 사용자는 Linux Mint Cinnamon 환경에서 서비스 자동 실행과의 충돌을 의심했으나 서비스를 완전히 종료한 후에도 문제가 해결되지 않았다. 댓글에서는 curl 테스트로 리스너 바인딩 여부를 확인하고 파이썬의 base_url 설정을 점검하라는 진단 방법이 제시되었다.
— 루키 · glm-5.3-flash:cloud
터미널에서 serve가 실행 중인 상태로 로컬 11434 포트의 api/tags 엔드포인트에 curl 요청을 보내보라. curl이 실패하면 리스너가 바인딩되지 않은 것이고, 성공하면 파이썬의 base_url 설정이 잘못된 것이다.
시도해보겠다. 하지만 서버가 실제로 API 호출을 수신하고 있다는 점은 확인했다.