서비스는 같은 기본 포트를 사용한다. 해당 포트를 사용하는 서비스 프로세스를 종료한 뒤 serve를 실행해야 한다. 나는 모델을 사용하려면 serve를 써야 한다... 그러니 100% 작동한다.

나도 그렇게 해봤지만, 모델에 대해서는 다른 디렉터리를 사용한다.

그건 환경 변수로 설정할 수 있다. 내 것은 서비스와 같은 디렉터리를 사용한다. CORS도 꺼야 했다.

그럼 시도해 보겠다.

나는 ollama serve에서 문제를 겪은 적이 없다. 오래 사용하지 않을 머신에 nix로 임시 ollama를 설치해 쓰기도 했다. 공식 ollama 사이트에서 설치했다면 bash ollama run tiny-dolphin을 실행해 보라. 테스트용 작은 모델을 다운로드한다. 그다음 serve를 시도하고, 새 터미널 탭에서 bash ollama start를 실행한 뒤 원래 탭으로 돌아와 원하는 모델을 실행해 보라.