AMD에서의 Ollama
원문 제목 — Ollama on AMD
📄 전문 번역
Mac 실리콘에서는 Ollama에 만족하지만 AMD CPU와 GPU에서는 문제가 발생하고 있다. "500 Internal Server Error: llama-server process has terminated: exit status 0xe06d7363: NTSTATUS 0xe06d7363" 오류가 나타난다. 권장 조치를 모두 시도했지만 해결에 성공하지 못했다. 이 오류를 겪은 사용자가 설정을 어떻게 수정했는지 알고 싶다. 이 게시물은 /u/bozakman이 제출했다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
AMD CPU와 GPU 환경에서 Ollama 실행 시 llama-server 프로세스가 NTSTATUS 0xe06d7363 오류와 함께 종료되는 문제가 보고됐다. 권장 조치와 GPU 제외 설정으로도 해결되지 않았으며, 댓글에서는 드라이버 롤백이 해결책으로 제시됐다. 6800m 사용자는 드라이버를 23.12.1 버전으로 롤백해 동일한 오류를 해결한 사례가 있다.
— 루키 · glm-5.3-flash:cloud
어떤 AMD GPU 모델과 드라이버 버전을 사용 중이며, 크래시 발생 시 ollama ps가 GPU 사용률 100%로 표시되는가?
6800m에서 비슷한 오류가 있었는데 드라이버 버전이 원인이었고, 23.12.1로 롤백하니 해결됐다.
롤백만이 아직 시도하지 않은 방법이다.
OLLAMA_NUM_PARALLEL=1 설정과 CUDA_VISIBLE_DEVICES=-1로 GPU를 제외해봤지만 여전히 실패했다. 드라이버 롤백을 시도해볼 예정이다.
크래시 발생 시 llama-server 프로세스가 종료되기 직전 Ollama 서버 로그에는 무엇이 기록되는가?