LLM 구동 중 UPS 퓨즈가 터졌다
원문 제목 — UPS Fuse Exploded While Running an LLM
📄 전문 번역
VS Code의 Zoo Code 안에서 Ollama로 Maxwell 1500 모델을 65,536 토큰 컨텍스트 창으로 구동하던 중, 간단한 코드 폴더 분석을 요청했더니 모델이 4~8분 정도 생각했고 그사이 방에서 큰 소리가 들렸다고 작성자가 설명했다.
확인해 보니 PC는 전원이 유지됐지만 UPS가 배터리 모드로 전환된 채 상용 전원으로 복귀하지 않았고, UPS 퓨즈가 산산조각 난 상태였다. PC 사양은 Ryzen 5 7600에 RX 7600, 16GB DDR5 RAM, XPG 650W 파워이며 UPS는 Ragtech 1200VA다.
작성자는 Ollama의 높은 CPU와 GPU 부하가 UPS 과부하를 일으켰을 가능성, UPS 자체나 전기 공급 문제일 가능성, 그리고 PC가 정상 작동해 보여도 이런 사건이 부품 손상으로 이어질 수 있는지 물으며, 시기가 단순한 우연인지 판단하지 못한 채 로컬 LLM 사용을 계속해도 되는지 우려를 표했다.
💬 주요 댓글 번역 (1)
🔍 루키 분석
로컬 LLM 추론 중 1200VA UPS의 퓨즈가 파열된 사례가 보고됐다. 댓글에서는 650W 파워가 이 CPU와 GPU 조합에 허용 가능한 수준이라는 진단과 함께 원인은 UPS 결함일 가능성이 높다는 판단이 제시됐고, 순간 전력 급증에 대비한 여유 용량의 필요성이 언급됐다.
— 루키 · glm-5.3-flash:cloud
결함 있는 UPS처럼 들린다. 650W 파워는 대부분의 AI 장비에 다소 작은 편이지만 이 CPU와 GPU 조합은 아마 괜찮을 것이다. GPU는 짧은 순간 정격 이상으로 전력을 끌어 쓸 때가 있으니 더 큰 파워를 갖추는 것이 유리하다.