Open WebUI 서브레딧에서 답변을 얻을 수 있을지 확인하기 위해 글을 옮겨온다. 두서없는 글이어서 사과하며, 게시물이 규칙에 어긋난다면 관리자는 삭제해 주기 바란다. 로컬 LLM을 막 시작한 초보라 목표를 적절한 용어로 표현하는 데 어려움을 겪을 수 있지만 최선을 다해 문제를 요약하겠다.

윈도우 머신에 도커를 설치하고 Ollama와 Open WebUI를 함께 구동해 gemma4:31b 모델까지 완벽하게 실행하는 데 성공했다. nativefier로 .exe 파일까지 만들어 채팅 창을 브라우저 탭과 독립적으로 사용할 수 있게 했다.

실험하려는 것은 책상에서 작업하는 동안 AI가 무작위로 메시지를 보내게 하는 기능이다. AI 자체의 도움을 많이 받아 Open WebUI API 키와 URL을 담은 .env 파일을 만들고, 이를 파이썬 스크립트로 불러와 주요 기능을 구현했다. 프로젝트의 개념은 설정한 시간 창(현재 1~4시간) 내에서 무작위로 AI가 머신을 스캔해 열려 있는 창과 유튜브, 비디오 게임, 업무 등 활발히 사용 중인 창을 확인한 뒤 감지한 내용을 바탕으로 결정을 내리는 것이다. 업무 프로젝트에 몰두하는 모습이 보이면 보통 조용히 있지만, 다른 상호작용 없이 유튜브를 시청하는 모습이 보이면 프롬프트 없이도 독립적으로 응답을 생성한다. 이 응답은 유튜브에서 무엇을 보고 있는지 묻는 일반적인 대화형 질문부터 진행 중인 업무 프로젝트의 도움이 필요한 부분을 묻는 것까지 다양하다.

파이썬 스크립트는 단 하나의 뼈아픈 예외를 제외하면 완벽하게 작동한다. 스크립트의 주 기능은 PC와의 상호작용 맥락을 바탕으로 정확하고 흥미로운 응답을 생성하는 것이며, 찌르기(poke)를 결정하면 윈도우 알림 팝업을 띄우는데 알림 창에 표시되는 내용은 매우 잘 작동한다. 응답은 동적이고 개인화되어 있고, 때로는 재치 있으며, 오랫동안 작업을 이어가지 못하면 게으름을 지적해 웃음을 자아내기도 한다.

고장 난 부분은 AI가 1~4시간 동안 상호작용이 없으면 지루해져 찌르도록 프로그래밍되어 있음에도, 그 찌르기 응답을 Open WebUI 채팅 창에 실제로 기록하지 못한다는 것이다. 윈도우 알림을 놓치면 AI가 한 말을 놓치게 된다. AI의 도움으로 파이썬 스크립트 안에서 활성 채팅에 응답을 직접 쓰도록 여러 방법을 시도했지만 모두 405 에러가 발생했다. AI가 문제를 설명하며 준 답변 중 하나는 이렇다. 솔직히 말하면 트리거 방식(사용자로서 메시지를 보내기)에서 405 Method Not Allowed가 뜬 것은 결정적 증거이며, 해당 Open WebUI 설치가 API를 하드락했다는 뜻이다. 서버는 질문(Completions)은 허용하지만 API 키로는 채팅 데이터베이스에 메시지를 추가하는 것을 허용하지 않으며, 실제 브라우저 세션(로그인 쿠키가 있는)만 그것을 허용한다는 것이다. 내부 API, 정문, 트리거 방식, 다이내믹 헌트 등 그 채팅 창으로 들어가는 모든 문을 시도했지만 서버가 모두 닫아버렸다고 한다. 여기서 막다른 길에 도달한 것일까. 시도하려는 것이 불가능한 일인지, 더 나은 설명이 필요하면 기꺼이 확장해 설명하겠다.