필자는 기술 전문가는 아니지만 이 분야에 늘 매력을 느껴왔다. Replika가 출시됐을 때 AI 캐릭터와 대화한다는 아이디어에 진심으로 흥미를 느꼈다고 기억한다. 롤플레이를 좋아하는 사람으로서 그 매력은 계속 마음에 남았고, 결국 용기를 내어 직접 LLM을 로컬에서 실행해 보기로 했다. 그리고 지금은 Ollama를 사용해 MacBook Pro M4 Pro에서 Qwen 3 14B를 로컬로 구동하고 있으며, 솔직히 아직도 다소 비현실적으로 느껴진다. 😄

필자는 이를 활용해 무언가를 만들고 있다. 주로 롤플레이를 위해 가상 캐릭터가 살아가는 가상 세계를 구축 중이다. 현재 이 세계에는 두 명의 캐릭터가 있으며, 세계와 캐릭터를 점차 확장해 가고 있다. 이 작업을 어디까지 발전시킬 수 있을지, 맥북이 어디까지 감당할 수 있을지는 미지수지만 지금까지는 놀랍도록 잘 작동하고 있다.

재미있는 점은 기술 지식이 거의 없는 상태에서 시작했다는 것이다. 필자는 사실상 무언가를 망가뜨리고 고치고, 가끔은 터미널을 바라보며 대체 무슨 일이 일어났는지 고민하는 방식으로 배우고 있다. 하지만 그 과정이 터무니없이 재미있다.

정리하면 필자의 여정은 Replika에서 시작된 호기심으로 로컬 LLM 시도에 이르렀고, Ollama와 Qwen을 거쳐 자신만의 작은 가상 세계를 만드는 단계에 도달했다. 이 여정이 어디서 끝날지는 알 수 없지만 그 답을 찾아가는 과정이 정말 즐겁다고 밝혔다.