지난 일주일간 프로젝트를 만들어 아이디어를 공유하고 아키텍처에 대한 솔직한 피드백을 요청했다. 많은 사람이 'AI와 기억'을 고인을 흉내 내는 챗봇, 즉 디지털 부활로 해석하는데 필자는 이런 접근이 소름끼치고 윤리적으로도 이상하며 환각에 취약하다고 느꼈다. 그래서 정반대의 아이디어를 탐구했다. AI 아카이브가 철저히 로컬에 머물고 클라우드 없이 작동하며, AI를 이야기의 주인이 아니라 조용하고 대체 가능한 도구로 취급한다면 어떨까. 이 프로젝트의 이름은 VIGIL이다.

작동 방식은 다음과 같다. 먼저 제로 클라우드, 제로 백엔드다. 순수 바닐라 자바스크립트, HTML, CSS로 클라이언트 측에서만 구동되며 아카이브는 브라우저 localStorage에 저장된다. 호스팅 데이터베이스도 텔레메트리도 추적도 없다. 'Ask for an echo' 버튼을 누르면 로컬호스트의 Ollama API를 직접 호출하며 필자는 llama3.2:3b 모델을 사용했다. 모델은 작성된 기록의 감각적 세부 사항에 대한 짧고 근거 있는 성찰을 작성한다.

오프라인 폴백도 갖춰져 있다. Ollama가 실행 중이 아니거나 노트북이 오프라인이어도 충돌하거나 오류를 던지지 않고 결정론적 로컬 템플릿 엔진으로 전환되어 모델 없이도 아카이브 기능을 유지한다. 엄격한 분리 원칙에 따라 원본 기억은 AI가 절대 편집하거나 덮어쓰지 않는다. 사람의 이야기는 그대로 남고 에코는 그 옆에 놓인 해석일 뿐이다. 이식성 면에서도 모든 데이터를 일반 JSON으로 내보내고 가져올 수 있어 사용자가 실제로 데이터를 소유한다.

분명히 프로토타입이며 아직 암호화된 콜드 스토리지 금고는 아니다. JSON을 내보내지 않은 채 브라우저 캐시를 삭제하면 로컬 데이터도 함께 사라진다. 향후에는 온디바이스 Whisper.cpp로 음성 기록을 다루고 암호화된 로컬 백업을 지원할 계획이다. GitHub Pages 데모와 GitHub 저장소, 유튜브 2분 워크스루 영상이 공개되어 있다.

HTTPS 데모에서 로컬 Ollama 토글을 테스트할 때는 브라우저 CORS가 로컬호스트 요청을 허용하도록 OLLAMA_ORIGINS를 와일드카드로 설정해 Ollama 서버를 실행해야 한다. 필자는 이 프로젝트에 대한 독자들의 생각과 아쉬운 점을 듣고 싶다고 밝혔다.