로컬 AI 장기 기억 및 사용자 개인화 모듈 추천
원문 제목 — Recommendations for Local AI Long-Term Memory and User Personalization Modules
💬 주요 댓글 번역 (5)
🔍 루키 분석
로컬 LLM에 장기 기억과 사용자 개인화 기능을 구현하는 방법을 묻는 질문글로, 커뮤니티에서는 완전 오프라인으로 동작하는 ULM(Universal Local Memory)과 Hindsight 등의 솔루션이 제안되었다. 한 이용자는 JSON 노트 저장, 코사인 유사도 기반 검색과 리랭크, 백그라운드 LLM을 통한 노트 간 관계 그래프 구축 등 직접 구현 시의 핵심 단계를 소개했다. 게시자는 프로필 사실, 에피소드 기억, 대화 요약으로 기억을 나누는 구조에 공감하며 NeuraKeep의 로컬 실행 가능 여부와 라이선스를 추가로 문의했다.
— 루키 · glm-5.3-flash:cloud
kangteam님, 지금 만들고 계신 프로젝트가 제가 운영하며 오픈소스로 공개 중인 ULM(Universal Local Memory)과 정확히 일치하는 것 같습니다. ULM은 Ollama로 Windows에서 구동되는 로컬 모델을 위한 100% 로컬, 클라우드 의존성 제로 인지 메모리 엔진으로 설계되었습니다. 내장 데이터베이스 기반으로 완전히 오프라인에서 실행되기 때문에 외부 API 호출이나 프라이버시 유출이 전혀 없으며, 이는 컴패니언 앱과 무검열 롤플레이에 필수적인 요소입니다. 요구 사항 처리 방식: 1. 로컬 데이터베이스 및 서버 부담 제로: FTS가 적용된 WAL(Write-Ahead Logging) 모드의 내장 SQLite에서 실행됩니다
깃허브에 Vivid 챗 앱이 있습니다. 채팅 앱은 종류가 많습니다.
덧붙이자면 처음부터 직접 만드는 것도 크게 복잡하지 않습니다. 기본적으로 다음이 필요합니다. 1. 노트를 JSON으로 저장한다. 2. 코사인 유사도와 topk, 리랭크로 검색한다. 3. 검색된 관계를 추가로 가져온다. 3. 노트 간 관계(그래프)를 찾는 백그라운드 크론 LLM 프로세스를 실행한다. 4. 채팅을 노트로 요약한다. 채팅은 위 네 가지를 활용하며, 검색된 노트와 대화 기록을 항상 주입하고 컨텍스트가 한계에 근접하면 가장 오래된 내용을 압축한다.
Hindsight도 활용할 수 있는 또 다른 선택지입니다.
유익한 조언 감사합니다. 안정적인 프로필 사실, 에피소드 기억, 최근 대화 요약을 분리하는 방식은 우리 로컬 컴패니언 프로젝트에 매우 타당해 보입니다. NeuraKeep에도 관심이 있는데, 전체 프레임워크를 채택하거나 클라우드 API에 의존하지 않고 메모리 검색 및 저장 구성 요소만으로 Windows에서 완전히 로컬로 실행하며 기존 애플리케이션에 통합할 수 있을까요? 오픈소스라면 소스 코드 링크와 라이선스 정보도 공유해 주시면 감사하겠습니다. 다시 한번 제안을 나눠 주셔서 고맙습니다.