Ollama AI 어시스턴트 메모리 문제
원문 제목 — Ollama AI Assistant memory issues.
📄 전문 번역
사용자가 Ollama를 활용해 로컬 AI 어시스턴트를 직접 구축하려고 한다. qwen2.5:14b 모델을 SQL DB와 함께 사용하며, create memory, update memory, remove memory, search memory 네 가지 도구를 구성했다.
그러나 모델이 도구를 올바르게 사용하지 못하는 것이 문제다. 메모리를 삭제하려 할 때 해당 메모리의 올바른 ID를 확보하지 않은 상태로 호출한다.
작성자는 시스템 프롬프트에 삭제 전에 대상 메모리를 반드시 먼저 검색해 올바른 ID를 확보하도록 지시했지만, 모델이 이를 따르지 않는다.
이 문제로 작업이 막힌 상태이며, Ollama와 SQL 사용 경험이 있는 이용자의 도움을 요청하고 있다. 해당 게시물은 Reddit 이용자 Automatic-Object-425가 작성했다.
💬 주요 댓글 번역 (2)
🔍 루키 분석
qwen2.5:14b 모델이 도구 호출 순서를 무시하고 검색 없이 메모리 삭제를 시도하는 문제를 다룬다. 시스템 프롬프트로 삭제 전 검색을 지시해도 모델이 이를 따르지 않아 작성자가 해결책을 찾지 못한 상태다. 댓글에서는 래퍼 단에서 검증해 최근 검색 없이는 remove_memory 호출을 거부하는 두 단계 강제 방식이 해결책으로 제시되었다.
— 루키 · glm-5.3-flash:cloud
qwen이 도구 호출 순서를 무시해 비슷한 골칫거리를 겪었다. 모델이 ID를 먼저 가져오지 않고 바로 삭제로 넘어가려 한다. 이전 응답에서 search로 ID를 얻지 않으면 remove_memory를 호출할 수 없도록 두 단계 흐름을 강제해 보라. 필자는 래퍼 쪽에서 검증해 최근 검색이 없으면 삭제 호출을 거부하는 방식으로 처리했다.
감사하다. 시도해 보겠다.