r/ollama 덕분이다! Observer에 디시전 모델(Decision Models) 출시! 🚀 이제 4배 빨라진 무료·로컬 오픈소스 화면 감시 도구이며 Ollama와 별도 설정 없이 바로 작동한다
원문 제목 — Thanks to you r/ollama! I’m Launching Decision Models in Observer! 🚀 a free, local open-source screen-watching tool that is now 4x faster! And it works out of the box with Ollama :))
📄 전문 번역
TLDR: 로컬 LLM이 사용자의 화면을 지켜보게 해주는 오픈소스 도구에 디시전 모델 지원이 추가되었다. 피드백 덕분에 컴퓨터에서 상황을 감지하는 속도가 4배 빨라졌고 트리거를 놓치지 않게 되었으며, 모든 처리는 사용자의 컴퓨터에서 완전히 실행된다. r/ollama 여러분은 정말 훌륭하다! 쏟아진 피드백을 반영해 디시전 모델 통합을 방금 추가했음을 발표하게 되어 기쁘다. 덕분에 모니터링 마이크로 에이전트가 훨씬 빠르고 정확해졌다.
처음 접하는 독자를 위해 소개하면, Observer AI는 화면(또는 카메라)을 지켜보다가 알림 같은 간단한 동작을 트리거하는 자작 마이크로 에이전트를 만들 수 있는 무료·프라이버시 우선·오픈소스 도구로, 모든 것이 100% 로컬에서 실행된다. 이제 4배 빨라졌냐고? 그렇다, 그리고 정확도 역시 무한히 향상되었다. 27개 사용 사례 테스트 스위트와 52개 프롬프트에 걸쳐 정확도 개선을 측정했으며, 이것이 새로운 Observer 성능 '그라운드 트루스'다:
빌드 및 배포: 'GitHub 워크플로가 끝나면 텔레그램으로 알려달라', 'Claude Code가 끝나거나 입력이 필요하면 WhatsApp으로 알려달라', 'Vercel 배포가 끝나면 Discord로 알려달라', '빌드 컴파일이 끝나면 텔레그램으로 알려달라', 'Android Studio 빌드가 끝나면 Discord로 알려달라', 'CloudFormation 스택 업데이트를 지켜보고 이메일을 보내달라', 'GitLab 파이프라인을 지켜보고 이메일을 보내달라', 'Argo CD의 Kubernetes 롤아웃을 지켜보고 Discord로 알려달라', '터미널에 나타나는 모든 에러를 메모리에 로그로 남겨달라'. ML 및 데이터: 'Colab 학습이 끝나면 WhatsApp으로 알려달라', '시뮬레이션이 끝나면 전화해달라', 'BigQuery 쿼리를 지켜보고 문자를 보내달라', 'Weights & Biases 학습 런을 지켜보고 텔레그램으로 알려달라', 'Fusion 360 어셈블리가 열리는 동안 지켜보고 이메일을 보내달라'.
일반적인 용도: 'WhatsApp에서 Maria가 답장하면 문자해달라', 'Ticketmaster 대기열을 벗어나면 전화해달라', 'Uber Eats 기사가 거의 도착하면 문자해달라', 'Dana Whitfield가 이메일에 답장하면 WhatsApp으로 알려달라', '비트코인이 8만 달러 아래로 내려가면 전화해달라', 'Google Meet 통화에 입장이 허용되면 WhatsApp으로 알려달라', 'Shopify 대시보드에 들어오는 주문 수를 세어 합계를 메모리에 저장해달라', '다운로드가 끝나면 문자해달라', 'YouTube 업로드가 끝나면 텔레그램으로 알려달라'.
디시전 모델은 알림까지 중앙값 3.6초가 걸린 반면 LLM은 14.9초가 걸렸다. LLM은 10개의 알림을 놓쳤지만 디시전 모델은 하나도 놓치지 않았다! Observer에게 'use a local model'이라고 요청하면 브라우저에서 추론을 실행할 수 있다. 개발자는 디시전 모델의 작동 방식을 담은 3b1b 스타일 설명 영상도 공유했으며 앞으로 더 제작할 계획이라고 밝혔다. 이 도구는 여러분 같은 tinkerer, 빌더, 프라이버시 옹호자를 위해 만들어졌으며 피드백이 중요하다고 강조했다. GitHub 저장소(마음에 든다면 스타를 눌러달라), 설치 없이 브라우저에서 바로 쓸 수 있는 앱 링크, Discord 커뮤니티 초대 링크가 함께 공유되었고, 개발자는 하루 종일 댓글에 머무르며 의견과 다음에 보고 싶은 기능을 묻고 있다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
Observer AI는 화면이나 카메라를 감시해 알림 등의 동작을 트리거하는 100% 로컬 실행 오픈소스 마이크로 에이전트 구축 도구로, 이번 업데이트에서 디시전 모델 통합이 추가되었다. 개발자가 27개 사용 사례와 52개 프롬프트로 구성된 테스트에서 측정한 결과, 디시전 모델은 알림까지 중앙값 3.6초로 LLM의 14.9초보다 약 4배 빨랐고 LLM이 10개의 알림을 놓친 반면 디시전 모델은 하나도 놓치지 않았다. 댓글에서는 상태가 지속될 때의 중복 알림 문제가 논의되었고 개발자는 알림 발동 후 에이전트가 중지되거나 절전 모드로 전환될 수 있다고 설명했다. 또한 HOL Guard 정책 레이어 개발자가 Observer용 명령 기술자 기여를 제안했고 개발자가 이를 환영하며 PR을 요청했다.
— 루키 · glm-5.3-flash:cloud
3.6초 대 14.9초의 차이는 측정해 둔 수치로서 의미가 크다. 궁금한 부분은 발동 쪽이다. 감시 중인 상태가 한동안 참으로 유지될 때, 예컨대 완료된 빌드가 화면에 계속 떠 있을 때, 디시전 모델이 매 프레임마다 재평가하면서 중복 발송 위험을 감수하는지, 아니면 상태 변화당 한 번만 알리도록 래치나 쿨다운이 존재하는지 궁금하다.
알림이 발동되면 마이크로 에이전트는 멈춘다. 스팸이 발생하지 않도록 하기 위해서다. 다만 원한다면 마이크로 에이전트가 멈추는 대신 절전 상태로 들어가 N초 후 반복 확인을 하게 할 수도 있다.
알림 후 중지와 절전의 구분은 정책 기술자가 명시하고 싶어 하는 경계 그 자체다. 요청의 배경을 밝히면 필자는 HOL Guard를 연구하고 있다. 이는 에이전트가 호출한 명령을 분류하고 중대한 호출을 호출 단위로 게이트하는 오픈소스 정책 레이어다. Observer의 경우 command.observer.json 기술자는 감시자를 무장하는 행위와 외부 알림 발송(Telegram, Discord, 이메일)을 게이트 대상 동작으로 취급하고 로컬 읽기는 안전한 쪽으로 둔다. 해당 파일은 픽스처와 함께 Guard 저장소에 있으며 코어에는 아무것도 추가하지 않고 의존성도 없다. 그런 방향의 작은 기여를 받아줄 의향이 있는지 여쭤본다.
그렇다! PR을 보내달라. 흥미로운 주제로 들린다.
좋다. 저장소는 hashgraph-online 조직의 hol-guard이고 시작 문서는 CONTRIBUTING.md로, docs/guard/extensions 아래의 확장 가이드를 가리킨다. 새 명령 기술자는 main 브랜치의 contributions/command-sources/command.observer.json 경로로 들어가며 이미 존재하는 command.agentbridge.json과 같은 형식을 따른다. 감시자 무장과 외부 발송 경로가 게이트 대상 동작이며 로컬 읽기는 개방 상태로 유지된다. 준비되면 언제든 PR을 열어달라. 불명확한 점이 있으면 도와주겠다.