상황을 제대로 짚어보자. 예컨대 2024년의 xz utils ssh 백도어를 기억하는가. 당사자들은 거의 성공할 뻔했는데, 그것이 하필 지구에서 가장 많이 관찰되는 코드베이스에서 벌어진 일이었다. 결국 전혀 상관없는 다른 작업을 하던 누군가가 우연에 가깝게 잡아냈다. 오픈 소스든 아니든 전체 생태계가 얼마나 취약한지 실감하지 못하겠다면 해당 사건을 읽어보기 바란다.

이제 상대적으로 관찰이 덜 되는 저장소, 즉 에이전트 하네스, LLM 추론 엔진, LLM 모델 자체에는 무슨 일이 일어날 수 있고 어쩌면 이미 일어났을지 상상해 보라. 새로운 프로젝트는 매주 하나씩 쏟아진다. 그리고 아니오, Opus 5.5 구독이 이런 백도어를 쉽게 잡아내 주지 못한다.

현실은 무법지대나 다름없다. llamacpp, strata 등 신생 엔진의 저장소 관리자가 악의적일 필요조차 없다. 이들 도구가 설치하는 수천 개 패키지와 라이브러리 중 어디선가 완벽하게 정상적으로 보이는 풀 리퀘스트 하나가 승인된 뒤 몇 달, 몇 년씩 조용히 잠들어 있는 것만으로 충분하다. 급변하는 신생 LLM 생태계는 이를 위한 완벽한 비옥한 토양이다.

필자는 인기 하네스 및 또는 추론 엔진에 이미 최소 하나의 백도어가 잠들어 있을 확률을 100%로 추정한다. 지금 필자를 비난해도 좋다. 하지만 속으로는 필자가 옳을 가능성이 높다는 것을 스스로 알고 있을 것이다. 읽어줘서 고맙고, 불안해하기 바란다. 필자는 원래 이런 식으로 글을 쓰며, 이 글은 LLM이 생성한 것이 아니다.