이 게시물은 인간이 작성했으니 그렇게 대해주길 바란다. 감사한다. 최근에는 특히 50기가바이트 미만의 작은 크기에서 코딩과 에이전틱 도구 호출 모델을 최대한 좋게 만들려는 뚜렷한 관심이 보인다. 하지만 적어도 내가 AI를 사용하는 방식에서는 대형 공급자에서 정말로 벗어나려면 현재 나와 있는 것들보다 더 나은 세계 지식을 갖춘 모델이 필요하다는 것을 깨닫고 있다.

Qwen 3.8 27B는 수많은 작업에서 정말 훌륭한 모델이다. 지능이 매우 높고 애플리케이션 설계와 코딩, 내 시스템에서의 작업에 매우 뛰어나다. 하지만 프론티어 모델과 비교하면, 특히 내가 구동해야 하는 Q4 양자화에서는 세계 지식이 형편없다. 그래서 의문이 남는다. Qwen 3.8 Next에 탑재되고 있고 앞으로 나올 모델에도 적용될 것으로 보이는 새로운 Ngram 기술을 활용하면, 지적 능력의 범위는 좁되 세계 지식은 훨씬 많은 모델을 만들 수 없는 것인가?

지금 모두가 가능한 한 똑똑한 모델을 가능한 한 작은 공간에 담는 방향으로 최적화하고 있다는 것은 이해한다. 하지만 왜 SSD를 활용해 모델에 방대한 세계 지식을 심어서 스크린샷 처리, 다국어 능력, 픽셀 아트 같은 작업이나 물리학 질문 답변에 더 뛰어난 모델을 만들지 않는가? Ngram은 VRAM에 다 담을 수 없다는 문제에 대한 해답처럼 보인다. Qwen 3.8 Next는 적어도 많은 사용 사례에서 이런 모델이 개발되는 방식에 완전히 다르고 더 나은 패러다임이 있을 수 있다는 가능성을 열어준다. 상대적으로 똑똑하면서 방대한 세계 지식을 갖춘 모델이 최대한 똑똑한 모델보다 나을 수도 있다. 게다가 새로운 Ngram을 만들어 붙일 수 있게 되면 모델의 학습 데이터 기준 시점이 덜 중요해진다는 점도 있다.

물론 시장 점유율을 가져올 수 있는 것은 코딩을 최대한 잘하는 모델이기에 관심이 거기에 쏠리는 것은 당연하다. 하지만 이런 방향의 노력이 존재하는지, 혹은 왜 이런 시도가 더 자주 이뤄지지 않는지에 대한 아이디어가 있는지 궁금하다. 내가 왜 틀렸는지, 어떻게 틀렸는지, 몇 가지 방면으로 틀렸는지 알려달라. 어차피 다들 그 말을 하고 싶겠지만 적어도 나는 뭔가 배울 수 있을 테니까. 이 게시물에서 알 수 있듯 내가 무슨 말을 하는지조차 모르는 상태니까. 감사하고 좋은 하루 보내기 :)

추가: Ngram vs Experts explained라는 게시물을 찾았는데 내가 물었던 것에 대한 답을 많이 준다. 추가2: No, Engrams won't let you run 1T models locally라는 글이 더 좋으니 읽어보길 권한다. 레딧 제안에 감사한다.