새로운 GPT Astra와 Fable 5.1이 나왔지만 아직 격차가 완전히 좁혀진 것은 아니다. 다만 우리는 근접해 있다. 그리고 99% 인구에게 필요한 최상위 기능은 이미 오픈소스로 공개되어 있다. 그래서 그렇다, 격차는 반드시 좁혀질 것이다

'99% 인구에게 필요한 최상위 기능은 이미 오픈소스로 공개되어 있다'는 부분이 정말 중요하고 흥미로운 부분이다. 원하는 작업을 수행할 수 있는 모델이 있다면 '격차'가 좁혀졌는지가 무슨 상관인가. 더 높은 성능을 요구하는 작업을 하지 않기에 Deepseek가 나에게는 프론티어의 끝이었다. 그리고 27B는 이전에 Deepseek로 에스컬레이션하던 작업 대부분을 로컬에서 처리한다. '비용을 감수하더라도 최고의 지능'이 필요한 사용 사례가 있는가. 물론 있다. 연구, 군사, 의료(어쩌면) 등이다. 하지만 그것들은 극히 틈새시장에 불과하며, 현실은 다른데도 시장을 독점할 것처럼 기업 가치가 매겨져 있다

완전히 동의한다. 중요한 것은 격차를 좁히는 것이 아니라 주어진 작업에 필요한 최소 수준의 능력에 도달하는 것이다. 특정 작업에 대해 그 수준에 도달하면 이미 놀라운 SF 같은 성취이며, 프론티어 모델이 더 잘할 수 있는지는 중요하지 않다. 내가 정말 기대하는 것은 몇 년 후(4~5년) deepseek v4 pro 모델을 구동할 하드웨어를 갖추는 것이다. 이 모델은 dsv4f(현재 256GB VRAM에서 q8로 구동 중인 모델)보다 훨씬 많은 활성 파라미터를 가지고 있다. dsv4f는 좋은 모델이지만 활성 파라미터가 부족하여 순차 추론으로는 완전히 보완할 수 없다. 그래서 나는 그것이 필요하다

그렇다, DSV4Pro는 훌륭한 모델이고 오픈소스이기 때문에 하드웨어가 충분히 저렴해져 구동할 수 있을 때까지 기다리기만 하면 된다. 여전히 새로운 Mac 기기의 사양을 기다리고 있는데, 더 큰 모델(여전히 터무니없이 비싸지만 Pro6000보다는 저렴하다!)이 합리적인 속도로 구동할 수 있을지도 모른다. 몇 년 후에는 절반 가격에 구입할 수 있게 될 것이고, 그때부터 점점 흥미로워지기 시작할 것이다

정확히 맞다. 동료들이 Sonnet이 자신들의 작업에 충분하지 않다고 주장할 때면 정말 이해할 수 없다. 모든 작업에 최소한 opus가 필요한 일을 도대체 무엇을 하는 건지 모르겠다. 우리는 그저 CRUD 엔드포인트를 만들고, 데이터베이스 스키마를 변경하고, 가끔 React 컴포넌트를 만들 뿐인데 그것이 어떻게 Fable을 정당화하는지 모르겠다