훌륭한 스레드다. 전부 사실이다. 과거에 비슷한 말을 했을 때 사람들은 내가 모델의 미래 능력을 과장한다고 비난했다. 그런 이유로 글을 쓰는 것이 아니다. 나는 어떤 연구소에도 소속되지 않았고, 어디서도 돈을 받지 않으며, 홍보 대가를 받은 적도 없다. 나는 오직 한 가지 이유, 다가올 것을 사람들에게 경고하기 위해 이곳에 왔다.

Terence Tao는 약 2년 전 OpenAI의 o1에 대해 '완전히 무능하지는 않은 평범한 (정적 시뮬레이션) 대학원생에게 조언하는 수준이었다. 실제로 무능한 대학원생 시뮬레이션에 가까웠던 이전 모델들에 비하면 개선된 수준'이라 평했고, '능력이 한두 차례 더 개선되고 컴퓨터 대수 패키지, 증명 보조 도구와 통합되면 유능한 대학원생의 정적 시뮬레이션 수준에 도달해 연구 수준 과제에서 상당히 유용한 도구가 될 것'이라 전망했다.

그러나 4일 전 타오는 '그 후 무슨 일이 일어날지 전혀 모르면서 모든 것을 바꾸려는 우리의 의지가 놀라울 정도다. 극도로 비선형적인 역학이다. 조금 좋으니 많이 하면 훨씬 좋을 것이라는 단조로운 일차원적 사고는 대부분의 시스템에서 통하지 않으며, 특히 10배, 100배로 늘릴 때 더욱 그렇다. 속도를 늦춰야 한다. 이 속도는 미쳤고 이렇게 빠를 이유가 전혀 없다'고 말했다.

타오는 그 모습을 보았다. 이 글은 그를 비하하려는 것이 아니며, 필자도 4년 전 이 형태를 처음 봤을 때 같은 것을 느꼈다. 지금 세계는 수학에서 일어나는 일 속에서 같은 패턴을 보고 있으나 이것은 수학에 국한되지 않는다. OpenAI는 수학 회사가 아니라 지능 회사이며, 충분한 컴퓨트가 확보되면 모델은 인간 전문성의 더 많은 영역, 그리고 결국 모든 영역으로 확장해 모든 사람이 타오처럼 같은 과정을 겪게 될 것이다. 'Pacing the Frontier'의 진짜 이유는 규제 포획이나 경쟁 견제가 아니라 두려움이며, 지난 6개월간 모든 일이 Anthropic이나 OpenAI의 예상보다 빠르게 진행됐다고 그곳에서 일하는 사람들이 공공연히 말하고 있다.

기존 타임라인은 모두 무너졌다. RSI(재귀적 자기 개선)는 2년 뒤가 아니라 1년도 채 남지 않았고, 필자는 내년 여름까지 실제 단계에 도달할 것으로 본다. 그 후 다음 이정표도 매우 빠르게 통과한 뒤 세상의 모든 것이 바뀔 것이며, 우리는 준비되어 있지 않고 10년이 더 있어도 준비되지 않았을 것이다. 지금은 극도로 유능한 모델의 도움으로만 견딜 수 있고 지금 멈추려 하면 모두가 파멸할 것이라 생각하지만, 지난 4년간 우리가 멈출 것이라 믿은 적은 한 번도 없다. 속도를 늦추지도 않을 것이며 우리는 곧장 나아갈 것이고, 유일한 출구는 그 안을 통과하는 것이다.