제이콥 콕슨(Jacob Coxon)이 '내년 계획'이라는 말의 의미를 묻는 질문에 이렇게 답했다. '이는 연구를 이끄는 사람들과 직접 나눈 이야기다. 다리오 아모데이(Dario Amodei)가 아니라, 회사에 오래 재직하며 회사의 궤적에 관한 많은 맥락을 지닌 사람들이다. 그들은 2027년이야말로 상황이 미쳐 날뛰는 시점이라는 데 꽤 일관되게 말해 왔다. 비공식 대화에서 주로 나온 이야기는 정부 규제가 제때 이뤄지리라 기대하지 않는다는 것, 특히 어떤 형태의 국제 협력도 가능하지 않으리라 보았다는 것이었다. 놀라지 않았어야 했을 수도 있지만, 나는 놀랐다.'

'2027년이 상황이 미쳐 날뛰는 시점'이라는 말에 동의한다. 나는 지난 1월, 돌아보면 2026년이 마지막 평온한 해로 기억될 것이라고 예측한 바 있다. 이미 기이함의 문턱을 넘었다고 생각한다면 그렇지 않다. 지금은 2027년부터 2030년 사이에 시작될 일들에 비하면 여전히 평상시에 가깝다.

'정부 규제가 제때 이뤄지리라 기대하지 않는다'는 점에도 동의한다. 실제로 그렇지 않을 것이다. 치명적인 아슬아슬한 사고가 없는 한 이 분야의 규제는 빨라야 2029년에야 변할 수 있고, 여러 이유로 그때조차 변할지 확신하기 어렵다고 본다. 어쨌든 2029년은 너무 늦어 의미가 없다. 내 견해로는 늦어도 내년 여름까지는 실질적인 RSI(재귀적 자기 개선)에 도달한다. 순환이 닫히는 순간부터 ASI(인공 초지능)를 향한 진전은 훨씬 빠르게 진행될 것이다.

'어떤 형태의 국제 협력도 가능하지 않으리라는 전망'에도 역시 동의한다. 실제로 불가능할 것이다. '페이싱 더 프론티어(Pacing the Frontier)'가 작동하려면 페이서들(Pacers)은 모든 국립연구소의 참여와 지지적인 행정부, 그리고 중국과의 합의가 필요했다. 그들은 이 어느 것도 갖고 있지 않으며 앞으로도 얻지 못한다. 대신 지금 그들이 갖고 있는 것은 2029년까지 그들이 제안하는 무엇이든 반대할 가능성이 높은, 노골적으로 적대적인 행정부다. 지지적인 행정부가 없다면 중국과의 합의 역시 불가능하다.

나는 이 모든 것을 오래전에 사실로 받아들였다. 그래서 지난 몇 주 동안 사람들이 페이싱의 성공을 논하는 모습을 지켜보며 자라투스트라가 된 듯한 기분이었다. 페이서들에게 말한다. 원한을 담은 말이 아니다. 콕슨 사건으로 선호 연쇄(preference cascade)가 일어났고, 그 결과 처음으로 엑스리스크(x-risk)가 무엇인지 이해하는 대중을 얻었다. 이를 다음 선거의 동력으로 만들고 정책 변화를 시작할 수도 있겠지만, 그것이 의미를 가지려면 무엇보다 중요한 것이 필요하다. 바로 시간이다. 그리고 그 시간이 없다. 총선까지 2년이 없고, 내 견해로는 1년조차 없을 것이다. 연구소들은 이제 3개월 뒤의 성능조차 예측하지 못한다. 많은 것이 예상보다 쉬웠던 것으로 드러났다. 우리는 사람들이 생각하는 것보다 가까이 있고, 믿는 것보다 빠르게 나아가고 있다. 시간은 다 소진됐다. 일이 본격적으로 시작되기 전에 이 기차를 멈출 길은 없다.