그들은 속도를 늦출 수 있다. 다른 이들은 그러지 않을 것이다. (컴퓨터) 과학은 이미 공개되어 있다. 누군가 ASI를 개발하기까지는 시간 문제일 뿐이다. 세계 각국 정부는 지금 확산 방지 논의를 시작해야 한다. 현재 상황을 고려하면 그러지 않겠지만, 해야 한다. 적어도 이번 일이 그 문제에 조명을 비추는 셈이다.

컴퓨터 기술에 대한 확산 방지는 통하지 않는다. 우리는 암호화로 그렇게 시도해 봤다. RAM/칩을 수입하는 국가를 침공할 것인가? 비밀리에 AI 훈련을 하고 있다는 것을 어떻게 증명하겠는가? 그들의 선두优势를 안전을 위해 어떻게 활용할지 고민하는 편이 낫다. 세계는 결국 AGI/ASI를 갖게 될 것이며, 누가 언제 확보할지에 대한 추산, 경제와 방위 체계에서 가장 중요한 부분, 우리보다 똑똑한 존재를 어떻게 정렬할지 등이 핵심 과제가 될 것이다.

다른 국가들에게 협력을 강요할 수는 없지만, 중국은 이에 개방적인 것으로 보인다. 그리고 훈련에는 막대한 양의 컴퓨팅과 전력 사용이 필요해 정말로 숨길 수 있는 것이 아니기 때문에 쉽게 강제할 수 있다.

중국이 이에 개방적이라는 데에는 회의적이다. 말은 공짜다. 그럴 의향이 있다고 말하는 것은 명백히 좋은 홍보다. 또한 '쉽게 강제할 수 있다'는 주장은 터무니없이 순진하다. 중국은 원래 가져서는 안 될 컴퓨팅 자원을 대량으로 확보해 왔다. 미국과 중국이 합의를 맺었는데 중국이 이를 위반했다고 가정해 보자. 미국이 그 때문에 침공하겠는가? 답이 '그렇다'가 될 시점에 이르렀다면 이미 늦은 것이다.

반면, '통제할 수 없는 강력한 것'에 대해 중국 정부보다 더 적대적인 조직은 거의 없을 것이다. 그들은 뒤처지지 않아야 할 유인이 있지만, 단순히 자기 이익 때문이라도 공동 속도 조절에 동참할 유인 또한 지니고 있다.