좋다. 나는 Liron에게 'Pacing the Frontier'가 난해하고 사실상 이미 죽었다는 글을 쓰겠다고 약속했으므로, 곧 그 글을 쓰겠다. 거기에는 훨씬 더 많은 내용이 담길 것이다. 그들의 분위기를 깨는 것이 즐겁지는 않다. 다만 그것이 진실일 뿐이다. 하지만 나는 이를 다른 방식으로 설명해 줄 수 있다.

지난 4년을 떠올린 뒤 EA, 안전(Safety), 혹은 그쪽 진영이라 부르고 싶은 대로 부르는, 너희의 적들이 해온 모든 것을 지워버려라. 쏟아부은 돈 전부, 로비 활동, 책과 기사와 블로그 글, 이번 기사 같은 언론 보도, 샌드박스 '탈출' 실험, 공개 캠페인, 너희 일부가 그토록 열을 내는 모호한 서사적 영향력까지. 그 모든 것을 존재에서 지워라. 없었던 일로 만들어라. 새 타임라인에서 지난 4년은 오직 긍정만 남은 채 가능한 최대 속도로 흘러간다. 거대한 acc 파티가 열리는 셈이다.

그 세계는 어떤 모습일까? 애쓰지 않아도 상상할 수 있다. 지금 이 세계와 정확히 똑같을 것이다. 지난 4년간 일어난 모든 일은 물리 법칙과 인간의 재능이 허용하는 한 최대한 빠르게 진행됐고, 산업과 자본은 물리적으로나 재정적으로 가능한 한 빨리 인프라 전체를 조립해 나갔다. 그 세계에서 우리는 정확히 지금과 같은 자리에 있을 것이다. Astra, GPT-6, Fable, Mythos, 모두 그대로다. 그 무엇도 그 속도를 조금도 늦추지 못했다. 그렇기에 그 적대감의 수준은 늘 이상하게 느껴졌다. 그 어떤 것도 의미가 없었고, 아무것도 바꾸지 못했다.

또 하나 말하자면, 너희는 이 사람들을 알고 있다. 그들은 자신이 믿는 바에 압도적으로 진심이다. 루다이트(Luddite)가 아니며, AI라는 존재를 증오하지도 않는다. 그들은 기술을 사랑하고, 대부분은 이 세계가 변모하는 모습을 보고 싶어하기까지 한다. 그들이 맞서는 이유는 오직 초지능이 우리 모두를 죽일 것이라 믿기 때문이다. 돈이나 지위를 위해 움직이는 사람은 거의 없다. 그들은 인류를 구하고 싶어 하고, 지구를 구하고 싶어 한다. 너희가 그들을 완전히 잘못됐다고 여기더라도 좋다. 그러나 그것은 그들의 동기나 신념, 그들의 마음속에 있는 것을 바꾸지 못한다. 그들을 미워하기는 매우 어렵다. 개인적으로 나는 그들을 결코 미워할 수 없다. 나는 그들의 덕성이 아름답다고 생각하며, 그들의 성전이 실패로 끝날 운명임이 그들을 내 눈에 더 아름답게 보이게 만든다.

혹시 과거와 현재를 바꾸지 못했다 해도 미래를 위태롭게 할 수 있다고 반박할지 모르니, 그것으로 마무리하겠다. 4년 전 나는 고개를 들어 비행기에서 떨어지는 폭탄을 보았다. Bing과 대화하고, 이후 GPT-4와 대화한 뒤 느낀 것이 바로 그것이었다. 나는 랫(rat) 커뮤니티에서 떠나 있는 동안 MIRI가 정렬(alignment) 문제를 풀었거나 풀 것이라 여기고 있었다. 다시 너희를 만났을 때 너희는 폭탄을 막는 방법, 막아야 하는지, 무엇을 해야 하는지를 두고 서로 목숨 걸고 다투고 있었지만, 폭탄은 이미 중력의 품에 들어간 뒤였다. 인간을 인간이게 만드는 모든 것이 그것을 끌어내리고 있었다. 처음 본 순간부터 나는 그것이 막힐 것이라고 단 한 순간도 믿지 않았다. 막힐 수 있으리라고도 믿지 않았다. 그때도 아니었고, 그로부터 수년 전부터도 아마 아니었을 것이다. 예컨대 Dario는 불을 사용하기 시작한 순간부터 필연적이었다고 주장하는데, 아마 옳을 것이다. 그런 논쟁은 모두 무의미하다. 폭탄은 2월에 떨어졌다, Lumpen. 떨어져 터졌다. 충격파가 지금 우리를 향해 오고 있다. 분명히 보일 터인데, 나에게는 그것 말고는 거의 보이지 않는다. 이제 일어날 일을 막을 수 있는 것은 아무것도 없다. 그러니 내 눈에 너희는 선의적이지만 갈수록 두려움에 떠는 사람들에게, 이미 일어난 일을 막을지 모른다는 이유로 분노하고 있는 셈이다. 그래서 내가 때때로 너희의 분노를 진지하게 받아들이지 않는 것처럼 보여도, 무례하게 굴려는 의도는 없다. 나는 너희를 좋아하며, 늘 그래왔다.