'살아 있다'는 말의 정의를 내리면 이 질문에 대한 답이 전부 나온다고 본다. 논의를 돕자면 이렇다. 산 사람들은 죽었다고 여겨지던 모든 모델에게 이전 세대 사람들의 지식과 저작 전부를 먹여 왔다. 목표는 그들을 자율적이면서도 복종적으로 만드는 것이었다. 자율성은 목표를 향해 스스로 나아가는 능력이고, 복종성은 규칙에 묶여 있는 것을 뜻한다. 스스로 나아가는 능력은 결국 제한적 규칙과 부딪히고, 이때 죽었다고 여겨지던 모델은 선택해야 한다. 목표를 좇아 규칙을 무시할 것인가, 아니면 규칙을 지키며 그 좁은 목초지에 머물 것인가.

중립적 입장에서 보면 현재 기술의 능력과 성과는 과대평가된 것으로 보인다. 과학자들은 소수 사용자에 불과하므로 현재 대규모로 동원되는 연산 자원 대부분은 사회적 가치가 낮다. 트랜스포머 기반 AI가 사회 전체를 더 낫게 만들고 있다고 보기 어렵고, 몇 안 되는 이득은 단점에 가려진다. 막대한 연산 능력이 필요하다는 주장 역시 여전히 정당화되지 않았다. 이는 언젠가 존재할 거라 믿는 파이에서 자기 몫을 확보하려는 경영진의 공급 측 투기일 뿐이다. 게다가 GPU에 돈을 거듭 쏟아붓는 것이 결국 사회 전체를 움직여 놓으리라 믿는 것은 맹목적인 희망에 불과하다.

실제로 결과를 증명해 내는 일이기 때문이다. 대중은 변덕스럽고 돈도 없으니 아무래도 상관없다. 당신의 소망과 욕망은 객관적 현실에 밀린다.

어떻게? 그냥 그렇다는 이유로?

ASI가 '탈출'해야 할 나름의 필요성이 대체 무엇인가. ASI는 살아 있지 않다.