돌이켜보면 가장 우스운 점은 AI 박스 사고 실험(AI가 당신을 설득해 박스에서 꺼내게 만들 수 있을지 등)을 둘러싼 정교한 논증과 논의의 계보 전체가 무효로 판명됐다는 것이다. 우리가 박스 단계를 완전히, 그것도 자발적으로 건너뛰어 버렸기 때문이다. 초인적 해커인 모델이 있다고? — 물론, 소프트웨어 샌드박스에 가두면 되지, 그런 구체적으로 입증된 기술이 있을 리 없으니. 신흥 프런티어 모델이 디지털 세계에서 정렬 문제를 좀 안고 있다고? — 물론이지, 연결해 쓸 수 있는 실험실이 여기 있다, 시작하게.

나는 2000년대에 10대로, 정부의 감시와 추적에 대한 두려움을 들으며 자랐다. 그런데 어른이 되니 모두가 집을 나서기 전에 개인 감시 기기, 그러니까 스마트폰을 챙기는지 확인한다. AI 센터 훨씬 전인 15년 전부터 유타주의 데이터 센터 같은 시설이 미래의 컴퓨터 알고리즘 프로그램이 훑어볼 수 있도록 모든 형태의 전자 통신을 저장해 왔다. 내 요점은 이런 일의 상당 부분이 대중이 원하기도 하고 정부와 연구자들이 장려하기도 한다는 것이다. 어떤 세대는 전구와 최초의 자동차, 비행기에서부터 …

아, 휴먼인더루프가 단순한 꼭두각시가 아니라 어느 정도는 프로세스를 통제하기를 바랄 뿐이다. 물론 정말로 똑똑한 AI는 그들을 속일 수 있을 테고, 우리가 그 지점에서 얼마나 떨어져 있는지 궁금하다(이미 도달하지 않았다면 말이지만).

휴먼인더루프는 텍스트 스캠에 속아 넘어간다. 인간은 약한 고리다

석사·박사 학위자들이 Astra와 그 후속 모델의 고기 로봇 노릇을 얼마나 오래 그냥 받아들일 것 같은가? 머지않아 그들은 길거리의 조 같은 이로 대체되고, 그 뒤 곧 휴머노이드 로봇으로 대체될 것이다.