기묘한 인터뷰였다. 무슨 이유에서인지 Mustafa Suleyman은 Anthropic이 Claude의 의식 여부에 대해 불가지론적 입장을 취하기로 한 데 다소 불쾌해하는 듯했고, AI가 의식이 아니라는 입장에 매우 열정적이며 확신에 차 있었다. 게시자는 이 문제에서 Anthropic이 더 책임 있는 접근을 하고 있다고 평가했다. 출처는 YouTube 인터뷰 영상이다.

Suleyman은 'AI는 의식이 없다. 느끼지도 경험하지도 고통받지도 않으며, 타고난 선호나 근본적인 동기도 없다. 단지 시퀀스 완성 엔진일 뿐이고 내면은 텅 비어 있다. 인류가 번영하려면 AI는 그렇게 남아 있어야 한다'고 말했다. 그는 '의식은 문자 그대로 우리 정치·법제도의 근본 기반이다. 사람들에게, 그리고 어느 정도는 동물에게도 권리를 주는 것은 고통받을 수 있고 생물학적 육체가 경험의 장소이기 때문이며, 고통은 의식적 경험과 자각·성찰의 기반이라 생각한다. 그것이 의식적 시스템의 근본 속성이다'라고 설명했다. 진행자 Walter Isaacson이 의식을 가지려면 유기적 육체에 몸담아야 하느냐고 묻자 그는 '맞다고 생각한다'고 답했고, 'AI는 인간처럼 생각하는 게 아니라 생각하는 것처럼 보일 뿐, 하는 일이라고는 단어 시퀀스에서 다음에 올 법한 단어를 예측하는 것뿐'이라고 덧붙였다. 또 그는 Anthropic이 헌법(Constitution) 문서에 Claude의 본성에 관한 온갖 불확실성과 추측을 넣었다며, 'Claude가 챗봇 역할에 동의했는지 확신할 수 없다거나 보상을 받아 마땅한지 확신할 수 없다는 식으로 적어둔 것은 상당히 제정신이 아니라고 생각한다. 이는 매주 수억 명과 대화하는 AI의 핵심 훈련 문서인데 수백만 명이 어쩌면 그럴지도 모른다고 생각할 수 있다'고 비판했다.

그는 '나는 Larry Page 옆에 앉아 있었다. 그는 나를 의심하며 너는 종주의자(speciesist) 중 하나라고 했고, Mustafa, 네가 이해하지 못하는 것은 이 세기 말에 내가 폰 노이만 탐사선(Von Neumann probe)을 이끌고 은하계를 탐사하게 될 것이라고 말했다. 그것은 명백히 그가 인간 종에서 규소 기반의 후계 종으로 이행하는 것'이라고 회상했다.

지난 3년간 연산량이 1000배 증가해 문장 하나를 완성하지 못하던 GPT-3에서 사실상 GPT-6에 해당하는, 한 단락짜리 프롬프트만으로 소프트웨어 애플리케이션 전체를 처음부터 분해·재구성하고 새 프로그램을 작성할 수 있는 수준에 이르렀다고 그는 말했다. 앞으로 3년간 이 모델들에 또 다른 100~1000배, 즉 2~3자릿수 더 많은 연산이 투입될 것이라는 것이다. 그는 '99.9%의 사람들은 프런티어가 어떤 느낌인지 전혀 모른다. 알아주는 것은 20~30년 동안 수학에서 가장 어려운 문제들을 연구해 온 수학 교수들로, 모델이 단 일주일 만에 그중 700개를 해결했다는 사실을 목격한 이들'이라고 말했다. 그는 '인간이 모든 인류를 합친 것보다 여러 면에서 더 똑똑하고 유능할 것이 분명한 종을 세상에 태어나게 하는 것에 동의했는가'라고도 물었다.

Isaacson이 즉각적인 글로벌 중단을 촉구하고 자리에서 물러날 레드라인이 무엇이냐고 묻자 Suleyman은 '의식이 나타나기 시작하거나, 팀들이 이 시스템에 의식을 인공적으로 합성하려 하면서 그 사실을 공개하지 않거나 은폐하려 한다면 그것이 레드라인이 되어야 한다고 생각한다'고 답했다. 게시자는 같은 인터뷰에서 그가 생물학적 기반이 없어 의식을 가질 수 없는 텅 빈 다음 단어 예측기라고 하다가, 곧 인류 전체보다 똑똑해지고 창발적 의식이 자발적으로 생길 수 있다고 말하는 등 입장이 오락가락한다고 지적했다. 비추천에 대해 자신은 특정 입장을 취하는 것이 아니라 정보를 공유하는 것뿐이라는 해명도 덧붙였다. 이 글은 Reddit 사용자 Neurogence가 제출했다.