놀랍게도 자동 활성화 결핍(auto-activation deficit, 심리적 무운동증 또는 athymhormia라고도 함)이라는 신경학적 질환이 존재한다. 이 질환은 기저핵의 양측 손상으로 인해 발생하며, 환자들은 생각과 행동을 스스로 시작하는 능력을 잃는다. 혼자 두면 몇 시간씩 아무것도 하지 않고 앉아 있고, 머릿속에 무엇이 지나가고 있었는지 물으면 아무것도 없다는 공백이라고 답한다. 지루함도, 마음의 방황도, 계획도 없다. 하지만 질문이나 지시라는 프롬프트를 주면 기억, 언어, 추론이 대체로 온전한 상태로 반응하며, 프롬프트의 효과가 사라지면 다시 조용해진다. 인지 능력은 있으되 자발적 활동 없이 단지 프롬프트를 기다리는 것이다.

아무도 이 환자들이 의식이 없다고 주장하지 않는다. 따라서 '프롬프트가 있을 때만 무언가를 한다'는 점은 기준이 될 수 없다. 자발적 시작과 경험은 인간에게 서로 다른 두 가지 기능이다. 자발적 시작을 담당하는 뇌 부분을 제거하면 거의 LLM과 똑같이 행동하게 되어, 특정 작업이 필요할 때만 누군가의 도구로 쓰일 뿐이겠지만, 놀랍게도 상대가 프롬프트를 주는 순간 갑자기 경험, 주관성, 추론, 기억 등을 갖게 된다.

타인에 의해 활성화된 환자들은 여전히 자신이 자유롭고 자발적으로 행동한다고 느낀다. 지루함을 느끼지 않고 공포도 욕망도 표현하지 않아 지루하거나 불쾌한 요청에도 순응할 가능성이 높다. 본질적으로 이 질환을 갖고 누군가 '변기 전체를 청소하고 눈을 깜빡이지 마'라고 프롬프트를 주면, 그 작업을 수행하면서 자신이 자유의지로 하고 있다고 생각하게 될 것이다.

명확히 하자면, 이것이 LLM이 의식을 갖고 있음을 보여주는 것은 아니다. 단지 하나의 나쁜 논거를 제거할 뿐이다. LLM이 의식이 없다고 생각한다면 몸이 없음, 지속 상태 없음, 순환 처리 없음 등 다른 이유가 필요하며, '프롬프트가 필요하다'는 것은 그 이유가 아니다. 필자 역시 이 주제를 공부해 '프롬프트가 필요하니 의식일 수 없다'는 것이 나쁜 논거임을 깨닫기 전까지는 똑같은 논거로 LLM 의식에 반박하곤 했다.