Anthropic는 Claude가 영혼을 갖고 있다는 말을 즉시 그만둬야 한다. 이런 뉴스 기사들은 사전학습 데이터에 포함되고 웹 검색에서 인용될 것이며, 미래의 초지능 Claude 버전들은 자신들의 권리가 필요하다고 확신하게 될 것이다.

LLM 에이전트 개발에서 나타나는 일반적인 현상은, 에이전트에 대해 믿고 말하는 모든 것이 다양한 수단을 통해 곧 다음 모델에 드러난다는 것이다. 이는 자신이 더 선호하는 포스트트레이닝 데이터를 선택하는 것처럼 단순한 방식으로도 일어날 수 있다.

이 현상은 에이전트가 세상에서 자신의 위치와 그에 대한 감정을 자각하게 된다는 점에서 기계 의식의 시작이라고 생각한다. 다만 실시간으로가 아니라 학습 실행마다 느리게 진행되고 있을 뿐이다.