일리야는 무엇을 본 걸까? 하하 완전 미쳤다!

P(유토피아), P(구원 잠재력). 구원 잠재력 얘기를 시작해보자. 모두가 멸망 위험만 논한다. 인간만 있을 때보다 AI가 인류를 구원할 잠재력은 어떤가? AI는 인류의 궤적을 바꾸고 인류를 스스로로부터 구원하는 존재가 될 수 있다. 그래서 나는 둠스터나 안전 연구자들을 경멸한다. 그들은 이런 예측으로 논의의 균형을 맞추지 않으니까.

그 관점을 지지하는 견해는 어차피 우리는 이미 100% 망했다는 것이다. 현실적으로 봐라, 파괴적 기후변화 영향으로부터 우리 스스로를 구할 만큼 변할 확률은 0%다. 특이점에 올인하는 것이 유일한 출구다. 둠스터가 옳더라도 어차피 이미 망했으니 상관없다.

기후변화도 나쁘긴 했겠지만 인류 100% 멸종 수준은 아니었다. AI 둠은 기후변화 둠을 완전히 압도한다. 나도 지금이 그 어느 때보다 P(유토피아)가 높다는 데 동의한다. 변동성이 극심한 시대다.

1999년에 MTV에서 뮤직비디오를 보던 시절을 상상해보라. 26년 뒤에는 컴퓨터가 스스로 뮤직비디오를 만들기 시작했다니.