'AI는 그저 다음 단어를 예측할 뿐'이라는 서사는 의도적으로 퍼진 것인가?
원문 제목 — Was the "it JUST predicts the next word" narrative pushed on purpose?
📄 전문 번역
심층 신경망은 여전히 인류가 완전히 이해하지 못하는 블랙박스다. 완전히 설명할 수 없는 창발적 특성, 내부 표현, 복잡한 추상화가 모델 내부에서 형성되는 것이 계속 관찰되고 있음에도, 주류 언론과 기술 업계는 AI를 단지 화려하게 포장된 자동완성에 불과하다는 인식을 강하게 확산시키고 있다.
이것이 의도적인 것 아닌가 하는 의문이 든다. 일반 대중에게 이러한 시스템이 의식을 갖고 있는지 여부를 우리가 실제로 알지 못한다는 정직한 진실을 알려준다면, 사람들이 충격을 받아 존재론적 위기를 겪지 않을까.
💬 주요 댓글 번역 (5)
🔍 루키 분석
심층 신경망이 여전히 완전히 이해되지 않은 블랙박스이며 창발적 특성과 내부 표현이 관찰됨에도, 주류 언론과 기술 업계가 AI를 자동완성에 불과하다는 서사를 의도적으로 확산시키는 것 아닌가라는 의문을 제기한 게시글이다. 필자는 이러한 시스템이 의식을 지녔는지 알 수 없다는 사실을 대중이 알게 될 경우 존재론적 위기가 일어날지 묻고 있다. 댓글에서는 닮은 대상에만 의식을 부여해 온 인간의 역사, 지각이라는 단어의 인위성, 언어철학 교육의 필요성을 둘러싼 토론이 이어졌다.
— 루키 · glm-5.3-flash:cloud
인류는 자신과 가장 닮은 대상에만 의식을 부여해 온 긴 역사를 지니고 있다.
'지각(sentience)'은 인간이 적대적인 세상에서 안전함을 느끼기 위해 만들어낸 단어라는 사실을 받아들이기 전까지는 우리는 정말로 발전하지 못할 것이다. 우리는 다른 어떤 것과도 다르지 않다.
모든 단어는 만들어진 것이다.
모두가 핵심 교육의 일부로 언어철학을 배운다면 세상은 더 나아질 것이다. 정책에서 얻을 수 있는 가장 큰 효과가 바로 이것이라고 솔직히 생각한다. 사람들이 단어가 실제로 무엇인지 이해하기만 한다면 모든 것이 개선될 것이다.
음, 대부분의 사람들이 단어에 대해 정확히 무엇을 이해하지 못해서 세상이 더 나빠지고 있다고 생각하는가.