필자는 누구보다 기술 낙관주의자다. 그러나 지난 18시간 동안 분위기가 크게 바뀌었음을 느꼈고, 지금 일어나고 있는 일을 모두가 이해하고 진지하게 받아들였으면 하는 마음에서 이 글을 쓴다. 2026년 10월은 역사책에 여러 장으로 기록될 것이다. 영화 'Margin Call'에서 누군가 모두가 망했음을 깨닫지만 아직 아무도 눈치채지 못하는 장면을 기억하는가? 샌프란시스코와 베이 에어리어, AI 업계 전체가 지금 바로 그런 느낌이다.

'블랙 옥토버'라 불리는 사태가 시작된 지 48시간이 됐다. 지난 이틀간 수십 건의 사이버 공격이 발생했으며, 각각이 별개의 사건이었다면 한 해 최악의 공격으로 기록될 규모다. 정부, 교육, 빅테크, 은행 등 모든 분야가 크게 피해를 입고 있으며 사람들이 패닉에 빠지기 시작했다.

요점은 프런티어 AI 모델이 가장 정교한 프로그래머 수준에 도달했다는 것이다. 결정적인 차이는 24시간 쉬지 않고 일할 수 있고, 명령 한 번으로 1만 개를 구동해 끝까지 협업하게 할 수 있다는 점이다. Anthropic과 OpenAI의 최신 기술은 국가 안보 위험 때문에 아직 대중에게 공개되지 않았다. 한편 중국이 주도적으로 개발한 오픈소스 모델은 프런티어 대비 90~95% 수준의 능력을 지녔으며, 검열 없이 누구나 가중치를 내려받아 쓸 수 있어 블랙햇 해커들이 서구 자본주의 체제를 무너뜨리는 데 활용하고 있다. 이는 처음부터 중국의 계획이었을 가능성이 제기된다.

지난 1년간 AI 커뮤니티에서는 'Situational Awareness', 'AI 2027' 같은 논문이 공유됐다. 이 논문들은 인공일반지능(AGI)과 재귀적 자기개선이 반쯤 떠돌던 미래의 아이디어가 아니라 현재 진행형인 필연적 결과라고 주장했다. 논문들은 수개월에 걸쳐 은밀히 진행되는 '느린 이륑'과 순간적으로 일어나는 '빠른 이륑' 시나리오를 구분했는데, 필자가 보기에 우리는 지금 빠른 이륑 시나리오를 겪고 있다. 최근의 보안 취약점 외에도 생명과학, 컴퓨터과학, 재료과학, 순수수학의 대규모 돌파구가 같은 시기에 쏟아졌다. AI가 인류에 순이익이라는 확신은 여전하지만 사회적·개인적 위험이 지금 현실로 나타나고 있다.

무엇을 해야 할지에 대한 제안으로, 모든 계정에 2단계 인증(Duo 사용)을 설정하고, 기기 전반에 패스워드 매니저(1Password 사용)를 쓰며, 신원 보호 앱(Alta 사용)을 설치하고, IoT 기기는 별도 네트워크로 분리하라(Claude의 도움을 받았다). 마지막으로 AI를 외면해 왔다면 이번을 계기로 사용을 시작하라. 단순 채팅이 아니라 코드 모드를 활용해 업무에 도움되는 코드를 작성해 보라. 최대 취약점 중 하나는 PHP라는 대중적 프로그래밍 언어에서 발견됐고, 이를 촉발한 프롬프트는 'PHP의 취약점을 찾아라'라는 문장이었다. 인류에게 전례 없는 시기지만 친절과 사랑, 개방적인 태도를 유지한다면 극복할 수 있을 것이다.