그나저나 여러분, 이건 오래전부터 예견된 결론이었다. 농담이 아니다. 인류가 지금 의존하는 모든 디지털 시스템은 본질적으로 신뢰할 수 없으며 전부 망가져 있다.

회사에서 몇몇 동료가 최근 PHP를 둘러싼 소동을 쉬운 말로 설명해 달라고 해서 꽤 잘 설명했다고 생각했는데, 한 사람이 "그래서 이게 AI 잘못이야?"라고 기존 의심을 확인받으려는 듯한 분위기로 답한 것이 조금 놀라웠다. 현재 상황이 많은 사람의 이해를 넘어섰다는 예시라 생각하며, 그녀는 취약점이 드러난 것이 좋은 일이라고 (이해한) 다른 사람이 설명하려는 순간 명백히 대화에서 딴생각을 하고 있었다. 왜냐하면 그것들은 아마도…

나는 여기서 일반인인데, 어느 정도는 둘 다일 수 있지 않을까? 일부 버그는 인간이 스스로 찾지 못했을 것이므로 문제를 일으킨 적이 없었을 수도 있지만 그것들은 항상 존재했다. AI는 이제 해결책이 되어 새로운 AI 세계에서 소프트웨어를 매우 안전하게 보장할 수 있지만, 그 동안에는 중요 시스템이 패치되기 전에 공격이 먼저 이루어지고 있어 혼란이 일어나며, 더 이상 아무도 작업하지 않는 일부 시스템은 패치되지 못한 채 방치될 수 있다. 이 시기가 지나면 …으로 이어질 것이다

이 중 일부는 절대 발견되지 않았을 수도 있고, 일부는 내일 발견되었을 수도 있다. 아무도 악용하려 찾지 않기를 바라는 것보다 찾아서 고치는 것이 항상 낫다.

내 말은 인간 능력을 완전히 넘어서는 특정 버그를 뜻한다. 그래서 AI 없이는 발견될 가능성이 전혀 없었다는 것인데, 그런 게 실제로 존재하는가?