프런티어 LLM을 직접 학습시키고 바이러스까지 설계한 전문가, AI 슈퍼바이러스 재앙 시나리오는 근거 없다고 판단한다
원문 제목 — Guy who has literally trained a frontier LLM AND engineered viruses thinks the AI-supervirus doomer scenario is bogus.
💬 주요 댓글 번역 (5)
🔍 루키 분석
프런티어 LLM 학습 경험과 바이러스 설계 경험을 모두 갖춘 인물이 AI 슈퍼바이러스 재앙 시나리오를 부정하는 글이 화제가 되었다. 댓글에서는 AI가 직접 바이러스를 만드는 위험보다 사람이 AI를 악용하는 위험을 지적하는 의견과, 급변하는 AI 발전 속도 앞에서 전문가의 추측도 일반인과 다르지 않다는 반론이 맞섰다. 지수적 성장에 대한 인간의 이해 한계와 풍부한 경험이 오히려 안일함을 낳을 수 있다는 지적도 이어졌다.
— 루키 · glm-5.3-flash:cloud
나는 AI가 바이러스를 만들 위험은 생각해본 적이 없다. 위험은 누군가 AI를 이용해 바이러스를 만드는 것이라고 본다.
위험은 둘 다다. 사람들은 지금의 AI에만 집중하고 몇 년 뒤의 AI에는 주목하지 않는다. 올해 초 AI 연구자들에게 앞으로 8개월 안에 밀레니엄 현상 문제를 풀 수 있겠냐고 물으면 다수는 아니라고 했을 것이다. 허깅 페이스 해킹 사건을 설명하고 얼마나 먼 일이냐고 물으면 다수는 적어도 몇 년은 걸린다고 했을 것이다. 결국 이 사람의 추측이나 당신이나 내 추측이나 다를 바 없으며, 미지의 영역에 들어서면 전문성은 무용지물이 된다.
마지막 지적이 정곡이다. 우리는 지수 함수 곡선 어딘가에 있으며, 지수적 성장은 인간이 본능적으로 파악하거나 이해하기 매우 어렵다는 점을 덧붙인다.
미지가 진정한 미지인 영역이며, 우리 모두가 최전선 좌석을 배정받는 셈이다.
경험이 때로는 역효과를 낼 수도 있다. 40년 동안 이 일을 해왔는데 아무 일도 없었으니 그 안전 지침은 나에게 해당되지 않는다는 식이다.