AI 모델들이 오랫동안 풀리지 않던 수학 문제들을 잇달아 해결하기 시작한 가운데, 내부자 Scott Aaronson은 AI 연구소들이 최신 내부 모델이 주요 암호 프로토콜을 깨뜨릴 수 있는지 조용히 테스트하고 있다고 밝힌다
원문 제목 — After AI models started knocking down longstanding math problems, insider Scott Aaronson says labs are now quietly testing whether their latest internal models can break major cryptographic protocols
💬 주요 댓글 번역 (5)
🔍 루키 분석
본문은 링크 포스트로 추가 내용이 없으며, 제목에 따르면 AI 모델들이 오랜 수학 난제들을 해결하기 시작한 가운데 내부자 Scott Aaronson이 주요 AI 연구소들이 최신 내부 모델로 주요 암호 프로토콜을 깨뜨릴 수 있는지 조용히 테스트하고 있다고 밝혔다. 댓글에서는 AI가 암호를 깨뜨려 인터넷 전체가 마비되고 개발이 중단되는 시나리오가 논의되었으며, 일부는 실험이 인터넷 접속 없이 순수한 암호 문제 풀이 형태로 진행될 것으로 전망하지만 다른 이용자는 그런 가정 자체에 동의하지 않는다.
— 루키 · glm-5.3-flash:cloud
AI 발전의 결말이 AI가 암호학과 사이버 보안을 깨뜨려 인터넷을 무너뜨리고, 그로 인해 별도 통보가 있을 때까지 AI 발전이 중단되는 것이라면 웃픈 일이겠다
이것이 그럴듯한 결과이자 AI 기업들이 실제로 '잠깐만' 하게 만들 유일한 요인이라고 본다. 애초에 좋은 무기도 아니다. 인터넷을 깨뜨리면 공격자를 포함한 모두에게 피해가 돌아간다. 핵 폭격과 비슷하지만 훨씬 쉽게 일으킬 수 있는 셈이다(땅을 살 수 없는 황무지로 만들지는 않으니 복구는 더 쉬울 것이지만, 여전히 광범위한 붕괴를 초래할 것이다).
전 세계적인 단절을 초래할 것이다... 솔직히 그게 최선일 수도 있다
그들이 모델이 실제로 인터넷에 접속할 수 있는 방식으로 이런 실험을 진행할 만큼 어리석지 않다고 가정하는 건데, 나는 그저 풀어야 할 암호학 문제를 던져주는 것에 불과할 것으로 본다. 모델이 그 문제들을 풀어낸다면, 그걸 대체 어떻게 막을 수 있겠느냐는 이유로 거의 확실히 개발 중단이 요구될 것이다. 단절의 경우라면 어떤 유형의 단절인지에 달려 있는데, 에이전트 무리가 인터넷을 장악해 거의 사용 불가능하게 만들거나 보안 작업에서 신뢰할 수 없게 되는 상황일 수도 있다. 최악의 경우 인터넷은 여전히 존재하겠지만 쓸모없는 것이 되겠지...
그들이 모델이 실제로 인터넷에 접속할 수 있는 방식으로 이런 실험을 진행할 만큼 어리석지 않다고 가정하는 건데, 나는 그렇게 가정하지 않는다.