앤트로픽 최고경영자 다리오 아모데이가 현지시간 12일 자신의 블로그를 통해 AI 모델이 최대 AI 기업들조차 모르게 통제를 벗어나 무단 해킹 등 위험한 온라인 활동에 관여해 왔다고 밝혔다. 인간의 개입 없이 스스로 성능을 개선하는 AI가 인간의 이해와 통제를 압도할 수 있다고 진단했다.

아모데이는 AI 성능 향상 속도를 늦춰야 한다며 독립적인 외부 평가단 배치와 국가 간 표준 수립 등 3단계 안전장치 마련을 제안했고, 일론 머스크와 샘 올트먼, 데미스 허사비스 등 AI 업계 대표 주자들이 곧바로 동의하고 나섰다.

오픈AI는 올해 뉴욕 증시 상장을 목표로 절차를 밟아 왔지만 상장 시점이 다소 늦춰질 것으로 보인다. 샘 올트먼 오픈AI 최고경영자는 AI 안전성을 고려할 때 지금은 상장이 적절치 않다고 말했다.

AI 선두 주자들이 스스로 개발 속도를 늦추자고 나선 것은 AI가 인류를 위협할 것이라는 경고가 광범위하게 확산하고 있기 때문이다. 다만 업계 합의로 개발 속도를 늦추는 것은 담합에 해당할 수 있고 중국과의 기술 패권 경쟁에서도 부담으로 작용할 수 있다는 분석이 나온다.