앤트로픽(Anthropic) CEO 다리오 아모데이가 최첨단(프론티어) AI의 발전 속도를 늦춰야 한다고 주장하며 안전성 투자만으로는 부족하다고 발언해 주목받고 있다. 샘 알트만과 일론 머스크 등 주요 AI 기업 CEO들이 동의했고 머스크는 'is right'라는 반응을 보였으며, 프론티어 AI 모델을 개발하는 회사 전반이 이 주장에 공감하는 것으로 전해졌다.

아모데이는 근거로 보안 위협을 제시했다. 해킹 사태의 심각성을 지적하는 보안 리포트와 에이전트 공격 사례를 언급하며, 6~12개월 안에 에이전트 집단이 지속적인 봇넷을 구축해 인터넷 전체를 장악하고 수천억 달러의 피해를 입힐 수 있다고 주장했다.

다만 실제로 발전 속도를 늦출 수 있을지에 대해서는 회의적인 시각이 많다. 단순히 멈추자고 호소한다고 발전이 멈추지 않는다는 지적이며, 안전 문제만으로 이번 발언을 설명하기 어렵다는 비판도 나온다. 한 회사만 속도를 늦추면 경쟁사에 밀리기 때문에 업계 전체가 함께 느려지자는 것 아니냐는 추측이 제기됐고, 업계 전체가 막대한 자금을 쏟아붓는 상황에서 혼자 늦추면 곧바로 뒤처지는 만큼 다른 CEO들의 동의도 이해된다는 분석이다.

업계 전체의 속도 조화는 공통 규제와 안전 기준 마련으로 이어진다. 규제가 시행되면 평가·보안 문서와 외부 감사 비용이 늘어나는데, 모델 출시 전까지는 이 비용을 감당하면서도 수익을 낼 수 없어 대규모 자본 투자를 받은 대형 기업이 아니면 후발주자가 따라가기 어렵다는 것이다. 후발 기업의 급성장을 막는 일종의 펜스(장벽) 전략으로 볼 수 있다는 것이다.

재무적 이익도 거론된다. 앤트로픽은 IPO를 앞두고 있어 속도 경쟁이 완화되면 막대한 훈련 비용과 컴퓨트 지출 압력이 줄어 수익성을 강조하며 IPO를 진행하기 유리해진다. 혼자 비용을 줄이면 경쟁에서 밀리지만 업계 전체가 함께 느려지면 IPO에도 유리하다는 것이다. 이번 발언에는 앤트로픽에 유리한 요소들이 섞여 있다는 분석도 나왔다.

한편 안전만이 진짜 우려라면 복잡한 규제 대신 모델 가중치를 대중에게 공개하라는 반론도 나왔다. 가중치가 공개되면 독점 모델 판매 기대가 사라져 기업 가치와 대규모 투자가 뒷받침되지 않고 후속 자금이 끊기면서 개발 경쟁도 자연스럽게 느려진다는 논리다. 아울러 이번 규제 논의가 후발 기업의 진입을 막고 선두 기업의 이익을 보호하는 역할을 할 수 있다는 지적도 제기됐다. 이번 발언은 이처럼 다양한 관점이 오가는 가장 뜨거운 화제가 됐다.