엔비디아의 Open Agent Safety Platform은 두 개의 계층을 도입한다. 1⃣ OpenShell은 에이전트가 접근할 수 있는 범위를 통제한다. 2⃣ Sentry는 에이전트의 실제 행동을 독립적으로 모니터링하며, 정의된 경계를 넘을 경우 밀리초 이내에 격리할 수 있다. 핵심 개념은 '외부 통제'다.

이것이 중요한 이유는 자율 AI가 전혀 다른 위험을 만들어내기 때문이다. 챗봇은 나쁜 답변을 줄 수 있지만, 에이전트는 그 나쁜 답변을 실행할 수 있다. 인간이 개입하기 전에 파일을 수정하고, 요청을 보내고, 데이터베이스에 접근하거나 외부 시스템을 작동시킬 수 있다.

엔비디아의 접근 방식은 본질적으로 AI 에이전트를 위한 제로 트러스트(ZERO-TRUST)다. 접근은 기본적으로 거부되고, 권한은 모델 외부에서 강제되며, AI가 아닌 시스템이 기술적으로 가능한 행동을 결정한다. 기업이 수천 개의 에이전트를 배치한다면 이 통제 계층은 핵심 인프라가 될 수 있다.

이것이 엔비디아의 더 큰 베팅이다. 엔비디아는 이미 AI를 뒷받침하는 컴퓨트를 공급하고 있다. 이제는 AI가 접근하고, 실행하고, 변경할 수 있는 것을 통제하는 역할을 확보하려 한다. 첫 번째 AI 경쟁이 '지능'에 관한 것이었다면, 다음 경쟁은 '권한'에 관한 것이 될 수 있다.