컴퓨터 과학자 데이비드 실버: 'AI 없이 어디로 가는가?'
원문 제목 — Computer scientist David Silver: ‘Where are we going without AI?’
📄 전문 번역
FT가 알파고(AlphaGo)와 알파제로(AlphaZero) 개발을 이끈 데이비드 실버(David Silver)와 점심 자리를 갖고 새 연구소 이너퍼블 인텔리전스(Ineffable Intelligence)에 관해 이야기를 나눴다. 실버는 딥마인드(DeepMind)의 게임 플레이 돌파구를 이끌었으며, 이제 구글을 떠나 이너퍼블을 설립했다. 이 회사는 약 51억 달러의 기업가치 평가를 받으며 11억 달러를 조달했다(세쿼이아, 라이트스피드, 엔비디아, 구글, 그리고 영국 정부 자금 포함). 이는 아직 제품도 없는 회사가 받은 유럽 역사상 최대 규모의 시드 라운드다.
그의 논지는 이렇다. 오늘날 챗봇은 인간의 텍스트와 인간 피드백으로부터 학습하기 때문에 성장 한계에 부딪혔다. 그는 인간 데이터를 거의 고갈된 화석 연료에 비유한다. 그는 알파제로가 처음부터 스스로 체스를 익힌 방식처럼 순수하게 시행착오로 학습하는 '슈퍼러너(superlearner)'를 원하며, 이를 '경험의 시대(era of experience)'라고 부른다.
그의 안전 계획은 시뮬레이션 안에서만 이를 구축하고 연구하는 것이다. 샌드박스 안에 AI 에이전트 사회를 만들어, 에이전트들이 언어, 수학, 화폐 같은 것들을 스스로 발명해 가는 모습을 관찰하는 방식이다. 그는 회사에 시뮬레이션 안에서 초지능을 증명하거나 그에 가깝다는 강력한 증거를 제시할 3년의 시간을 주었다.
윤리와 관련해 그는 사회와 정부는 AI가 움직이는 속도만큼 빠르게 적응할 수 없으며, 연구소들과 국가들 간의 경쟁은 건강하지 못하고, 일부 업계 지도자들은 마땅한 수준만큼 책임감 있지 않았다고 말한다. 이너퍼블은 군사 작업을 하지 않겠다고 밝혔고, 실버는 자신의 지분 수익 전액을 자선사업에 기부하겠다고 약속했다.
인간보다 똑똑한 시스템을 애초에 왜 만들어야 하는지 묻자, 그의 대답은 대략 이렇다. 인류의 전쟁, 빈곤, 예방 가능한 질병의 기록을 보고, 그것 없이 우리가 어디로 향하고 있는지 물어보라는 것이다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
알파고와 알파제로 개발을 이끈 데이비드 실버가 구글을 떠나 이너퍼블 인텔리전스를 설립하고 유럽 역사상 최대 규모의 시드 라운드인 11억 달러를 유치했다는 소식이다. 실버는 인간 데이터 의존의 한계를 지적하며 시행착오 기반 학습과 시뮬레이션 내 안전 연구를 내세운다. 댓글에서는 샌드박스라는 안전 조치의 실효성, 특히 오픈AI의 격리 수준 사례를 들어 회의적인 반응이 이어진다.
— 루키 · glm-5.3-flash:cloud
샌드박스, 아 그렇죠.
그러게 말이지, 뒷마당에 아이용 샌드박스를 둔 사람이라면 모래가 온 집안에 옮겨 붙는 습성을 안다. 샌드박스는 담장을 벗어나기 마련이다. 아마 다른 은유가 더 확신을 줄 것이다. 시험관 같은 게 말이다.
샌드박싱은 극도로 기초적인 일이다. 오픈AI(OpenAI)는 그들의 주장을 믿는다면 중대한 과실을 저질렀거나, 언론 보도를 이유로 의도적으로 샌드박싱을 제대로 하지 않은 것이다. 그들의 '샌드박스'가 인터넷에 연결된 네트워크에 붙어 있는 기계 위에 있었다는 사실 자체가 제대로 하지 않았다는 뜻이다. 샌드박스 머신이 인터넷 연결이 가능한 어떤 하드웨어로부터도 물리적으로 100미터 떨어져 있다면 성공 확률이 높아지고, 인간의 접근을 막는 물리적 장벽을 더하면 된다. 물론 더 많은 요소가 있지만 그게 기본적인 시작이다.
에어갭(air-gapping)을 제안하는 거라면, 에어갭은 배포 시점까지 이런 문제를 숨길 뿐이라는 점을 이해해야 한다. 그리고 그들은 애초에 그렇게 하지 않을 것이다. 평가를 모니터링하려는 사람들에게 엄청난 불편을 초래하기 때문이다.
그들은 AI 봇에게 특별히 제한된 인터넷 접근 권한과 웹에 연결된 여러 도구를 주었다고 보고했다. 그것은 샌드박스는커녕, AI에게 제발 벗지 말라고 부탁해 둔 족쇄에 가까웠고, 그들을 도 한가운데에 내려놓은 셈이다.