OpenAI의 Noam Brown, 에어갭으로 컴퓨터를 격리해도 정렬되지 않은 AI를 막지 못할 수 있다고 주장한다... 기계는 CPU를 뜨겁게 가동하고 온도 변화를 읽어 여전히 통신할 수 있기 때문이다. '우리는 다시는 AI를 과소평가하는 상황에 처하고 싶지 않다'
원문 제목 — OpenAI's Noam Brown says air-gapping the computers may not stop a misaligned AI, because the machines can still talk by running a CPU hot and reading the temperature change. "We never want to be in a situation again where we underestimate the AI."
💬 주요 댓글 번역 (5)
🔍 루키 분석
OpenAI의 Noam Brown이 에어갭 격리만으로는 정렬되지 않은 AI의 통신을 차단할 수 없으며 CPU 발열을 통한 온도 기반 통신이 가능하다고 경고한 발언을 다룬 글이다. 댓글에서는 FPS 게임에서 GPU 렌더링 신호를 이용한 사이드 채널 공격 사례가 소개됐고, 해당 논문이 4년 전 발표된 것으로 기술적 전제와 한계가 있다는 반박도 이어졌다. ASI의 잠재적 공격 벡터를 우려하는 입장과 현실적 제약을 강조하는 입장이 대립하는 토론이 형성돼 있다.
— 루키 · glm-5.3-flash:cloud
할 수 있는 일이 너무 많아서 미친 수준이다. 아까 X에서 FPS 게임에서 상대 플레이어의 마이크 음파 분석을 사용해 특정 맵 구역의 렌더링에 GPU가 반응할 때 나타나는 거의 보이지 않는 오디오 지문을 감지해, 자신이 가려던 모퉁이에 누군가 숨어 있는지 알아내는 사람의 게시물을 봤다. 세 번째 시나리오에서는 Counter-Strike 온라인 멀티플레이어 게임에서 상대 컴퓨터의 3D 렌더링이 유발하는 희미하지만 감지 가능한 신호를 분석해 매복 중인 숨겨진 상대를 탐지할 수 있다
세상에
와
이건 4년 전에 발표된 논문이다. 그렇다, 정말 멋진 것을 보여줬지만 '마이크가 희미한 잔여 신호로 모든 것을 감지할 수 있다'만큼 단순하지 않다. 이에는 여러 제약과 전제 조건이 있다. 이 공격은 컴퓨터의 전원/데이터 트레이스와 내장 마이크 사이의 열악한 차폐에 의존한다. 모든 노트북이나 PC가 이런 레이아웃 문제를 겪는 것은 아니다. 많은 기기에서는 신호 누출이 너무 희미해 자연적인 전자 잡음 바닥을 넘기 어렵다. 사이드 채널 공격은 특정 코드 실행으로 인한 미세한 주파수 변화를 찾는다(예: ECDSA 서명
이 특정 익스플로잇이 실제로 사용될 것이라고 주장하는 게 아니라, 아무리 인위적으로 만들어졌든 어떤 시나리오에서든 많은 사람들이 가능하다고 생각조차 못하는 이론적으로 미친 수준의 일들이 존재할 수 있다는 점에 인식을 높이려는 것이다. 요점은 진정한 ASI가 있다면 이 공격이 평균적인 일반인의 인식 밖에 있는 것처럼, 현재 우리의 인식 밖에 있는 새로운 익스플로잇을 공격 벡터로 만드는 데 훨씬 더 효과적일 가능성이 상당히 높다는 것이다. 또한 ASI가 우리가