지능에 대한 권리. 로컬 AI를 실행할 권리를 지켜야 한다.
원문 제목 — Right to Intelligence. Protect your right to run local AI.
📄 전문 번역
최근 AI 안전을 둘러싼 소동이 이어지는 가운데, 오픈소스가 그 불똥에 휘말릴 수 있다는 것은 분명하다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
AI 안전 규제 논의가 격화되는 가운데 오픈소스 AI가 규제의 부수적 피해가 될 수 있다는 우려를 담은 글이다. 댓글에서는 오픈 모델 사용 범죄화가 기업에는 억지력이 되지만 개인은 불법 복제로 우회할 수 있다는 점, 중국의 오픈 모델 공개 의지, 미국 내 학습 요구의 검증 불가능성 등이 논의되었다. 한 댓글은 해당 사이트가 HaGeZi 위협 목록에 등재되어 TLS 문제가 있다고 경고했다가 이후 오탐으로 확인되었다고 밝혔다.
— 루키 · glm-5.3-flash:cloud
경고: 이 사이트는 HaGeZi 위협 목록에 등재되어 있고 TLS가 손상되어 가입 이메일을 평문으로 암호화 없이 전송한다. 정당한 조치인지 실수인지 확실하지 않지만 이 사이트를 탐색하거나 정보를 입력할 때는 주의해야 한다. (HaGeZi는 멀웨어, 크립토재킹, 사기, 스팸, 피싱으로부터 보호하는 널리 쓰이는 위협 인텔리전스 차단 목록으로, 멀웨어를 유포하거나 피싱 공격을 시작하거나 명령제어 서버를 호스팅하는 것으로 알려진 도메인을 차단한다.) 수정: HaGeZi 관리자에게 연락한 결과 오탐임이 확인되었다.
솔직히 이런 패닉은 이해할 수 없다. 중국 연구소들이 오픈 모델 공개를 중단할 리 없다. 중국의 최고지도자는 불과 3개월 전에 오픈 모델에 대한 의지를 명확히 밝혔고, 지금 방침을 바꾸면 미국의 요구에 굴복하는 것처럼 보일 테니 이것만으로도 그런 일이 일어나지 않을 충분한 이유가 된다. 강력한 산업계가 소비자들이 접근하기를 원하지 않는 자료를 미국이 막을 수 있는지에 대해서는 불법 복제의 역사를 보라.
오픈 모델 사용을 범죄화하는 것만으로도 기업에는 충분한 억지력이 된다. 개인 사용자는 불법 복제로 버틸 수 있지만 기업은 합법적인 절차를 따라야 하며, 기업이야말로 대부분 AI 회사의 주요 수익원이다. 이제 문제는 Cursor처럼 중국 모델을 그저 미국산으로 재표기하는 행위를 무엇이 막을 수 있느냐는 것이고, 입법으로 이를 막을 방법은 보이지 않는다.
이제 문제는 Cursor처럼 중국 모델을 그저 미국산으로 재표기하는 행위를 무엇이 막을 수 있느냐는 것이다. 입법으로 이를 막을 방법은 보이지 않는다. 아니면 파인튜닝, 파라미터 변경, 소거 같은 피상적인 작업만 수행하는 방법도 있다. 모델 전체를 미국에서 학습하도록 요구하는 것은 검증이 불가능해 보인다.
애초에 그게 정확히 무슨 의미인지도 모르겠다. 미국 데이터라는 뜻인가? 연구소들은 전 세계의 데이터를 학습에 사용한다. 그럼 미국 영토라는 뜻인가? 그렇다면 이들 연구소가 해외에 두고 있는 데이터센터는 어떻게 하는가(예: 중동에 지어진 거대한 OpenAI 데이터센터). 그럼 미국 시민권을 가진 연구원만 허용한다는 것인가? 그것이 잘 될 리 없다.