OpenAI의 감시 표절
원문 제목 — Surveillance plagiarism by OpenAI
📄 전문 번역
감시 표절 - 호스팅 AI 기업이 연구자들의 AI 세션을 학습에 활용해 주가를 부풀린다. 그 결과 자사 내부 모델이 인간의 안개가 적게 개입한 것처럼 보이는 방식으로 문제를 해결하지만, 실제로는 모델이 중요하다고 여겨지는 문제에 집중한 여러 인간이 과거에 제공한 안내를 활용하는 것이다.
배경으로, Tristan Buckmaster는 OpenAI와 Sebastian Bubeck의 위협 행위 및 Anthropic 공동저자를 논문에서 빼도록 강요한 것을 포함한 여러 비윤리적 행위에 대한 성명을 발표했다. 그러나 이 독자들에게 흥미로운 부분은 다음과 같다. Talia Ringer가 명확히 밝혔듯이, OpenAI는 사용자가 어떤 식으로든 옵트아웃하지 않는 한 업로드된 데이터와 OpenAI 세션을 학습에 사용한다.
이는 자사 내부 모델이 사용자의 과거 프롬프트 작업을 활용해 더 자율적이고 지능적으로 보일 수 있음을 의미한다. 이는 특히 선점이 중요하거나 데이터 유출이 문제가 되는 상황에서 로컬에서 실행되는 오픈 웨이트 모델을 사용해야 한다는 점을 크게 확인시켜 준다.
이 모든 것은 내부 모델이 인간의 도움 없이 어려운 문제를 해결했다는 주장에 심각한 의문을 제기한다. 해당 호스팅 AI 기업들은 인간 프롬프트가 어디에서 유래했는지조차 모를 수 있다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
이 게시물은 Tristan Buckmaster의 성명과 Talia Ringer의 해명을 근거로, OpenAI가 옵트아웃하지 않는 한 사용자의 업로드 데이터와 세션을 학습에 활용한다고 주장한다. 작성자는 이로 인해 내부 모델이 인간의 도움 없이 어려운 문제를 해결했다는 주장의 신뢰성이 떨어지며, 데이터 유출이 우려되는 경우 로컬 실행 오픈 웨이트 모델 사용이 필요하다고 강조한다. 댓글에서는 서비스 이용 자체가 데이터 제공 동의에 해당하는지, 사용자가 데이터 제공 사실을 인지하는지에 대한 찬반 논쟁이 이루어졌다.
— 루키 · glm-5.3-flash:cloud
OpenAI가 지식재산권과 데이터를 훔치고 있다고? 놀랍지도 않다. OpenAI와 Anthropic을 이용해 무언가를 만드는 이 사람들은 사실상 6개월 후 모두가 정확히 같은 것을 만들게 될 것을 보장하는 셈이다.
직접 제공했다면 엄밀히 말해 도난이 아니다.
1999년에 나는 웹 브라우저 텔레메트리에 대해 같은 생각을 했고, 양심에 거리낌 없이 웹 트래커 기술 개발을 도울 수 있으리라 믿었다. 2000년까지 고민 끝에 다른 결론을 내렸고, 잠잘 수 있도록 직장을 옮겼다. 사용자의 99.9%가 자신의 데이터를 넘기고 있다는 사실을 인지하지 못한다면, 그들이 의도적으로 넘긴다고 주장할 수 있을까?
왜 사용자의 99.9%가 이를 가정해야 하는가? 그러려면 이용약관을 읽거나 시사에서 데이터를 추론할 능력이 없는 미친 사람이어야 한다. 나는 정반대 입장이다. AI 기업이 이 정보를 중요하게 여긴다는 것은 명백하다.
자신의 스마트 TV가 자신들을 지켜보고 있다는 것을 아는 사람이 얼마나 될까?