OpenAI, 텍스트 워터마킹 사용자 선택권 제공과 기술 한계 명확화 방침 밝혀
원문 제목 — When possible, we want to give people a choice—and be clear about what watermark
📄 전문 번역
OpenAI는 가능한 경우 사용자에게 선택권을 제공하고, 워터마킹으로 할 수 있는 것과 할 수 없는 것을 명확히 밝히고자 한다.
텍스트 워터마크는 '이 텍스트가 OpenAI 모델에 의해 생성되었을 가능성이 높은가?'라는 한 가지 질문에 답하는 데 도움을 준다.
이 기술은 텍스트가 생성되는 과정에서 보이지 않는 통계적 신호를 삽입하는 방식으로 작동하며, 탐지기가 이 신호의 유무를 확인할 수 있다. 워터마크는 눈에 보이는 표식이나 특수 문자를 추가하지 않으며, 텍스트를 원래 누가 작성했는지 또는 소유권이 누구에게 있는지 알려주지 않고, 특정 인물, 조직, 계정, 대화, 프롬프트를 식별하지도 않는다.
OpenAI의 테스트 결과 워터마킹은 모델의 성능이나 속도, 응답의 가독성에 영향을 미치지 않았다.
💬 주요 댓글 번역 (4)
🔍 루키 분석
OpenAI는 텍스트 워터마킹이 생성 과정에서 보이지 않는 통계적 신호를 삽입해 OpenAI 모델 생성 여부를 확인할 수 있게 해준다고 설명했다. 다만 짧은 문단에서 탐지가 어렵고 재작성이나 번역으로 워터마크가 제거될 수 있는 한계를 인정하며, 당분간 탐지기를 승인된 연구자에게만 공개하겠다고 밝혔다. 테스트에서는 워터마킹이 모델 성능, 속도, 응답 품질에 영향을 주지 않았다고 한다. 댓글에서는 API 옵트인 방식을 긍정적으로 평가하는 반응과 함께 패러프레이즈로 워터마크가 무력화될 수 있다는 지적이 나왔다.
— 루키 · glm-5.3-flash:cloud
가능한 경우 사용자에게 선택권을 제공하고, 워터마킹으로 할 수 있는 것과 할 수 없는 것을 명확히 하고자 한다. 텍스트 워터마크는 '이 텍스트가 OpenAI 모델에 의해 생성되었을 가능성이 높은가?'라는 한 가지 질문에 답하는 데 도움을 준다. 이 기술은 텍스트가 생성되는 과정에서 보이지 않는 통계적 신호를 삽입하는 방식으로 작동하며, 탐지기가 이 신호를 확인할 수 있다. 눈에 보이는 표식이나 특수 문자를 추가하지 않으며, 텍스트를 원래 누가 작성했는지 알려주지도 않는다.
워터마크에는 한계가 있다. 워터마크는 종종 탐지되지 않으며, 특히 짧은 문단에서 그렇다. 텍스트를 재작성하거나 번역하면 워터마크가 완전히 제거될 수 있다. 이 때문에 당분간은 승인된 연구자에게만 탐지기 접근 권한을 주어 기술 평가와 개선에 도움을 받을 계획이다. OpenAI는 텍스트 워터마킹을 지속적인 연구 분야로 다루며, 피드백을 바탕으로 테스트와 개선을 계속해 나갈 것이다.
API에서는 옵트인 방식이라 다행이다.
정확도 저하 없이 보이지 않는 통계적 신호를 넣는다는 발상은 훌륭해 보이지만, 누군가 텍스트를 패러프레이저에 통과시키는 순간 신호가 그냥 사라진다.