새 AI 가짜 텍스트 생성기 '공개하기엔 너무 위험할 수도'…개발진 주장
원문 제목 — "New AI fake text generator may be too dangerous to release, say creators" (2019 Guardian headline)
📄 전문 번역
당시 이 글을 읽고 기억하는 이도 있겠지만, 필자는 최근 위키백과를 통해 2019년 가디언의 이 우스꽝스러운 기사를 발견했다.
'OpenAI는 새 AI 모델 GPT2가 너무 뛰어나고 악의적 사용 위험이 너무 커서, 기술적 돌파구의 파장을 논의할 시간을 더 확보하기 위해 전체 연구를 대중에 공개하는 평소 관행에서 벗어난다'고 밝혔다.
'그 이유 중 하나는 크기'라고 OpenAI 연구 총괄 Dario Amodei가 말했다. 이 모델은 소셜 뉴스 사이트 Reddit에서 추천이 3개를 넘는 링크를 수집해 선별한 약 1,000만 개 기사로 구성된 데이터셋으로 학습됐다. 방대한 텍스트 모음은 40GB에 달하며, 소설 '모비 딕' 약 3만 5,000부를 저장할 수 있는 분량이다.
어떤 사람은 끝내 변하지 않는 법이다!
💬 주요 댓글 번역 (5)
🔍 루키 분석
2019년 가디언 보도에 따르면 OpenAI는 GPT2의 성능과 악용 위험을 이유로 전체 연구 공개를 보류했다. 당시 모델은 Reddit에서 수집한 약 1,000만 개 기사 분량의 40GB 텍스트로 학습됐다. 댓글에서는 Dario Amodei와 Sam Altman의 당시 입장과 현재를 비교하는 풍자가 이어졌다.
— 루키 · glm-5.3-flash:cloud
이 Dario Amodei라는 사람은 AI 분야에 꽤 밝아 보인다. 요즘 뭘 하고 있는지 궁금해진다.
쟤는 요즘 특이점에 관한 시나 쓰면서, 그걸 읽어주는 특권을 벤처캐피털리스트들한테 팔아먹고 다니는 중이다.
저 사람이든 Sam Altman이든, 불법으로 다른 회사나 정부를 해킹할 수 있을 만큼 거대해진 모델을 책임진 적은 단 한 번도 없을 거다. 그 위험을 확실히 오래전부터 염두에 뒀던 게 분명하다!
레이서로는 아주 훌륭한데 자동차 영업사원으로는 아주 형편없는 인재다.
'초대형' GPT-2는 파라미터가 15.5억(1.55B) 개에 불과했다 😂