그들이 아무리 롤플레이에 열을 올려도 불법이 아니기 때문에 illicit(부정)이라는 표현을 쓸 뿐이다.

정말 기묘한 댓글이다. Anthropic은 법적 주장을 하고 있는 것이 아니다. 그들은 증류 공격을 기술하고 있을 뿐이다. 롤플레이가 어디 있는가?

증류가 공격으로 재규격화된 바로 그 사실이 인식의 전환이 일어난 지점이다. 다른 모델의 출력으로 모델을 학습시키는 것은 LLM이 대중화된 이래 계속 있어온 일이며, AI 커뮤니티 전체가 어떤 형태로든 증류를 해왔다. 증류의 정확한 정의를 놓고 논쟁이 있는데, 예컨대 RLAIF, Judge, SFT, KL divergence 등 다른 모델을 활용하는 방법들이 모두 증류로 묶이고, 거기에 '공격'이라는 말이 붙어 잘못된 행위처럼 들리게 만든다.

과거: '우리는 거인의 어깨 위에 서 있다' / 현재: '우리는 남들이 만들어둔 사다리를 타고 오늘날의 자리에 올랐지만, 이제 여기까지 온 이상 다른 누구도 이 높이에 오지 못하게 하고, 우리가 사다리 위에 새로 얹는 가로대에도 접근하지 못하게 할 것이다. 아니, 사다리 아래쪽을 아예 부숴버리자.'

이 서브레딧에서 ('그런데 그들이 우리 소중한 미국 랩들에 증류 공격을 한다')는 부류를 보는 것은 참 이상하다. 정말 기묘한 일이다.