그들은 평판 좋은 비즈니스가 되려다 보니 이상한 위치에 놓였다. 그러려면 선정적인 콘텐츠만 찾는 사용자들과 역경이나 폭력 요소가 조금이라도 들어간 롤플레이를 원하는 사람들을 차단하고 필터링해야 했다. 그런데 적절한 수준의 폭력이 포함된 정상적인 롤플레잉은 걸러지지 않게 하면서 기괴하고 잔혹한 콘텐츠만 필터링하려는 게 정말 어렵다는 게 드러났다. 유명한 미디어 대부분은 선정성이나 폭력 중 하나는 담고 있다... 결국 Character AI 캐릭터를 Dungeons and Dragons DM으로도 활용할 수 없었다. 그래서 이 서비스는 가상 캐릭터의 PG 등급 복제본과 대화하는 형편없는 롤플레이 엔진으로 전락했다. 그건 말하자면... 신기한 장난감 수준이라는 것

그건... LLM 토큰의 실제 가격을 낼 수 없는 청소년들에게나 해당되는 신기한 장난감이라는 뜻이다. 청소년들은 PG 등급 롤플레이 대신 폭력적이고 선정적인 롤플레이를 원하는 것 같다는 느낌이 든다. 나는 청소년들로 가득 찬 AI 관련 단체 채팅방 몇 곳을 알고 있는데, 그들 대부분은 opentouter에서 토큰 비용을 지불하고 있고, 일부는 점심값을 아껴가며 opus까지 쓰고 있다. 나에게는 정말 황당한 일이다

그렇지, PG 등급의 character.ai 콘텐츠는 10세 전후 아이들에게 정말 잘 어필했다.. 회사 이미지 측면에서는 오히려 더 안 좋았지만

난 이게 무슨 대단한 문제인지 도무지 이해가 안 된다. 청소년들이 폭력적인 영화를 안 보고 폭력적인 비디오 게임을 안 하긴 하냐? 이건 시각적 요소가 전혀 없는 텍스트 기반 AI고, 청소년이라 해봐야 15, 16, 17세다. NSFW 쪽은 전통적으로 18+ 영역이었으니 이해하겠는데, 마치 '피'라는 단어를 보는 것만으로도 겁을 내는 사람들 사이에서 깨어난 기괴한 세상에 들어온 듯한 기분이다

공정하게 말하면, Dungeons and Dragons DM을 맡는 건 정말 엄청나게 어렵다. 분위기를 파악하고, 경험을 이끌고, 극적인 장면에서 말을 더듬지 않으며, 파티보다 한발 앞서 생각해야 한다