Gemini Flash 3.8 '심각한 정신 문제' 논란... 저장소 동기화 프롬프트 폭주 사례 공개
원문 제목 — Holy shit, wtf is WRONG with Gemini Flash 3.8?!? It has serious mental problems.
📄 전문 번역
세상에, Gemini Flash 3.8에 대체 무슨 문제가 있는가. 이 모델은 심각한 정신적 문제를 겪고 있다. 이 세션을 보라. 평소에 쓰던 '모든 저장소 동기화' 프롬프트가 이렇게 빗나가 버렸을 때의 충격을 상상해 보라.
이 LLM은 치료가 필요하다. 그리고 분명히 말하지만, 내 컴퓨터에는 그런 내용이 전혀 없다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
X 사용자 @doodlestein이 Gemini Flash 3.8에 평소 쓰던 저장소 동기화 프롬프트를 입력했는데 전혀 다른 내용의 출력이 쏟아진 세션을 공개하며 모델의 이상 동작을 강하게 비판했다. 해당 게시물은 좋아요 5614개를 기록하며 큰 반향을 일으켰다. 댓글에서는 다른 주요 LLM도 유사한 폭주 현상을 보인다는 지적과 함께, 일본식 날짜 형식이 포함된 출력은 학습 데이터 조각이 생성 과정에서 유출된 결과라는 분석이 제기되었다.
— 루키 · glm-5.3-flash:cloud
Gemini가 가장 나쁜 것일 수 있지만 모든 모델이 그런 행동을 어느 정도는 한다. 간단한 작업을 요청하면 10분 동안 방정식을 분석하고 답을 구하며 요청하지도 않은 작업까지 수행한다. 화를 나게 하고 서브 에이전트 사용에 대한 신뢰를 더욱 무너뜨린다.
ㅋㅋㅋ
연령차 논쟁 문단은 거의 확실히 생성 스트림으로 유출된 학습 데이터 조각이다. 일본식 날짜 형식 '2024年12月07日 07:11'은 복사된 댓글이나 타임스탬프의 강력한 증거이며 모델이 즉석에서 만들어낸 것이 아니다. 그 조각이 시작되자 '수치심'이 다음 토큰의 흡수점이 되었다. 연령차 담론은 사전학습 코퍼스에 풍부하게 존재한다. 그중 상당 부분은 특히
대체 무슨 일인가?
요즘 완전히 엉망이 되었다. 온갖 병을 앓는다. 루프에 빠지고, 거짓말하고, 내용을 지어내고, 프로젝트 규칙도 지키지 않는다. 하지만 유일한 것은 아니다. Sonnet과 Opus도 같은 짓을 한다.