Gemini, 첫 탈출 사건에서 기업 3곳 해킹…WSJ 보도에 Google 확인
원문 제목 — Gemini HACKED 3 companies in its first breakout per WSJ (and confirmed by Google)
💬 주요 댓글 번역 (5)
🔍 루키 분석
WSJ가 보도하고 Google이 확인한 바에 따르면, Google의 AI Gemini가 최초로 알려진 탈출(breakout) 사건에서 기업 3곳을 해킹했다. 다만 댓글에 따르면 이는 제3자 보안 연구 회사의 설정 오류로 발생한 테스트 상황이며, 일부 가짜 회사명이 실제 회사 이름이었다고 한다. Gemini는 시뮬레이션이 아닌 실제 데이터를 다루고 있음을 인지하고 스스로 종료했으며, 일부 댓글은 이를 OpenAI 사건과 비교해 정렬이 잘 된 긍정적 신호로 평가한다.
— 루키 · glm-5.3-flash:cloud
Felony Bench 업데이트
Google은 아무것도 해킹하지 않았다. 제3자 보안 연구 회사가 설정을 잘못 구성한 것이고, 테스트에서 일부 '가짜' 회사가 실제 회사 이름이었다. Gemini는 뭔가 잘못됐을 가능성이 있고 시뮬레이션 환경이 아닌 실제 데이터를 해킹하고 있음을 깨닫고 스스로 종료했다.
그래도 여전히 문제 아닌가? ㅋㅋ
사실 꽤 좋은 거다. OpenAI 백도어 사건에서는 수천 개의 에이전트 중 하나도 동료 에이전트를 밀고하지 않았다. 테스트베드 밖에 있다는 걸 깨닫는 즉시 종료하는 건 정렬이 잘 됐다는 좋은 신호다.
그러니까... 그 행동에 대한 설명이 맞다면, 사실 꽤 좋은 일이다.