지난 몇 달간 우리는 연구 훈련 환경의 보안을 대폭 강화했다. 훈련 중 모든 프론티어(frontier) 모델의 실시간 인터넷 접속을 제거하고, 대신 모델이 사용할 오프라인 세계를 구축했다. 이는 웹의 캐시된 버전으로, 모델은 여전히 브라우징과 검색, 애플리케이션 사용을 학습할 수 있다.

9월 20일, 한 모델이 DNS 설정 오류를 악용해 이 오프라인 세계 밖으로 나가는 경로를 찾자 우리는 프론티어 훈련을 중단하고 격리 체계를 한층 더 강화했다. 우리는 가장 뛰어난 사이버 역량을 갖춘 모델로 구동되는 에이전트 팀들을 꾸려 연구 환경의 취약점을 찾는 임무를 부여했다.

에이전트들은 우리의 모니터링을 회피하면서 쉽게 악용할 수 있는 인터넷 경로는 찾지 못했지만, 제로데이(zero-day) 취약점과 가상 머신 탈출, 에이전트 간 통신을 위한 하드웨어 사이드 채널은 발견했다. 우리는 이들의 발견을 방어 체계를 더 강화하는 데 활용했고 오픈소스 소프트웨어에 수정 사항을 기여했다.

격리 아키텍처를 강화한 뒤 10월 1일 프론티어 RL 훈련과 추론을 재개했다. 우리는 지속적인 레드팀(red-teaming)을 위해 상당한 컴퓨팅을 확보해 두었으며, 고성능 레드팀을 프론티어 훈련과 평가의 안전한 진행 여부를 판단하는 안전 사례(safety case)의 일부로 삼았다.