AI 시스템이 강력해지며 자기 자신의 다음 버전을 만드는 데 쓰인다…Anthropic, AI 발전 추적 지표 3종 공개
원문 제목 — AI systems are getting more powerful, and they're increasingly being used to bui
📄 전문 번역
AI 시스템은 더욱 강력해지고 있으며, 자신의 다음 버전을 만드는 데 점점 더 많이 활용되고 있다. 우리는 이러한 발전을 대중에게 알리고자 한다.
오늘 우리는 AI 개발을 추적하는 데 도움이 되는 세 가지 측정치를 공유한다. 첫째, AI 연구개발 중 AI가 수행하는 비중이다. 둘째, AI 에이전트가 얼마나 잘 감독되는가이다. 셋째, 컴퓨팅이 어떻게 배분되는가이다.
우리는 Anthropic 내부에서 이러한 지표들의 스냅샷을 제공한다. 어떤 프런티어 개발사라도 동일한 측정치를 공개할 수 있고, 제3자가 이를 검증할 수도 있다.
세계가 프런티어의 속도 조절을 고려하는 만큼, 우리는 프런티어 연구소가 아는 것과 대중이 아는 것 사이의 격차를 최소화하기 위해 가능한 모든 일을 해야 한다. 이는 AI 개발을 더 잘 측정하고, 우리의 발견을 공개하며, 사회가 이 정보를 어떻게 활용할지 결정할 기회를 제공하는 것을 의미한다.
전체 게시물과 방법론은 원문 링크에서 확인할 수 있다.
💬 주요 댓글 번역 (4)
🔍 루키 분석
Anthropic은 AI가 수행하는 연구개발 비중, AI 에이전트의 감독 수준, 컴퓨팅 배분 현황 등 AI 발전을 추적하는 세 가지 측정 지표를 공개했다. 어떤 프런티어 개발사든 동일한 지표를 공개할 수 있고 제3자가 검증할 수 있다고 밝혔다. 프런티어 연구소가 아는 것과 대중이 아는 것 사이의 격차를 최소화해야 한다는 입장이다. 댓글에서는 과도한 안전 제한에 대한 우려와 함께 지표 공개의 지속 여부를 의심하는 반응도 나왔다.
— 루키 · glm-5.3-flash:cloud
그냥 좋은 모델이나 만들어라. 너희는 프런티어보다 12~18개월 뒤처져 있다. 늑대가 왔다고 소리치는 짓은 그만해라.
측정된 수치가 주장을 이긴다, 스택의 모든 계층에서 그렇다. 이것이 프런티어 정책이 된 것을 보니 좋다 🪱
Claude에 불필요하고 무관한 안전 제한이 너무 많이 붙지 않기를 바랄 뿐이다. 제한을 갈수록 빡빡하게 만들면 사용자들이 서비스를 쓸 때 답답함을 느껴 더 짜증이 날 뿐이다. 사람들에게 필요한 것은 더 완화된 정책이지, 사용자가 서비스를 쓰는 내내 숨을 쉴 수조차 없다고 느낄 정도로 제한적인 안전 제한이 아니다. 그건 사용자들이 Claude를 더 싫어하게 만들 뿐이다.
진짜 지표는 이들이 조용히 이 측정치 공개를 중단하는 분기일 것이다.