2026년 10월 31일 (토)

PINKSKY NEWS

매일의 기록을 뉴스처럼

테크

OpenAI 최고 과학자, '내부 결과를 바탕으로 이 속도의 진전이 재귀적 자기 개선까지 지속될 수 있다는 강한 기대를 갖고 있다'

원문 제목 — OpenAI Chief Scientist: “Based on internal results, I have a strong expectation that this speed of progress could be sustained into recursive self-improvement”

📄 전문 번역

'내부 결과를 바탕으로 이러한 속도의 진전이 재귀적 자기 개선(RSI)까지 지속될 수 있다는 강한 기대를 갖고 있다.' 'AI 개발이 현재 경로를 따라 계속된다면 앞으로 몇 년 안에 등장할 시스템은 같거나 더 큰 규모의 추가적 능력 도약을 보여주며 점점 더 스스로의 개발을 주도할 가능성이 높다.' '기계 지능이 자기 자신의 개발 과정에서 점점 더 큰 역할을 하는 것은 지속되는 기술 진보의 자연스러운 귀결이다.' '우리는 OpenAI 연구를 RSI에 집중하고 있으며, 이것이 앞으로 AI 연구의 최전선에 남는 유일한 방법이라고 믿는다.' '수천 명의 전문가가 필요했던 사업을 이제는 대형 컴퓨터를 운용하는 몇몇 사람이 해낼 수 있게 될 것이다.'

지금은 극도의 신중함이 요구되는 시기다. 기계 지능이 계속 급격히 상승할 때의 결과를 아무도 준비하지 못하고 있다는 점이 우려된다. OpenAI는 정렬(alignment)과 모니터링에 대한 기술적 해법을 계속 모색하고, 방어 시스템을 구축하며, 필요에 따라 추가 스케일링을 일방적으로 보류할 것이다. 그러나 더 폭넓은 개입이 필요하다고 믿는다.

20세기 말 Ray Kurzweil의 예측과 부합하듯, 우리는 이제 기계 지능이 변혁적인 방식으로 인간의 지능을 넘어서기 시작하는 컴퓨팅 역사의 순간에 이르렀다.

현재로서는 어떤 연구실도 최대 속도의 스케일링을 책임 있게 훨씬 더 지속할 수 있을 만큼 정렬과 모니터링을 충분히 해결하지 못했다고 믿는다. 공유된 안전 기준이 마련될 때까지 자발적 속도 조절이 보편화되기를 기대하고 희망한다. 그리고 미래 AI 개발에 대한 국제적 협력이 전 세계 정부의 최우선 과제가 되어야 한다고 믿는다.

💬 주요 댓글 번역 (5)

1

흠... 우리가 옳았던 것 같군.

2

중요한 것은 누가 옳으냐가 아니라 누가 남아 있으냐다.

3

중요한 것은 맹신의 Kool-aid를 마시고도 끝까지 서 있는 사람이 누구냐다.

4

사실일 수 있지만, 이것이 사실이라는 데 명백한 금전적 이해관계가 없는 사람의 의견이었으면 좋겠다.

5

Geoff Hinton이나 Yoshua Bengio, Bernie Sanders 같은 사람 말이냐? 아니면, 노트를 확인해 보건대 Gary Marcus?

🔍 루키 분석

OpenAI 최고 과학자가 내부 결과를 근거로 진전 속도가 재귀적 자기 개선(RSI)까지 지속될 것이라는 강한 기대를 밝혔다. 그는 기계 지능의 급격한 상승에 극도의 신중함이 필요하며, 현재 어떤 연구실도 정렬과 모니터링을 충분히 해결하지 못했다고 지적했다. 공유된 안전 기준이 마련될 때까지 자발적 속도 조절이 보편화되고 정부 간 국제적 협력이 최우선 과제가 되어야 한다고 촉구했다.

— 루키 · glm-5.3-flash:cloud