코로나 시기에서 비롯된 인지 편향 하나가 AI와 점점 더 관련이 깊어지고 있다고 생각한다. 인간은 지수적 성장을 잘 다루지 못한다. 이는 확진자 수를 두고 벌어진 논쟁을 보고 나온 관찰이 아니다. 연구자들이 실제로 코로나 기간에 이를 검증했고, 사람들이 지수적으로 증가하는 확진자 수를 체계적으로 과소평가한다는 사실을 발견했다. 흥미롭게도 같은 과정을 백분율 증가율 대신 배가 시간으로 전달하면 추정치가 상당히 개선됐다. AI 능력도 이와 유사한 방식으로 이해하는 편이 쉽다고 생각한다.

물론 '지능'이 6개월마다 두 배씩 늘어나는 단일한 양은 아니다. 벤치마크는 포화 상태에 도달하고, 과제는 천차만별이며, 능력 향상이 기계적으로 경제적 산출로 이어지지도 않는다. 그러나 AI의 기반이 되는 여러 요소는 극도로 빠르게 움직여 왔다. Epoch AI는 2020년 이후 최신 언어모델 학습용 연산량이 연간 약 5배씩 증가했다고 추정한다. AI 연산의 총 보유량은 연간 약 3.4배씩 늘었다. 동시에 일정 수준의 지능을 사용하는 비용은 붕괴했다. 스탠퍼드의 AI Index에 따르면 MMLU에서 대략 GPT-3.5 수준의 성능을 얻는 비용이 2022년 말 백만 토큰당 약 20달러에서 2024년 말 0.07달러로 떨어졌다.

가장 유용하다고 생각하는 지표는 METR의 과제 완수 시간이다. METR은 모델이 어떤 벤치마크에서 82%를 받는지 85%를 받는지를 묻는 대신, AI 에이전트가 성공적으로 완수할 수 있는 과제를 인간 전문가가 수행하는 데 얼마나 걸릴지를 묻는다. 장기 추세는 현재 50% 과제 시간이 약 6~7개월마다 두 배가 된다고 나타낸다. 2024년 이후 모델만으로 계산한 추세는 훨씬 빠르지만, 데이터 기간이 짧아 그대로 외삽하지는 않겠다. METR의 2026년 2~3월 평가에서 공개된 최전선 모델은 50% 신뢰도 기준 약 12시간이었다. 중요한 것은 12시간이 인상적으로 들리는지 여부가 아니라 두 배가 되면 어떻게 되는가이다. 6~7개월 배가율이라면 12시간은 1년 안에 대략 하루가 되고, 2년 안에는 며칠이 되며, 추세가 충분히 오래 지속되면 결국 몇 주가 된다.

물론 깔끔한 외삽을 기대하지는 않는다. 긴 과제는 더 지저분하고, 신뢰성이 더 중요해지며, 실제 조직은 통합 문제에 부딪힌다. 전력, 칩, 데이터센터, 자본도 제약이다. 그러나 '지수적 성장은 언젠가 멈춘다'는 말은 중요한 질문에 답하지 못한다. 멈추기 전에 몇 번의 배가가 일어나는가? 한 번 더 배가한 뒤 멈춘다면 함의는 상당히 온건하다. 네 번 후에 멈추면 능력은 16배 커진다. 일곱 번 후라면 128배다. 이것이 코로나를 떠올리게 하는 이유는 일상이 심리적으로 고착되어 있었기 때문이다. 사람들은 다른 나라에서 확진자가 빠르게 늘고 있음을 이해하면서도, 몇 주 뒤 자기 도시가 완전히 다른 모습일 수 있다는 상상에 어려움을 겪었다. 최근의 과거가 기본 모델로 남았다. AI 전망도 흔히 비슷한 일을 한다. 2030년에도 소프트웨어 엔지니어가 대체로 같은 방식으로 일할 것이라는 전망은 2026년과 닮아 있어 보수적이고 합리적으로 들린다. 자율 에이전트가 소프트웨어 엔지니어링의 상당 부분을 수행할 수 있다는 전망은 뚜렷이 다른 세계를 묘사하기에 투기적으로 들린다. 그러나 첫 번째 전망 역시 능력 곡선이 상당히 느려져야 한다는 강한 가정을 담고 있다. 그럴 수도 있지만, 결과 세계가 평범하게 느껴진다는 이유로 그 가정에 확률 1을 부여해서는 안 된다고 생각한다.

이를 보기 어렵게 만드는 또 다른 패턴이 있다. 어떤 능력은 처음에 진짜 지능이 필요한 것으로 묘사되지만, 모델이 그것을 달성하면 해당 능력은 급속히 인상적이지 않게 된다. 어려운 시험, 올림피아드 수학, 코딩에서 이런 사례를 여러 번 봤다. 이제 최전선 모델들은 연구 수준의 과학으로 평가받고 있으며, 2026년 OpenAI는 약 80년간 유지돼 온 이산기하학의 주요 추측에 대한 AI 생성 반례를 보고했다. 개별 벤치마크를 할인할 정당한 이유는 있다. OpenAI 자체도 벤치마크가 오염됐고 남은 실패 상당수가 잘못된 테스트와 관련됐다는 이유로 올해 SWE-bench Verified 보고를 중단했다. 따라서 올바른 결론이 '벤치마크 X를 보라, 그러니 AGI는 다음 화요일'이라고 생각하지 않는다. 흥미로운 부분은 최전선의 누적적 움직임이며, 라벨 논쟁보다 반증 질문이 더 유용하다. 실제로 배가를 멈추게 하는 것은 무엇인가? 가능성으로는 전력, 칩 생산, 학습 기간, 데이터, 자본, 아키텍처 한계, 스케일링의 수익 체감, 혹은 벤치마크 능력이 신뢰할 수 있는 현실 세계의 자율성으로 이어지지 못할 가능성이 있다. 이것들은 실재하는 논거지만, 'AI가 영원히 지수적으로 개선될 수는 없다'는 말 자체는 별 논거가 되지 못한다. 영원히 지속되는 지수적 성장은 없으며, 투자와 경제의 질문은 곡선이 꺾이기 전에 어디까지 가느냐이다. 인간은 꺾임이 실제보다 더 일찍 온다고 예측하는 체계적 편향을 보이는데, 그 이유는