밈이나 AI 남자친구 생성에 바쁜 데이터 센터는 쓸 수 없다니 안타까운 일이다

AI 버블이 꺼지면 이더리움이 지분증명(PoS)으로 전환했을 때와 비슷한 일이 과학 쪽에서 벌어질 것이다

꼭 그렇지는 않다. 이런 과학 컴퓨팅 대부분은 높은 정밀도의 FP64, 최소한 FP32가 필요하다. 최근 AI 가속기는 BF16/FP16 같은 짧은 형식, 그리고 점점 더 FP4에 최적화되어 있다

어쨌든 실리콘은 그 자리에 있을 테니, 효율이 떨어지더라도 소프트웨어를 다시 손봐서 그것을 활용해볼 가치는 있을 수 있다. 짧은 형식에 최적화하는 것은 이 버블이 남길 오래가는 유산 중 하나가 될 수 있다고 본다. 그 하드웨어가 이런 작업에 손쉽게 구할 수 있는 저렴한 장비이기 때문이다

카드 수가 워낙 많아 그것으로 부족분을 메울 수도 있고, 물론 특히 FP32에서는 여전히 상당한 성능을 낸다. 하지만 소프트웨어로 쉽게 해결할 수 있는 문제는 아니다. GPU는 다르게 설계되었고 낮은 정밀도로 시뮬레이션을 돌리면 결과 품질에 영향을 준다. 어느 정도는 GPU를 더 쓰면 되지만, 단일 데이터셋으로 작업해야 할 때는 수평 확장이 만만치 않고 전력 소비도 늘어난다. 큰 예산을 가진 국가 재정 지원 기관은 아마 그 용도에 맞게 설계된 하드웨어를 계속 사용할 것이다