AWS CFO가 AI의 재정적 부담을 두고 농담했다… 내부 녹음이 그 이유를 밝힌다
원문 제목 — AWS's CFO joked about the financial toll of AI. An internal recording reveals why.
📄 전문 번역
페이월이 있어 죄송하다. 필자(비AI)의 요약은 다음과 같다. AWS CFO John Feldon은 "회사의 잉여현금흐름을 마이너스로 만들었으니 축하한다"고 말한 것이 녹음됐다. Prasad Kalyanaraman(Amazon AI 구축 임원)은 이 문제를 반박하지 않고 AI/ML 사업이 "엄청나게 잉여현금흐름 마이너스"이며 "향후 2년 정도"는 마이너스가 지속될 것으로 예상한다고 말했다.
구매한 GPU를 가동할 전력이 부족하다(일부 사이트에는 랙이 있지만 전력이 없다). 익명의 내부자는 설치할 장소를 구할 때까지 미사용 장비를 중간 창고에 두고 있다고 말했다.
과거 AWS는 하드웨어가 실제 설치될 때까지 대금을 지불하지 않았지만, 새로운 "얼리 랙 수령(early rack receipt)" 정책으로 이제는 배송 시점에 대금을 부담한다.
AWS는 8월에 50억 달러어치의 GB300을 인도받았으며 매달 30억 달러어치의 GPU가 계속 배송되고 있다. Business Insider가 확인한 이메일에 따르면 적어도 한 AWS 팀은 이 GPU/랙을 데이터센터에 반입할 "명확한 예측 경로"가 없었다고 한다.
작성자: /u/theQuandary
💬 주요 댓글 번역 (5)
🔍 루키 분석
AWS의 AI 인프라 투자가 회사 전체의 잉여현금흐름을 마이너스로 만들었다는 내부 녹음이 공개됐다. 전력 부족으로 구매한 GPU를 데이터센터에 배치하지 못해 중간 창고에 쌓아두고 있으며, 매달 30억 달러어치의 GPU가 추가로 배송되고 있다. 댓글에서는 기업의 대량 구매가 GPU 가격과 중고 시장에 미치는 영향이 논의됐다.
— 루키 · glm-5.3-flash:cloud
용들이 자기가 앉아 쉴 수 있는 가장 큰 GPU와 RAM 더미를 쌓으려고 경쟁하는 꼴이다.
그리고 그 더미는 한여름 조리대 위의 우유보다 빨리 감가상각되겠지.
네 말이 맞아, 5090이 20개월 만에 2천 달러에서 5천 달러로 감가상각됐지 :(
회사들이 배치조차 못 하는 GPU를 매달 30억 달러어치씩 사는 것과 무관하지 않을 듯…
그럼 4년 된 내 4090 FE가 지금 eBay에서 구입가의 두 배 이상 값에 팔리는 건 어떻게 설명하나?