출시된 지 4년 된 엔비디아의 인공지능(AI) 가속기 H100의 몸값이 오히려 뛰고 있다. 최신 AI 가속기 공급이 수요를 따라가지 못하면서 구형 제품까지 임대 수요가 몰린 영향이다.
AI 연산 금융거래 플랫폼 온(Ornn)은 7일(현지시각) 2022년 9월 출시된 엔비디아 H100의 클라우드 대여 가격이 최근 한 달 사이 21.89% 상승했다고 밝혔다.
온에 따르면 H100의 시간당 대여료는 3.28달러로 한 달 전 2.69달러보다 0.59달러 올랐다. 상위 모델인 H200의 시간당 대여료 4.56달러의 약 72% 수준이다. 차세대 제품인 B200(6.75달러)과 비교해도 절반에 육박한다.
통상 반도체를 비롯한 정보기술(IT) 제품은 신제품 출시와 시간이 지남에 따라 가치가 하락한다. 하지만 H100은 출시 후 4년이 지났음에도 가격이 거꾸로 오르는 이례적인 흐름을 보이고 있다.
온은 "일반적인 감가상각 모델대로라면 가치가 떨어져야 정상이지만 시장은 오히려 더 많은 웃돈을 지불하고 있다"고 설명했다.
H100의 몸값이 다시 오른 배경에는 AI 연산 수요의 급격한 증가가 있다. 블랙웰과 루빈 등 최신 AI 가속기 공급만으로 폭증하는 수요를 충족하기 어려워지면서 실시간 추론과 중소 규모 AI 모델 학습, 미세조정(파인튜닝) 등의 작업이 H100으로 분산되고 있다는 분석이다.
H100이 이미 데이터센터에 대규모로 구축돼 있고 관련 소프트웨어 생태계가 갖춰져 있다는 점도 수요를 뒷받침하는 요인으로 꼽힌다. 최신 칩보다 성능은 떨어지더라도 모든 AI 작업에 최고 사양의 가속기가 필요한 것은 아닌 만큼 비용과 가용성을 고려해 H100을 선택하는 수요가 이어지는 것이다.
젠슨 황 엔비디아 최고경영자(CEO)는 엑스(X·옛 트위터)를 통해 H100의 가격 상승을 언급하며 "엔비디아의 연산 자원은 대체 가능하고 내구성이 뛰어나며 임대 수요가 매우 높다"며 "수익을 창출하는 생산적 자산"이라고 강조했다.
다만 H100의 가격이 지속적으로 상승세를 보이는 것은 아니다. 온은 최근 30일 동안 시간당 대여료가 2달러대 중반에서 3달러대까지 오르내리는 등 가격 변동성이 크다고 설명했다.
H100의 가격 흐름은 AI 가속기의 감가상각을 둘러싼 논쟁과도 맞닿아 있다. 영화 '빅쇼트'의 실제 모델로 알려진 공매도 투자자 마이클 버리는 지난해 주요 빅테크 기업들이 AI 칩의 감가상각 기간을 실제보다 길게 설정해 이익을 부풀리고 있다고 주장했다.
반면 최근 시장에서는 AI 연산 수요가 빠르게 늘어나면서 엔비디아 가속기의 경제적 가치가 예상보다 오래 유지될 수 있다는 관측도 나온다. H100의 임대료 상승은 최신 제품 출시 이후에도 이전 세대 AI 가속기에 대한 수요가 상당 기간 이어질 수 있다는 점을 보여주는 사례로 평가된다.