챗GPT 열풍과 함께 마이크로소프트(MS), 구글, 아마존 등 빅테크를 포함한 대형 IT 기업들이 거대 인공지능(AI) 모델 서비스를 위한 데이터센터 구축을 준비하고 있지만, 설비투자 비용이 발목을 잡고 있다. 고가의 그래픽처리장치(GPU)부터 고성능·고용량 메모리 반도체 등에 막대한 돈을 쏟아부어 서버를 구축한다고 해도 아직 챗GPT로 어떤 수익 모델을 만들 수 있을 지 확신이 서지 않기 때문이다.
데이터센터 투자가 지지부진하면서 삼성전자, SK하이닉스의 실적 회복도 차질을 빚고 있다. 최대 매출 품목 중 하나인 서버용 D램 매출이 반등하기 위해서는 IT 기업들의 신규 서버 투자가 필수적인데, 챗GPT 등장과 함께 기존 데이터센터 설립비용의 2배 이상 불어난 설비투자 부담이 빅테크들을 주저하게 만들고 있다.
10일 업계에 따르면 현재 삼성전자, SK하이닉스가 챗GPT 서버용으로 공급하는 125GB DDR5 D램 가격은 1000달러 이상으로 책정된 것으로 알려졌다. 같은 용량의 DDR4 D램 가격이 100달러 안팎이라는 점을 감안하면 가격이 10배 이상 오른 것이다. 여기에 고대역폭메모리(HBM) 등 초고속 메모리 가격 역시 1500~2000달러 수준으로 고공행진 중이다.
챗GPT 알고리즘 구동을 위해 필수적인 엔비디아의 GPU 탑재량도 점점 늘고 있으며 GPU간 원활한 데이터 교환에 필요한 대역폭 확보에도 적잖은 비용이 들어간다. 업계에서는 챗GPT 모델을 사용하는 마이크로소프트(MS)의 빙(Bing) AI 챗봇의 경우 최소한 40억달러(한화 5조2984억원)의 인프라가 필요했을 것으로 분석하고 있다.
통상 데이터센터에서는 8개의 A100 GPU를 담은 ‘DGX A100′를 사용하는데 이 솔루션 비용만 20만달러를 호가한다. MS는 빙 챗을 지원하기 위해 2만개가 넘는 DGX A100을 사용한 것으로 알려졌다. 같은 비율로 하루에 80억에서 90억개의 검색어를 처리하는 구글의 경우는 약 800억달러(한화 105조원)를 투자해야 한다는 의미가 된다.
서버용 메모리 시장이 좀처럼 반등하지 못하는 이유도 이 때문이다. 특히 DDR5로 세대 교체를 유발할 서버용 CPU(중앙처리장치)의 수요 증가세가 더디다. DDR5를 채택한 CPU ‘사파이어래피즈’를 생산하는 인텔은 최근 ‘2023년 1분기 실적 발표’를 통해 매출액이 117억달러로 전년 같은 기간 184억달러에서 36% 급감했다고 발표했다.
올해 1분기 시장 출시 이후 제품 양산에 속도가 붙지 않고 있는 데다, 데이터센터 증설 투자 수요도 부진하다. 인텔 데이터 센터 사업부의 매출액은 1분기 37억달러로, 전년 같은 분기보다 39% 줄었다. 팻 겔싱어 인텔 최고경영자(CEO)는 “클라우드 사업은 여전히 약세를 보인다”면서 “서버와 네트워킹 시장이 아직 바닥에 도달하지 못했다”고 설명했다. 최근 메타도 글로벌 데이터센서 설립 계획을 연기하는 등 설비투자 계획을 축소 중이다.
최소한 올 상반기까지는 데이터센터 업체들의 보수적 투자 집행과 고객사 재고 조정으로 수요가 되살아나기가 쉽지 않을 것이라는 전망이 우세하다. 김재준 삼성전자 부사장은 지난 1분기 실적 컨퍼런스콜에서 “서버용 D램은 고객사 재고가 아직 높은 수준”이며 “서버의 경우 고객사의 재고 조정이 상대적으로 늦게 시작돼 수요 회복 시점도 PC나 모바일 대비 늦어질 수 있다”고 말했다.