구글·AMD 등이 인공지능(AI) 가속기 경쟁력을 끌어올리면서 엔비디아가 주도해 온 시장 구도가 재편되고 있다. 두 회사가 '엔비디아 일극'에 균열을 내면서 고대역폭메모리(HBM) 시장도 복수의 '큰손'이 이끄는 구조로 바뀌는 양상이다.
5일 반도체 업계에 따르면 대만계 증권사 푸본증권 산하 푸본리서치는 최근 공급망 조사 결과 오는 2028년 구글의 텐서처리장치(TPU) 물량이 엔비디아의 데이터센터용 그래픽처리장치(GPU) 출하량을 앞지를 수 있다고 전망했다. 9세대 TPU 물량은 1200만~1500만개, 엔비디아 AI GPU 출하량은 1240만개로 각각 예상했다. '엔비디아 대항마'로 꼽히는 AMD도 GPU 한 개에 탑재하는 HBM 용량을 늘리고 있다. 대형 AI 기업을 고객사로 확보하면서 가속기 출하량 증가도 예상된다.
HBM은 여러 개의 D램을 수직으로 쌓아 AI 가속기 가까이에 배치하고 대량의 데이터를 빠르게 공급하는 메모리다. 데이터를 제때 전달하지 못하면 연산 병목이 발생한다. 넓은 데이터 통로와 높은 대역폭을 갖춘 HBM은 이미 고성능 AI 가속기의 필수 부품으로 자리 잡았다. AMD의 차세대 제품에는 6세대 HBM인 HBM4가 들어가고, 글로벌 투자은행 모건스탠리는 구글의 9세대 TPU에 7세대 HBM인 HBM4E가 탑재될 수 있다고 분석했다.
◇ 엔비디아 37.3%·구글 36.0%… 내년 HBM 수요 양분
모건스탠리는 내년 GPU와 주문형반도체(ASIC)에 탑재되는 HBM 총수요를 486억1800만Gb(기가비트)로 내다봤다. 약 60억7700만GB(기가바이트·8비트=1바이트)로, AI 데이터센터의 주력 가속기로 쓰인 엔비디아 블랙웰 B200 약 3165만개에 들어가는 HBM 분량이다. 비트그로스(메모리 총용량 증가율) 기준 수요는 올해보다 약 60% 늘어날 것으로 예상됐다.
엔비디아가 약 181억2500만Gb를 소비해 전체의 37.3%를 차지할 것으로 추정됐다. 구글은 약 175억700만Gb로 36.0%, AMD는 약 59억Gb로 12.1%를 각각 차지할 것으로 분석됐다. 엔비디아가 구글 수요를 1.3%포인트로 소폭 앞서면서 최대 수요처를 유지하지만, 다른 기업의 소비량도 빠르게 늘 수 있다는 것이다.
구글·AMD·아마존웹서비스(AWS)·마이크로소프트(MS)·메타 등 비(非)엔비디아 고객의 HBM 수요 비중은 62.7%에 달할 것으로 전망됐다. 엔비디아의 제품 출시 일정과 공급사 선정에 좌우되던 HBM 시장이 여러 고객의 제품 로드맵에 따라 움직이는 다극 체제로 옮겨가는 셈이다.
시장조사업체 트렌드포스도 전체 HBM 수요 중 엔비디아 비중이 작년 66%에서 올해 58%로 낮아질 것으로 전망했다. 구글 TPU 등 클라우드서비스사업자(CSP)의 자체 AI 칩 도입이 늘면서 올해 AI 서버 출하량에서 ASIC 기반 제품 비중도 27.8%에 이를 것으로 예상했다.
◇ 구글, TPU 세대 바뀔수록 HBM 탑재량 확대
엔비디아와 맞먹는 HBM 수요처로 부상한 구글은 TPU 세대가 바뀔 때마다 칩 한 개에 탑재하는 HBM 용량을 늘리고 있다. 7세대 TPU인 아이언우드는 칩당 HBM 192GB를 탑재했다. 올해 공개한 8세대 TPU 8t·8i에는 각각 216GB와 288GB의 HBM이 들어간다. 대역폭은 초당 6.5TB(테라바이트)와 8.6TB로, 대규모 AI 모델의 연산 결과를 빠르게 주고받도록 용량과 처리 속도를 함께 높인 게 특징이다. 추론용 TPU 8i의 HBM 용량은 아이언우드보다 50% 많다. 모건스탠리는 구글이 향후 공개할 9세대 TPU에 HBM4E가 사용되고, TPU 8i의 두 배에 해당하는 576GB가 탑재될 수 있다고 분석했다.
구글은 자체 데이터센터와 구글클라우드에서 사용하던 TPU를 고객사의 데이터센터에 직접 공급하는 사업도 시작했다. 구글 모회사 알파벳은 올 2분기 실적 발표에서 고객 데이터센터에 TPU 시스템을 처음 납품하고 관련 매출을 인식하기 시작했다고 밝혔다.
TPU 연산 자원을 빌려주던 기존 방식에서 벗어나 새로운 매출원을 마련한 것이다. 고객 데이터센터에 TPU 시스템을 직접 설치하는 식으로 사업 영역을 넓히면서 HBM 수요도 함께 늘어나게 됐다.
글로벌 투자은행 바클레이스는 구글의 외부 공급용 TPU 규모가 올해 약 100만개·1.4GW(기가와트)에서 2028년 약 474만개·11.5GW로 늘어날 수 있다고 분석했다. 2028년 외부 TPU 사업 매출은 약 2527억달러(약 361조원)에 이를 것으로 추산했다.
◇ AMD 헬리오스 한 대에 HBM4 31TB
GPU 한 개에 넣는 HBM 용량을 경쟁사보다 확대하면서 경쟁력 확보에 나선 AMD도 메모리 시장의 새로운 '큰손'으로 부상했다. 차세대 AI 가속기 '인스팅트 MI455X'에는 HBM4 432GB가 들어간다. 엔비디아 루빈 GPU의 HBM4 288GB보다 50% 많다. MI455X 72개를 묶은 랙 단위 AI 시스템 '헬리오스' 한 대에는 총 31TB의 HBM4가 탑재된다. AMD는 헬리오스 초도 출하를 시작해 올해 4분기부터 공급량을 본격적으로 늘릴 계획이다. 이미 오픈AI·메타·MS·앤트로픽 등 대형 AI 기업을 고객사로 확보했다.
AI 가속기 시장에서 구글·AMD 등 비(非)엔비디아 진영의 입지가 넓어지면서 삼성전자·SK하이닉스·마이크론의 HBM 공급 경쟁은 한층 가열될 전망이다. 기존에는 엔비디아가 요구하는 성능 충족 여부에 공급 규모가 갈렸다면, 이제는 고객별 가속기 특성에 맞춘 제품을 제때 공급하는 능력이 중요해졌기 때문이다. 업계에서는 엔비디아향 공급망에서 여전히 SK하이닉스가 우위를 점하고 있지만, 비엔비디아 고객군에서는 삼성전자의 영향력이 커지고 있다는 분석이 나온다. 삼성전자는 D램·파운드리·첨단 패키징을 함께 제공하는 턴키 역량과 10나노급 6세대(1c) D램 공정을 앞세워 HBM4 전환기부터 존재감을 키우고 있다.
삼성전자는 지난달 열린 2분기 실적 발표에서 "올해 3분기 HBM4 매출은 전 분기 대비 3배 이상 확대될 것으로 전망한다"며 "하반기 중 전체 D램 점유율과 동등한 수준의 HBM 점유율을 확보할 것"이라고 밝혔다. 시장조사업체 카운터포인트리서치에 따르면 삼성전자는 올 2분기 매출 기준 세계 D램 시장에서 점유율 39%로 1위를 차지했다. 글로벌 투자은행 UBS가 내년 HBM 비트 출하량 기준 점유율을 삼성전자 41%, SK하이닉스 39%, 마이크론 20%로 예상한 것도 비엔비디아 고객향 공급 변화가 반영된 결과라는 해석이 나온다.
반도체 업계 관계자는 "HBM 수요처가 엔비디아 중심에서 구글과 AMD 등으로 넓어지면서 고객별 제품 로드맵과 공급망의 중요성이 커지고 있다"며 "HBM4와 HBM4E 전환기에는 생산 능력뿐 아니라 가속기에 맞춘 설계·공정·패키징 역량이 점유율을 좌우할 것"이라고 말했다.