삼성전자가 2년 가까이 성능 확보에 어려움을 겪어왔던 5세대 고대역폭메모리(HBM) HBM3E, 그중에서도 가장 고사양인 12단 제품의 성능과 수율을 안정화해 공급 물량을 확대할 것으로 알려졌다. 당초 해외 주요 투자은행과 시장조사업체들은 구글의 차세대 텐서처리장치(TPU)에 SK하이닉스가 HBM3E 12단을 독점 공급하거나 주력 공급사가 될 것이라고 관측했다. 최근 상황이 급변하며 삼성전자의 비중이 확대되는 방향으로 논의가 진행되고 있는 것으로 전해졌다.
15일 업계에 따르면 구글의 TPU 설계를 대행하고 있는 브로드컴에 삼성전자의 HBM3E 12단 제품 공급 비중이 확대될 것으로 전망된다. 구글은 최신 제품인 7세대 TPU에 삼성전자, SK하이닉스의 HBM3E 8단 제품을 탑재하고 있으며, 이보다 한단계 성능을 높인 개량형 7세대(TPU 7E)에는 HBM3E 12단을 장착할 예정이다. 현재 양산 제품 테스트를 진행 중이며, 두 회사 모두 성능 측면에서는 거의 동일한 수준에 도달한 것으로 알려졌다.
삼성전자의 HBM3E 12단 제품은 지난 1년간 업계 최대 구매자인 엔비디아의 품질 테스트 벽을 넘지 못했다. 이는 삼성전자가 세계 HBM 시장에서 SK하이닉스에 줄곧 밀린 원인이기도 하다. 삼성전자는 HBM3E 제품의 성능을 끌어올리기 위해 황상준 D램 개발실장 주도로 HBM에 사용되는 D램(D1a)를 재설계할 정도로 해당 분야에 공을 들여왔고 올해 들어 브로드컴과의 협업을 통해 성능을 안정화한 것으로 알려졌다.
HBM3E 8단 제품과 12단 제품은 제품 수익성과 성능 측면에서 큰 차이가 있다. 삼성 고위 관계자는 "과거 삼성전자가 엔비디아의 HBM 제품 인증에 어려움을 겪던 시기 삼성전자 경영진이 젠슨 황 최고경영자(CEO)를 찾아가 주력 공급사 지위를 요청했었는데, 이에 대해 황 CEO는 '1순위 벤더를 원한다면 최신 HBM 제품을 12단 적층 구조로 구현해 달라'고 답변했다"며 "그만큼 HBM3E 12단 제품은 그래픽처리장치(GPU) 성능 향상과 대규모언어모델(LLM) 구동에 중요한 요소"라고 설명했다.
삼성전자가 HBM3E 12단 성능과 수율을 안정화한 배경 중 하나는 구글의 TPU 설계를 대행하고 있는 브로드컴과의 파트너십이 한몫 했다는 분석이다. 브로드컴은 엔비디아보다 더 메모리 반도체 회사에 친화적인 태도를 취하고 있다. AI 반도체의 성능을 극한으로 끌어올리기 위해 삼성전자, SK하이닉스에 지속적으로 재설계와 성능 개선을 요구하는 엔비디아와 달리 브로드컴은 고객사가 요구하는 사양만 맞춰 자체적으로 시스템온칩(SoC)를 설계하기 때문에 품질 테스트에 대한 부담도 덜하다.
브로드컴에 재직 중인 한 엔지니어는 "브로드컴을 엔비디아의 대항마로 보는 업계의 시선이 있는데 반은 틀린 얘기다. 브로드컴의 기업 정체성은 '디자인 하우스'에 가까운데, 구글 같은 고객사가 원하는 스펙의 칩을 가장 합리적인 비용으로 설계해주면서 최대한 남는 장사를 하는 것"이라며 "이것이 브로드컴이 내부적으로 더 싼 값에 많은 물량을 줄 수 있는 삼성을 선호하는 이유이며 동시에 SK하이닉스에 대한 가격 협상력도 끌어올릴 수 있는 비결"이라고 설명했다.
엔비디아의 GPU 가격과 운영 비용이 천정부지로 치솟으며 빅테크들은 엔비디아 의존도를 낮추는 투자에 더 많은 비용을 할당하기 시작했다. 이에 브로드컴은 올해부터 TPU와 같은 맞춤형 칩 설계와 제조 비용 절감을 위해 영업이익률이 70%에 달할 정도로 높은 수준의 HBM 가격을 책정한 SK하이닉스 대신 삼성전자를 전략적인 파트너로 삼아왔다.
한편 삼성전자는 HBM3E 시장에서 SK하이닉스에 대한 열세를 극복하기 위해 성능과 가격 협상에 유연하게 대처한 것으로 알려졌다. 특히 삼성전자는 SK하이닉스가 납품 중인 HBM3E 제품보다 공급 단가를 약 20% 정도 낮춘 것으로 알려졌다.