곽노정 SK하이닉스 사장이 4일 서울 삼성동 코엑스에서 열린 ‘SK AI 서밋(Summit) 2024’에서 기조연설을 하고 있다./SK하이닉스 제공

“SK하이닉스는 고대역폭메모리(HBM) 최대 용량인 48GB(기가바이트)가 구현된 16단 HBM3E를 개발하고 있습니다. 이는 기존 12단을 넘어선 HBM3E 최고층 제품으로, 내년 고객사에 샘플이 제공될 예정입니다.”

곽노정 SK하이닉스 사장은 4일 서울 삼성동 코엑스에서 열린 ‘SK AI 서밋(Summit) 2024′에서 ‘차세대 AI 메모리의 새로운 여정, 하드웨어를 넘어 일상으로’를 주제로 한 기조연설을 통해 이렇게 말했다. 이 자리에서 곽 사장은 16단 HBM3E 개발을 세계 최초로 공식화했다.

SK하이닉스는 HBM3E 16단의 안정적인 양산을 위해 기존 어드밴스드 스 리플로우-몰디드 언더필(MR-MUF) 공정뿐만 아니라 하이브리드 본딩 공정도 개발하고 있다고 밝혔다. 곽 사장은 “16단 HBM3E를 생산하기 위해 당사는 12단 제품에서 양산 경쟁력이 입증된 어드밴스드 MR-MUF 공정을 활용할 계획이며, 하이브리드 본딩 기술도 함께 개발하고 있다”고 언급했다. MR-MUF는 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 액체 형태의 보호재를 공간 사이에 주입하고, 굳히는 공정이다. 하이브리드 본딩은 기존 칩을 연결하던 ‘범프’ 없이 구리를 통해 칩을 쌓아, 칩 사이즈를 줄이면서 성능까지 높일 수 있는 공정이다.

SK하이닉스는 16단 HBM3E의 성능도 큰 폭으로 개선됐다고 설명했다. 곽 사장은 “내부 분석 결과 12단 제품 대비 대규모언어모델(LLM) 학습 분야에서 18%, 추론 분야에서는 32% 성능이 향상됐다”며 “향후 추론을 위한 인공지능(AI) 가속기 시장이 커질 것으로 예상되는 가운데, 16단 HBM3E는 향후 당사의 AI 메모리 선두 기업으로서의 입지를 더욱 공고히 해줄 것이라고 했다.

SK하이닉스는 HBM4부터 칩의 두뇌 역할을 하는 ‘베이스 다이’에 파운드리 공정을 도입할 예정이다. 베이스 다이란 그래픽처리장치(GPU)와 연결돼 HBM을 컨트롤하는 역할을 수행하는, HBM 성능과 직결된 칩이다. SK하이닉스는 HBM4부터 일부 제품에 베이스 다이의 회로를 고객사 요청에 맞게 설계하는 ‘맞춤형 HBM’ 사업도 본격화할 방침이다.

이를 위해 SK하이닉스는 세계 1위 파운드리 기업인 대만 TSMC와 협력을 강화할 계획이다. 곽 사장은 “맞춤형 HBM은 용량과 대역폭, 부가 기능 등 고객의 다양한 요구를 반영해 성능을 최적화한 제품으로, 향후 AI 메모리의 새로운 패러다임이 될 것”이라며 “TSMC와 원팀 파트너십을 기반으로 최고 경쟁력을 갖춘 제품을 공급해 HBM 리더의 위치를 강화할 것”이라고 설명했다.

곽 사장은 차세대 메모리 시장에서 주도권을 확보하기 위한 준비 작업에 착수했다고 밝혔다. 그는 “향후 PC와 데이터센터에 활용될 것으로 전망되는 LPCAMM2 모듈을 개발하고 있으며 1㎚(나노미터, 10억분의 1m) 기반 LPDDR5와 LPDDR6를 개발 중이다”며 “낸드에서는 고용량 쿼드레벨셀(QLC) 기반 기업용 솔리드스테이트드라이브(eSSD) 등을 준비 중”이라고 밝혔다.

SK하이닉스는 컴퓨트익스프레스링크(CXL) 등 AI 시대에 폭증하고 있는 데이터를 효율적으로 관리할 수 있는 솔루션도 준비 중이라고 설명했다. 곽 사장은 “AI 시스템 구동을 위해서는 서버에 탑재된 메모리 용량이 대폭 증가해야 한다”며 “여러 메모리를 연결해 대용량을 구현하는 CXL 등을 준비 중으로, 고객이 더 많은 데이터를 더 작은 공간에서 저전력으로 이용할 수 있도록 준비하겠다”고 했다.