“AMD ‘MI300′ 시리즈는 생성형 인공지능(AI)에 가장 최적화된 제품입니다. 메모리 용량과 대역폭뿐만 아니라, AI 학습과 추론 능력에서 엔비디아 GPU에 최대 2배 앞선 성능을 제공합니다.”
리사 수 AMD 최고경영자(CEO)는 6일(현지시각) 미국 캘리포니아주 산타클라라에서 개최된 ‘어드밴싱 AI(Advancing AI)’ 행사에서 “AMD가 공략할 수 있는 AI 가속기 시장 규모는 1500억달러(약 197조원)에서 오는 2027년 최소 4000억달러(약 526조원) 수준으로 성장할 것으로 전망된다”라고 말했다. 이날 행사에는 수 CEO와 AMD 경영진, AI 산업 관계자 등이 발표자로 나서 차세대 인스팅트 MI300(Instinct MI300) 데이터센터 그래픽처리장치(GPU) 가속기 제품군과 회사의 미래 성장 동력을 공개했다.
AMD는 생성형 AI 시장에 특화된 반도체 가속기 ‘인스팅 MI300 시리즈’인 ‘MI300X’와 ‘MI300A’를 공개하고 이들이 탑재된 AI 플랫폼도 함께 선보였다.
특히 이날 AMD는 AI 시장을 겨냥한 신제품 ‘인스팅 MI300 시리즈’를 엔비디아의 GPU ‘H100 SXM’과 ‘H100 GHX’ 등과 비교하며 자사의 MI300 시리즈가 엔비디아 제품보다 우수한 성능을 보였다고 강조했다. MI300 시리즈를 앞세워 엔비디아의 GPU 시장 독점 구도를 깨기 위한 전략으로 풀이된다.
AMD의 MI300X 가속기는 AMD CDNA3 아키텍처 기반으로 설계됐으며 4세대 고대역폭메모리(HBM)인 HBM3가 총 8개 탑재됐다. MI300X는 192기가바이트(GB)의 메모리 용량과 초당 5.3테라바이트(TB) 수준의 메모리 대역폭을 지원한다. 전작인 MI250X와 비교하면 메모리 용량은 1.5배 증가했고, 메모리 대역폭도 1.7배 늘어났다. 리사 수 CEO는 “현재까지 출시된 AI 가속기 중에 가장 뛰어난 성능을 보이며, AMD가 소개한 제품 중에서도 최고의 기술력이 집약된 칩이다”고 설명했다.
경쟁사인 엔비디아의 제품 H100 SXM과 비교할 때 MI300X의 메모리 용량과 대역폭은 각각 2.4배, 1.6배 우수하다. 고성능컴퓨팅(HPC) 성능도 H100 SXM과 비교할 때 2.4배 높다. AMD는 MI300X는 메타에서 개발한 대규모언어모델(LLM)인 라마2(Llama2)와 같이 700억개 이상의 파라미터 모델이 추론 작업을 수행할 때 사용할 수 있는 업계 유일한 가속기라고 설명했다.
8개의 MI300X가 탑재된 ‘MI300X 플랫폼’ 역시 엔비디아의 플랫폼 ‘H100 GHX’의 성능을 뛰어넘었다. MI300X 플랫폼의 메모리 용량은 1.5TB로 640GB인 엔비디아의 H100 GHX과 비교하면 2.4배 뛰어나다. 대규모언어모델(LLM) 추론 벤치마크(성능테스트)도 1.6배가량 우수한 것으로 나타났다.
AMD의 MI300A는 세계 최초의 APU 가속기이다. APU는 그래픽처리장치(GPU)가 탑재된 AMD의 중앙처리장치(CPU)를 의미한다. MI300A는 AMD의 CDNA 3 아키텍처 기반 GPU와 젠4(Zen4) 아키텍처로 설계된 CPU가 적용됐다. MI300A에도 HBM이 탑재돼 125GB의 메모리 용량을 제공한다.
MI300A는 전력 효율에서 강점을 보인다. 대용량 데이터를 처리해야 하는 HPC와 AI 분야 특성상 데이터센터에서 막대한 전기가 소모돼 프로세서의 전력 효율이 갈수록 중요해지고 있다. MI300A는 HPC의 와트(W)당 성능에서 전작인 MI250X와 비교할 때 1.9배 높은 효율을 보였다. 경쟁 제품인 엔비디아의 H200보다 2배 뛰어나다. 수 CEO는 “MI300 시리즈는 높은 수준의 연산 처리와 AI 학습 능력뿐만 아니라 HPC와 AI 분야에서 요구되는 전력 효율까지 충족할 수 있을 것”이라고 했다.
최근 글로벌 PC 제조사에서도 MI300 시리즈를 탑재한 가속 컴퓨팅 시스템을 잇달아 공개했다. 델 테크놀로지스는 총 8대의 AMD 인스팅트 시리즈 가속기가 설치된 델 파워엣지 XE9680 서버와 AMD ROCm(Radeon Open Compute) 기반 AI 프레임워크로 구성된 생성형 AI용 ‘델 검증 설계’를 새롭게 선보였다. 휴렛팩커드 엔터프라이즈(HPE)에서도 최근 AMD 인스팅트 MI300A를 탑재한 최초의 슈퍼컴퓨터 가속기 블레이드 ‘HPE 크레이 슈퍼컴퓨팅 EX255a’의 출시 계획을 공개했다.
한편, MI300에 탑재되는 HBM 공급을 두고 메모리 업계의 경쟁은 한층 치열해질 전망이다. 앤드류 딕맨 AMD 데이터 센터 GPU 사업부 총괄은 “특정 업체를 주요 공급사로 선정하지 않고 삼성전자와 SK하이닉스, 마이크론 등 HBM을 제작할 수 있는 기업들로부터 다양하게 공급받을 계획”이라고 설명했다.