AMD가 인공지능(AI) 가속기 MI300X 첫 성능 테스트 결과를 공개했다.
28일(현지시각) AMD는 AI 개방형 컨소시엄인 ML커먼즈(MLCommons)를 통해 AMD 인스팅트 MI300X GPU를 사용한 ML퍼프(MLPerf) 첫 벤치마크 성능을 발표했다.
AMD의 이번 벤치마크는 LLaMA2-70B 모델과 관련해 중앙처리장치(CPU)-그래픽처리장치(GPU) 성능 조합과 차세대 CPU 성능, 개별 GPU 효율, Dell 서버 설계 결과 등 4가지 항목으로 평가됐으며 슈퍼마이크로 AS-8125GS-TNMR2 시스템을 사용했다.
CPU-GPU 성능 조합에서는 AI 워크로드를 위한 AMD 인스팅트 MI300X GPU 가속기와 4세대 EPYC CPU 구성이 등 4세대 인텔 제온 CPU를 탑재한 엔비디아 DGX H100에 2-3% 이내 근접한 성능을 보였다.
차세대 CPU 성능 부분에서는 AMD 인스팅트 MI300X GPU 가속기를 탑재한 차기 5세대 AMD 에픽 튜링 CPU는 인텔 제온을 탑재한 엔비디아 DGX H100보다 앞섰다.
AMD는 Dell 서버 벤치마크에서도 파워엣지 XE9680 서버를 사용한 결과, 플랫폼을 통해 구동되는 수준의 성능을 검증했다고 밝혔다.
AMD는 “AI 가속기의 다양한 조합과 성능을 계속 선보일 수 있도록 노력할 것”이라며 “수개월 내에 추가된 메모리와 개선된 전력 효율을 갖춘 차세대 제품을 출시할 계획”이라고 했다.