데이터 저장을 주 역할로 하던 메모리반도체가 중앙처리장치(CPU), 그래픽처리장치(GPU) 등 시스템반도체와 비슷한 연산기능을 갖추는 중이다. 초거대 인공지능(AI)의 등장으로 메모리 역할이 변한 데 따른 것이다. 이전과 비교해 아주 높은 수준의 정보 처리 능력이 필요한 초거대 AI에는 메모리도 연산을 해야만 데이터 흐름이 원활치 않은 데이터 병목 현상이 발생하지 않는다.
24일 시장조사업체 IDC에 따르면 2020년 전 세계 디지털 정보량은 90ZB(제타바이트)로, 99조㎇(기가바이트)에 해당한다. 지구 위 모든 해변 모래알 숫자의 약 1282배에 달한다. 128㎇ 태블릿PC에 이 정보를 저장하고 쌓으면 지구와 달 사이 거리(55만7704㎞)의 약 15배 높이까지 쌓을 수 있다. 데이터 증가 속도는 더욱 가파르게 오르고 있는데, 2025년이면 175ZB에 이를 전망이다.
이런 데이터 처리를 위해 삼성전자와 SK하이닉스 등 글로벌 메모리 선두 기업들은 최근 차세대 D램으로 불리는 PIM(프로세스-인-메모리)을 선보이고 있다. PIM은 CPU나 GPU 등 프로세서가 수행하는 데이터 연산기능을 메모리 내부에 넣은 것이다. PIM을 활용하면 전체 시스템이 데이터 일부를 메모리에서 자체적으로 처리할 수 있어 CPU와 메모리 간 데이터 이동이 줄어 성능이 높아진다. 데이터 이동 과정에서 소모하는 전력도 아낄 수 있다.
삼성전자는 최근 PIM 기술을 활용한 고대역메모리(HBM)인 HBM-PIM 솔루션을 확보하고, AMD의 AI 가속기에 사용되는 GPU M–100에 적용했다. 이를 가지고 대규모 AI와 고성능 컴퓨팅(HPC)에서 성능평가를 했더니 HBM-PIM을 적용하지 않았던 기존과 비교해 성능은 2배 늘고, 에너지소모는 50% 감소했다.
삼성전자는 “8개 GPU 가속기로 시스템을 구성해 대용량 AI 언어 모델을 학습한 결과 HBM-PIM을 결합한 GPU는 이전 시스템과 비교해 연간 사용 전력을 2100GWh(기가와트시) 줄이는 것으로 확인했다”라며 “이는 탄소 배출량 약 96만t을 줄이는 것으로, 1억 그루의 소나무가 1년 동안 흡수하는 탄소보다 많은 양이다”라고 했다.
삼성전자는 HBM-PIM을 활용하면 현재 데이터센터가 직면한 메모리 용량과 대역폭 한계로 인한 데이터 병목 현상 해소라는 과제를 해결할 수 있을 것으로 본다. 또 ESG(환경·사회·지배구조) 경영 측면에서 탄소저감에도 효과를 낼 것으로 여긴다.
SK하이닉스는 PIM으로 GDDR6-AiM(엑셀러레이터-인-메모리)을 개발했다. 1초에 영화 198편을 처리하는 초당 16Gb(기가비트) 속도의 GDDR6에 연산 기능까지 부여한 것이다. 보통 CPU 또는 GPU와 짝을 이루는데, 함께 장착할 경우 연산 속도가 기존에 비해 최대 16배 빨라진다.
GDDR6-AiM은 기존 동작 전압보다 낮은 전압에서 구동이 가능해 전력소모가 적다. CPU와 GPU 간 데이터 이동도 줄여 프로세서가 사용하는 전기도 절약할 수 있게 한다. 그 결과 기존 시스템에 비해 전력소모가 80%쯤 줄어든다.
SK하이닉스 관계자는 “PIM 기술은 대규모 데이터를 처리하거나 실시간으로 데이터를 출력해야 하는 AI, 데이터센터, 고성능 컴퓨팅 등에 적용될 수 있다”라며 “이 분야에서는 연산 특성에 최적화된 기술이 필요한데, PIM 기술이 이를 극복하는 데 도움이 된다”고 했다.
연산 기능이 추가된 메모리가 시장의 중심에 서게 되면, 메모리 강국인 한국에도 긍정적인 효과가 기대된다. 시장조사기관 옴디아에 따르면 삼성전자와 SK하이닉스 등 국내 반도체 기업의 올해 2분기 전 세계 D램 점유율은 71.5%에 달한다. 업계 관계자는 “막대한 데이터 처리가 필요한 고성능 컴퓨팅 각 분야에서 연산 메모리의 존재는 메모리 수요를 흡수하는 결정적 무기가 될 수 있다”라며 “그에 따른 수혜는 PIM 개발에 선도적으로 나서는 한국 메모리 기업이 가장 많이 흡수하게 될 것이다”라고 했다.