‘챗GPT’ 같은 초거대 인공지능(AI) 기반 모델이 등장하며 전 세계적인 광풍을 일으키고 있는 가운데 해당 기술에 대한 맞춤형 차세대 메모리 반도체를 연구개발해온 삼성전자 컴퓨팅신사업그룹이 전사적인 힘을 받고 있다.
16일 업계에 따르면 삼성전자 메모리사업부 내 컴퓨팅신사업그룹은 챗GPT와 관련한 초거대 AI를 위한 ‘맞춤형’ 차세대 메모리를 개발중이다. 메모리사업부 내에서 대표적인 선행사업 개발 조직인 컴퓨팅신사업그룹은 김진현 수석이 이끌고 있으며, 2012년 딥러닝이 개화하기 시작한 이후 프로세싱인메모리(PIM)와 같은 차세대 메모리를 집중적으로 연구개발해왔다.
초거대 AI는 대용량 하드웨어에 AI 기술을 적용한 AI 슈퍼컴퓨터를 말한다. AI 슈퍼컴퓨터는 AI가 학습한 데이터가 저장되는 파라미터(매개변수)를 통상 1조개 이상 거느리고 있는데, 이 파라미터는 사람의 뇌에서 정보를 학습하고 기억하는 시냅스와 비슷한 역할을 한다. 시냅스가 기하급수적으로 늘어난만큼 초고용량·초고성능 메모리 반도체가 필수적으로 탑재되어야 한다.
삼성전자 반도체 부문 내에서 차세대 메모리 기술인 PIM 사업화를 처음으로 제안한 컴퓨팅신사업그룹은 초거대 AI나 챗GPT와 같은 AI 기반 챗봇의 등장을 염두에 두고 10여년 전부터 실험과 연구개발 프로젝트를 진행해온 것으로 알려졌다. 프로젝트 초기에는 ‘너무 먼 미래’라는 지적과 내부적으로 회의적인 반응도 있었지만, 결과적으로 미래를 미리 내다본 셈이 됐다.
삼성전자 관계자는 “현재 삼성 내에 챗GPT와 직접 관련된 TF는 없지만 대부분의 관련 프로젝트를 컴퓨팅신사업그룹에서 진행해 오고 있었다”며 “PIM 기술이 결실을 맺을 때쯤 챗GPT가 전 세계적 화두가 되면서 시의적절한 선행 개발이 이뤄지게 됐다”고 설명했다.
PIM이란 ‘연산 기능을 갖춘 메모리’를 말한다. 단순히 데이터를 저장, 기억만 하던 메모리 반도체의 기능을 연산·추론으로 확대한 것이다. CPU 혼자서만 두뇌 역할을 하는 구조에서는 데이터를 처리할 때마다 ‘CPU-메모리-스토리지’ 단계를 오가야 하는 비효율성이 있다. 하지만 PIM 도입과 함께 ‘중앙집권형’ 연산 체계가 분권형으로 바뀌게 되고 데이터 처리의 효율성이 높아질 뿐 아니라 전력 효율도 비약적으로 끌어올릴 수 있다.
지난해 삼성전자 컴퓨팅신사업그룹은 인공지능 언어모델에 사용되는 GPU를 PIM으로 대체한 뒤 이를 96개로 엮어 대형 컴퓨팅 시스템을 만드는 실험을 하기도 했다. 전 세계에 단 하나뿐인 대형 PIM으로 언어모델 알고리즘을 학습시켜본 결과, PIM을 사용하지 않았을 때보다 성능은 2.5배 상승했고 전력 소비는 2.67배 절감되는 효과를 보였다.
김진현 수석은 최근 조선비즈와의 인터뷰에서 “메모리 중심의 PIM 응용 기술이 확대된다면 인간의 두뇌와 같은 ‘초거대 AI’ 모델을 저전력으로 구축할 수 있다”고 말했다. 이어 “이렇게 구축된 초거대 AI를 통해 실시간으로 통번역을 지원하는 기술이나 챗봇, 기후예측, 생명공학 등에도 적용될 수 있다”고 말했다.
한편, 챗GPT 광풍과 함께 국내 반도체 기업들의 기대감도 커지고 있다. 김재준 삼성전자 메모리사업부 부사장은 지난달 31일 작년 4분기 실적 콘퍼런스콜에서 “자연어 기반 대화형 AI 서비스가 미래 메모리 수요에 긍정적 영향이 있을 것”이라고 했다. 박명수 SK하이닉스 D램 마케팅 담당도 지난 1일 콘퍼런스콜에서 “언어모델의 확장성, 대중을 상대로 한 AI의 일반화와 상용화라는 점에서 파급성이 크고 향후 기술적 진화에 따라 메모리뿐만 아니라 업계 전반의 활용 확장 가능성이 크다”고 언급한 바 있다.