“추론에 특화된 인공지능(AI) 칩으로 GPU(그래픽처리장치), CPU(중앙처리장치) 시장의 흐름을 바꾸는 선두주자로 자리매김하고 있다고 자신한다.”(류수정 사피온 대표)
인공지능(AI) 반도체 패권 경쟁이 심화하는 가운데 국내 AI 반도체 기업 사피온이 차세대 AI 반도체를 내놨다. AI 추론에 특화된 NPU(신경망처리장치)로, 가격이 비싼 미국 엔비디아의 GPU 대안으로 떠오르는 칩이다. 사피온은 내년 상반기 신제품 양산에 돌입해 챗GPT 같은 대규모언어모델(LLM) 시장을 적극 공략한다는 계획이다.
SK 계열사 사피온은 AI 반도체 설계를 전문적으로 하는 팹리스(반도체설계) 기업이다. 2016년 SK그룹 내부 프로젝트로 첫발을 뗐고, 2020년 국내 첫 데이터센터용 AI 반도체를 내놓은 뒤 지난해 별도 법인으로 독립했다. 해외 진출을 목표로 SK텔레콤·SK하이닉스·SK스퀘어가 공동 투자해 미국과 한국에 법인을 두고 있다.
사피온은 지난 15일 서울 중구 SK T타워에서 출시 발표 간담회를 열고 차세대 AI 추론용 NPU 칩 ‘X330’을 공개했다. X330은 경쟁사의 5나노 동급 추론 모델과 비교할 때 연산 성능은 약 2배, 전력 효율은 1.3배 우수하다고 사피온은 전했다. 신제품은 SK하이닉스의 그래픽 D램 GDDR6이 탑재됐고, 대만 TSMC의 7나노 공정으로 생산된다. 사피온은 X330의 경쟁 모델이 엔비디아의 L40S GPU라고 밝혔다. 류수정 사피온 대표는 “생성형 AI 핵심 기술인 LLM 지원 등 그동안 하기 어려웠던 모든 것을 구현하기 위해 칩을 완전히 새로 개발했다”며 “LLM 외에도 다양한 AI 응용 지원을 계획하고 있어 개발비를 포함한 비용 대비 성능을 고려해 가장 효율적인 부품을 선택했다”고 말했다. 그러면서 “데이터센터 운영의 비용 효율성을 개선해 고객사가 총소유비용(TCO)을 절약할 수 있다”고 했다.
사피온은 신제품의 응용 범위가 전작 X220보다 대폭 확대됐다고 강조했다. X220은 지난해 반도체 성능 테스트 대회인 엠엘퍼프(MLPerf)에서 경쟁사 최신 칩보다 2배 이상 빠른 데이터 처리 속도와 전력 효율 성능을 인정받았다. X330은 이 제품보다 성능은 4배 이상, 전력 효율은 2배 이상 향상됐다. 이번 제품은 칩이 1개 들어간 ‘콤팩트 카드’와 칩이 2개 쓰인 고성능 ‘프라임 카드’로 나온다. 콤팩트 카드 성능은 367테라플롭스(1초당 1조번의 연산 처리가 가능한 컴퓨터 성능 단위)다. 734테라플롭스 성능의 프라임 카드는 한 장으로 다양한 연산을 처리할 수 있다.
독립한 지 1년 반이 지난 사피온은 AI 추론 분야 시장 성장세에 힘입어 회사 규모를 빠르게 키워가고 있다. NHN 데이터센터와 SK텔레콤에 사피온 NPU 기반 대규모 클라우드 인프라를 구축했고, 30개 이상의 실증 사업을 진행했다. 언어 모델 기반인 SK텔레콤의 ‘스팸 문자 검출’ 서비스에도 사피온 제품이 적용될 예정이다. 사피온은 지난 7월 600억원 규모 초기 투자(시리즈A)를 유치하고 기업 가치는 5000억원 이상을 인정받았다. 류 대표는 “직원 수는 사피온 출범 당시 43명에서 현재 100명이 훌쩍 넘었다”며 “인재를 꾸준히 영입하고 있고, 다양한 산업군에서 LLM 지원 등 여러 레퍼런스를 쌓고 있다”고 말했다.
사피온은 X330과 함께 향후 다양한 반도체를 출시해 가시적인 성과를 거두겠다는 포부를 밝혔다. 우선 자율주행차 IP(반도체 설계자산) 등 고성능 엣지(말단 기기)용 AI NPU를 선보일 계획이다. HBM(고대역폭메모리)이 탑재된 다음 세대 칩 X430은 2025년 말 출시를 목표로 하고 있다. 류 대표는 “이미 올해부터 첫 번째 제품 X220으로 의미 있는 매출을 냈으며, 현재 매출 절반은 SK 내부에서, 나머지 절반은 외부에서 나오고 있다”며 “X330 매출은 빠르면 올 연말에서 내년 상반기부터 창출될 것”이라고 말했다.
사피온의 차세대 칩 출시를 시작으로 엔비디아 아성에 도전하는 AI 반도체 업계의 경쟁은 한층 치열해질 전망이다. 사피온과 함께 한국에서 태동한 퓨리오사AI, 리벨리온 등 AI 반도체 스타트업은 세계 시장에서 높은 평가를 받고 있다. 이들이 시장에 내놓은 1세대 칩은 모두 엔비디아 반도체를 특정 성능 부문에서 뛰어넘는 결과를 냈다. 퓨리오사AI는 업계 첫 HBM3를 탑재한 2세대 NPU를 내년 상반기에 양산할 예정이다. 리벨리온도 삼성전자와 협력해 4나노 공정을 사용하고 HBM3E를 탑재한 차세대 AI 반도체를 개발하고 있다.