백준호 퓨리오사AI 대표./퓨리오사AI 제공

‘3.3%.’

반도체 강국이라는 한국의 지난해 세계 시스템 반도체 시장 점유율이다. 삼성전자와 SK하이닉스가 글로벌 메모리 반도체 시장을 선도하고 있지만 시스템 반도체의 성적표는 초라하다. 한국에서 태동한 AI 반도체 스타트업 퓨리오사AI의 백준호(47) 대표는 이런 상황이 반전될 기회가 왔다고 확신한다. 국내 기업들이 시스템 반도체 산업에서 충분히 도약할 준비 태세를 갖추고 있다는 자신감이다.

백 대표가 2017년 창업한 퓨리오사AI는 올해 4월부터 1세대 칩을 삼성전자 파운드리(반도체 위탁생산)에서 양산 중이다. 이 칩은 현재 카카오를 비롯한 기업 데이터센터에 적용됐다. 백 대표는 지난 8일 조선비즈와의 인터뷰에서 “분기당 10조원 이상의 실적을 내는 엔비디아와 비교하면 시작 단계이지만, 중요한 건 실제 제품이 나와 기업 데이터센터에 적용되고 있다는 점”이라고 강조했다. 그는 “매출은 50억~100억원 정도를 기대하고 있으며, 내년 상반기엔 챗GPT급 대규모언어모델(LLM) 서비스를 해낼 수 있는 2세대 AI 칩을 출시해 시장을 빠르게 넓혀갈 것”이라고 말했다. 퓨리오사AI의 2세대 칩은 그래픽처리장치(GPU)를 제외한 전 세계 신경망처리장치(NPU) 제품 중 고성능 메모리 반도체 HBM3를 탑재한 첫번째 제품이 될 전망이다. 현재까지 퓨리오사의 누적 투자 유치 금액은 약 900억원, 기업 가치는 6800억원이다.

백 대표는 엔비디아의 독점 체제가 향후 깨질 가능성이 높다고 보고 있다. 엔비디아 GPU를 사용하는 기업들의 AI 훈련 비용이 높아 대안을 찾으려는 업계 내 ‘반(反)엔비디아’ 움직임이 커지고 있기 때문이다. 현재 AI 연산 처리를 담당하는 GPU가 AI 컴퓨팅에 특화된 반도체 NPU로 대체되면 패러다임 전환이 일어날 것이라고 백 대표는 내다봤다. NPU는 GPU보다 에너지 효율이 3~5배 높고, 추론 성능도 우수하다. 백 대표는 “당장 내년부터 NPU 확산 속도가 빨라질 것”이라며 “10~20년 후엔 NPU가 GPU 대부분을 대체할 것이 명확하다”고 말했다.

백 대표는 미국 조지아공대에서 전기전자공학 학·석사 학위를 취득하고 미 반도체 기업 AMD의 GPU팀을 거쳐 삼성전자 메모리 사업부에서 4년간 일했다. 그는 “전 세계에서 AI 반도체 하드웨어를 만들 수 있는 능력을 갖춘 곳은 미국, 한국, 중국밖에 없다”며 “우리의 가능성을 낮게 볼 필요가 없다. 반엔비디아 생태계가 커질 때, 국내 AI 반도체 스타트업들이 각자의 역할을 하면 시장에서 우리가 가져갈 수 있는 파이가 충분히 있을 것”이라고 말했다. 다음은 백 대표와의 일문일답.

―엔비디아는 언제까지 시장에서 승자로 남아 있을까.

“엔비디아의 시장 장악력은 상당하기 때문에 1~2년 만에 점유율이 급격하게 떨어지는 일은 없을 것이다. 그러나 엔비디아보다 효율적인 대안을 찾으려는 노력은 생각보다 빠르게 진행되고 있다. 북미 빅테크 기업들은 ‘엔비디아 택스(tax)’라는 표현을 쓴다. 운영 비용이 매우 비싼 엔비디아 칩을 어쩔 수 없이 택하는 기업들의 고통이 그만큼 큰 거다.

엔비디아에 대응할 경쟁력 있는 제품이 언제 나올지가 관전 포인트이며, 반드시 이런 구도는 형성될 것이라고 본다. 애플 아이폰 생태계와 구글 안드로이드 생태계가 경쟁 구도를 이뤄 시장이 진화하듯 엔비디아와 ‘반엔비디아’ 생태계도 함께 진화할 것이다. 실제 현재 엔비디아 소프트웨어 ‘쿠다’의 대안이 될 만한 시스템 개발이 매우 활발하게 이뤄지고 있다.

이런 생태계에서 한국 기업들은 기존 하드웨어 강점에 소프트웨어 능력을 더해 경쟁력을 발휘할 수 있다. 설계와 소프트웨어 분야가 한국 기업들의 약점이었지만, 이제는 이런 약점을 메울 만한 인적 잠재력을 보유하고 있다. 따라서 ‘반엔비디아’ 소프트웨어 생태계에서 국내 AI 반도체 스타트업의 솔루션이 잘 결합된다면 세계 무대에서 빠르게 성장할 것이다.”

그래픽=정서희

과거 보조적인 역할을 주로 맡던 메모리 반도체가 첨단 패키징 등으로 칩 성능을 끌어올리는 데 크게 기여하고 주목받고 있는데, 이런 추세는 더 강화될 것으로 보는가.

“모든 AI 칩에서 메모리의 역할이 더 중요해지는 건 확실하지만, 메모리 업체가 주인공이 되기는 어렵다. AI 칩의 핵심은 NPU 설계이고, 부가가치는 대부분 소프트웨어에서 나온다. 엔비디아가 성공한 것도 강력한 API(응용프로그램 인터페이스) ‘쿠다’를 개발해 생태계를 키운 덕분이다. NPU도 강력한 소프트웨어 생태계가 기반이 돼야만 빛을 볼 수 있다. 퓨리오사AI 전체 인력의 70%가 소프트웨어 엔지니어인데, 그만큼 여기에 중점을 두고 있는 거다. 국내 기업이 엔비디아처럼 이 분야에서 경쟁력 있는 최종 완성품을 내면 메모리보다 훨씬 높은 부가가치가 창출될 것이다.”

―엔비디아의 대안이 될 만한 완성도를 띄는 제품이 나오려면 얼마나 걸린다고 보는가.

“현재 시장에서 퓨리오사AI의 1세대 제품이 엔비디아 GPU를 일부 대체해 애플리케이션(앱)을 돌리고 있는 것처럼, 규모는 작지만 사업 레퍼런스를 쌓기 시작했다. 일부 AI 앱을 대체할 수 있다는 건 증명이 됐고, 더 중요한 건 생성형 AI 모델에 적용되는 걸 보여주는 것이다. HBM3를 탑재한 퓨리오사AI의 2세대 NPU는 획기적인 제품이 될 것이다. 트랜지스터 650억개가 집적된 이 칩의 성능은 엔비디아의 A100보다 높다. 엔비디아 제품을 대체할 가성비 높은 고급 제품이 내년부터 나오는 거다. 큰소리를 많이 쳤는데, 내년에 꼭 결과로 보여줄 수 있도록 열심히 하겠다, 하하.”

―퓨리오사AI를 비롯한 AI 반도체 스타트업의 과제는 무엇인가.

“AI 반도체는 요령을 피워서 만들 수 있는 제품이 아니라 최첨단 기술과 인적 자원이 투입돼 셀 수 없는 시행착오를 거치면서 완성도를 높여가는 것인 만큼, 현실적인 상황만 보고 섣불리 포기하지 않는 게 제일 중요하다고 본다. 세계적으로 스케일업(규모확대)을 하기 위해선 인적 자원을 더 글로벌하게 확보해야 하고, 대규모 펀딩도 이어 나가야 한다. 스타트업은 대기업처럼 스케일업 경험이 없기 때문에 새 제품을 내고 시장을 확대해 나가는 과정이 쉽지는 않겠지만, 인적 자원과 잠재력을 끌어모아 집념 있게 밀고 나가야 한다.”