"다음(Daum)에 와서 'AI 오버뷰'를 사용하면 업스테이지의 대규모언어모델(LLM) '솔라'를 사용하는 것이고, 그게 또 우리의 NPU를 사용하는 것이다. 이런 선순환을 만들 수 있도록 많이 사용해 주면 좋겠다."
김성훈 업스테이지 대표는 15일 열린 업스테이지·AXZ·퓨리오사AI 공동 브리핑에서 이같이 말했다. 포털 다음의 AI 검색 서비스 'AI 오버뷰'에 솔라를 적용하고, 이를 퓨리오사AI의 국산 신경망처리장치(NPU) 'RNGD(레니게이드)'에서 구동해 국산 AI 모델과 반도체, 인터넷 서비스를 연결하겠다는 구상이다. 3사는 이를 '국내 첫 풀스택 소버린 AI 상용화 사례'라고 소개했다.
현재 다음 AI 오버뷰에는 서버 3개 노드에 RNGD 약 24개가 투입돼 하루 약 5억개의 토큰을 처리하고 있다. 다음의 검색 이용량을 바탕으로 솔라 사용량을 늘리고, 이를 다시 국산 NPU 수요 확대로 연결하겠다는 것이다.
다만 이 사업이 적자가 이어지고 있는 업스테이지의 수익성 개선 돌파구가 될 수 있을지는 미지수다. 업스테이지의 2025년 감사보고서에 따르면 영업수익은 248억원으로 전년 139억원보다 78% 늘었지만, 영업비용은 553억원으로 매출의 약 2.2배에 달했다. 영업손실은 305억원, 당기순손실은 284억원을 기록했다.
AI 오버뷰 이용량이 늘면 솔라와 RNGD 사용량도 증가하지만 서버와 전력 등에 들어가는 추론 비용도 함께 늘어난다. 이날 브리핑에서는 AI 오버뷰 도입 이후 다음의 검색량과 광고 매출이 얼마나 증가했는지, 이용자 한 명이 발생시키는 수익이 추론 비용을 웃도는지는 공개되지 않았다. 하루 5억개의 토큰을 처리한다는 운영 규모는 제시했지만, 이것이 업스테이지의 매출과 이익으로 어떻게 연결되는지는 설명하지 않은 셈이다.
◇ "RNGD 약 24개로 하루 5억 토큰 처리"
백준호 퓨리오사AI 대표는 "현재 서버 3개 노드에 RNGD 약 24개가 투입돼 AI 오버뷰에 사용되는 솔라 모델을 가속하고 있다"며 "하루 약 5억개의 토큰을 처리하고 있다"고 말했다. 토큰은 AI 모델이 문장을 인식하고 답변을 생성할 때 사용하는 기본 단위다.
이건수 AXZ 대표는 "AI 오버뷰가 현재 다음 전체 검색 질의의 약 20%에 노출되고 있다"며 "앞으로 절반 이상으로 확대할 준비를 하고 있다"고 말했다.
AI 오버뷰는 이용자가 검색어를 입력하면 관련 웹 문서를 찾고, 솔라가 핵심 내용과 근거를 답변 형태로 보여주는 서비스다. 이 대표는 최신 정보와 환각 문제를 개발 과정의 주요 과제로 꼽았다.
그는 "모델이 사전에 학습한 지식이 있더라도 검색을 통해 제공된 정보 안에서만 답하도록 하네스 엔지니어링을 고도화했다"며 "키워드 검색과 벡터 검색을 결합한 하이브리드 검색으로 관련성이 높은 최신 정보를 전달하고 있다"고 말했다.
다만 환각 발생률과 출처 일치율, 이용자 만족도 등 서비스 품질을 객관적으로 판단할 수 있는 구체적인 지표는 공개되지 않았다. 이 대표는 "만족하면 업보트(추천)를, 만족하지 않으면 다운보트(비추천)를 눌러 달라"며 이용자 피드백을 품질 개선에 활용하겠다고 했다.
◇ "H200과 성능 대등"… 비교 조건은 비공개
퓨리오사AI는 RNGD가 엔비디아의 고성능 AI 가속기 H200과 대등한 응답 성능을 내면서도 전력 효율과 가격 경쟁력은 높다고 주장했다.
백 대표는 "AI 모델을 가속기에 배치하는 컴파일러와 최적의 서빙을 위한 엔진까지 하드웨어와 소프트웨어를 공동 설계했다"며 "H200보다 전성비와 가성비가 좋으면서도 대등한 성능을 구현했다"고 말했다.
브리핑에서는 솔라를 H200과 RNGD에서 각각 구동한 시연이 진행됐다. 김 대표는 두 시스템의 응답 속도에 대해 "거의 유사하다"고 평가했다.
백 대표는 "처리량을 칩 구매 가격과 전력 소비 등을 포함한 총소유비용(TCO)으로 나눈 비용 효율이 현재 최소 약 1.5배"라며 "추가 최적화를 통해 비용을 기존의 절반 수준으로 낮추는 것이 목표"라고 말했다.
다만 RNGD와 H200을 어떤 조건에서 비교했는지는 공개되지 않았다. 모델 정밀도와 양자화 방식, 입력·출력 토큰 길이, 동시 이용자 수와 배치 크기가 동일했는지는 확인되지 않았다. 최초 토큰 생성 시간과 초당 토큰 생성 속도, 서버당 동시 이용자 처리량 등 세부 성능 수치도 나오지 않았다.
비용 효율이 약 1.5배라는 설명이 실제 추론 비용을 얼마나 줄였다는 뜻인지도 명확하지 않다. 현재 비용 절감 효과와 추가 최적화를 거친 뒤의 목표치가 구분되지 않아, 브리핑 시연만으로 대규모 상용 서비스 환경에서의 경제성을 판단하기는 어렵다.
◇ "연내 RNGD 1만장 공급 가능"
김 대표가 연말까지 RNGD 1만장을 공급할 수 있느냐고 묻자 백 대표는 "현재 양산 중이며 1만장도 충분히 공급할 수 있다"고 답했다. 다만 이는 공급 능력에 관한 퓨리오사AI 측 설명으로, 업스테이지나 AXZ가 1만장을 실제 주문했다는 뜻은 아니다.
백 대표는 "국산 NPU는 GPU보다 전성비와 가성비가 높아 토큰 비용을 절감할 수 있다"며 "국제 정세와 공급망 다변화를 고려할 때 소버린 AI 반도체와 모델, 서비스의 결합이 필요하다"고 말했다.
AXZ는 AI 오버뷰를 쇼핑과 맛집 등 분야별 검색으로 확대하고, 장기적으로 이용자별 AI 에이전트를 제공할 계획이다. 이 대표는 삼성전자와 SK하이닉스, 미국 마이크론 관련 정보를 매일 아침 정리해 전달하는 주식 뉴스 에이전트를 사례로 제시했다. 구체적인 출시 시점은 공개되지 않았다.
이번 협력은 국산 AI 모델과 반도체가 실제 인터넷 서비스에서 작동한다는 점을 보여줬다는 의미가 있다. 그러나 솔라를 채택한 AXZ는 업스테이지가 인수한 다음 운영사다. 독립적인 외부 고객이 여러 AI 모델과 가속기의 성능과 가격을 비교한 뒤 솔라와 RNGD를 선택한 사례와는 성격이 다르다.
IT업계 관계자는 "업스테이지가 다음 AI 오버뷰를 수익성 개선의 돌파구로 만들려면 이용량 증가를 광고나 유료 서비스 매출로 연결하고, 다음 이외의 외부 유료 고객을 확보해야 한다"며 "엔비디아 기반 시스템보다 낮은 비용으로 안정적인 서비스를 제공해 실제 수익을 내는 사례를 입증하는 것도 과제로 남았다"고 했다.