「Daumに来て『AIオーバービュー』を使えば、アップステージの大規模言語モデル(LLM)『ソラ』を使うことになり、それがまたわれわれのNPUを使うことになる。このような善循環を作れるように多く使ってもらえるとよい」
キム・ソンフン・アップステージ代表は15日に開かれたアップステージ・AXZ・FuriosaAIの共同ブリーフィングでこう述べた。ポータルDaumのAI検索サービス『AIオーバービュー』にソラを適用し、これをFuriosaAIの国産ニューラルネットワークプロセッサ(NPU)『RNGD(RNGD)』で駆動して、国産AIモデルと半導体、インターネットサービスをつなぐ構想である。3社はこれを『国内初のフルスタック・ソブリンAI商用化事例』と紹介した。
現在、DaumのAIオーバービューにはサーバー3ノードにRNGD約24個が投入され、1日約5億個のトークンを処理している。Daumの検索利用量を基にソラの使用量を増やし、これを再び国産NPU需要の拡大につなげるという考えだ。
ただしこの事業が赤字が続くアップステージの収益性改善の突破口となるかは不透明だ。アップステージの2025年監査報告書によると、営業収益は248億ウォンで前年の139億ウォンより78%増えたが、営業費用は553億ウォンで売上高の約2.2倍に達した。営業損失は305億ウォン、当期純損失は284億ウォンを計上した。
AIオーバービューの利用量が増えればソラとRNGDの使用量も増加するが、サーバーや電力などにかかる推論コストも同時に増える。この日のブリーフィングでは、AIオーバービュー導入後にDaumの検索量と広告売上がどれだけ増えたか、利用者1人が生み出す収益が推論コストを上回るかどうかは開示されなかった。1日5億個のトークンを処理するという運用規模は示したが、これがアップステージの売上と利益にどうつながるのかは説明しなかった格好だ。
◇「RNGD約24個で1日5億トークン処理」
ペク・ジュンホ・FuriosaAI代表は「現在サーバー3ノードにRNGD約24個が投入され、AIオーバービューに使用されるソラモデルを加速している」と述べ、「1日約5億個のトークンを処理している」と語った。トークンはAIモデルが文章を認識し回答を生成する際に用いる基本単位である。
イ・ゴンス・AXZ代表は「AIオーバービューが現在、Daum全体の検索クエリの約20%に露出している」とし、「今後は過半まで拡大する準備をしている」と述べた。
AIオーバービューは、利用者が検索語を入力すると関連ウェブ文書を探し、ソラが核心内容と根拠を回答形式で示すサービスである。イ代表は最新情報と幻覚(ハルシネーション)の問題を開発過程の主要課題に挙げた。
イ代表は「モデルが事前に学習した知識があっても検索で提供された情報の範囲内でのみ答えるよう、ハーネスエンジニアリングを高度化した」と述べ、「キーワード検索とベクター検索を組み合わせたハイブリッド検索で関連性の高い最新情報を届けている」と語った。
ただし幻覚発生率と出所一致率、利用者満足度などサービス品質を客観的に判断できる具体的な指標は開示されなかった。イ代表は「満足ならアップボート(推薦)を、満足しなければダウンボート(非推薦)を押してほしい」とし、利用者フィードバックを品質改善に活用すると述べた。
◇「H200と性能は同等」…比較条件は非公開
FuriosaAIは、RNGDがエヌビディアの高性能AIアクセラレーターH200と同等の応答性能を出しつつ、電力効率と価格競争力は高いと主張した。
ペク代表は「AIモデルをアクセラレーターに配置するコンパイラーと最適なサービングのためのエンジンまで、ハードウェアとソフトウェアを共同設計した」と述べ、「H200より電力効率とコスト効率が良く、同等の性能を実現した」と語った。
ブリーフィングでは、ソラをH200とRNGDでそれぞれ駆動したデモが実施された。キム代表は2つのシステムの応答速度について「ほぼ類似している」と評価した。
ペク代表は「スループットをチップ購入価格と電力消費などを含む総所有コスト(TCO)で割った費用効率が、現在少なくとも約1.5倍だ」とし、「追加の最適化を通じ、費用を従来の半分水準に下げることを目標にしている」と述べた。
ただしRNGDとH200をどの条件で比較したのかは開示されなかった。モデル精度や量子化方式、入力・出力トークン長、同時利用者数とバッチサイズが同一だったかは確認されていない。初回トークン生成時間と秒間トークン生成速度、サーバー当たり同時利用者処理量などの詳細な性能数値も示されなかった。
費用効率が約1.5倍という説明が、実際の推論コストをどの程度削減したことを意味するのかも明確でない。現在の費用削減効果と、追加最適化後の目標値が区別されておらず、ブリーフィングのデモだけでは大規模商用サービス環境での経済性を判断しにくい。
◇「年内にRNGDを1万枚供給可能」
キム代表が年末までにRNGDを1万枚供給できるのかと問うと、ペク代表は「現在量産中であり、1万枚も十分に供給できる」と答えた。ただしこれは供給能力に関するFuriosaAI側の説明であり、アップステージやAXZが1万枚を実際に発注したという意味ではない。
ペク代表は「国産NPUはGPUより電力効率とコスト効率が高く、トークンコストを削減できる」とし、「国際情勢とサプライチェーン多角化を考慮すると、ソブリンAIの半導体・モデル・サービスの結合が必要だ」と述べた。
AXZはAIオーバービューをショッピングやグルメなど分野別検索へ拡大し、長期的には利用者別AIエージェントを提供する計画だ。イ代表はサムスン電子とSKハイニックス、米マイクロンに関する情報を毎朝整理して届ける株式ニュースエージェントを事例として示した。具体的な発売時期は開示されなかった。
今回の協力は、国産AIモデルと半導体が実際のインターネットサービスで作動することを示した点に意味がある。ただしソラを採用したAXZはアップステージが買収したDaumの運営会社である。独立した外部顧客が複数のAIモデルとアクセラレーターの性能と価格を比較したうえでソラとRNGDを選択した事例とは性格が異なる。
IT業界関係者は「アップステージがDaumのAIオーバービューを収益性改善の突破口にするには、利用量の増加を広告や有料サービスの売上に結びつけ、Daum以外の外部有料顧客を確保する必要がある」と述べ、「エヌビディア基盤システムより低コストで安定的なサービスを提供し、実際に収益を上げる事例を立証することも課題として残った」と語った。