「人工知能（AI）推論市場はすでに本格軌道に乗っており、今後AI産業の激戦地になると見ている。単に答えだけを返すチャットボットを越え、複雑な業務を遂行する『AIエージェント』が普及すれば、推論演算の需要は指数関数的に増えざるを得ない。」
チョン・ユンソクRebellions最高戦略責任者（CSO）は8日、キョンギ・ソンナム市の本社でChosunBizと会い「AI産業の重心が『学習』から『推論』へと急速に移っている」と述べた。AIモデルを作る学習段階を過ぎ、利用者の質問や命令にAIが答えを出す推論が市場の中心になったということだ。ChatGPTのようなAIサービスが日常化するほど、データセンター内では推論演算が365日24時間行われる。
チョンCSOは「学習と推論に必要なAIインフラは互いに異なるアプローチを要する」とし「推論では費用効率性（TCO・総所有コスト）と低レイテンシ（応答遅延を減らす性能）が核心だ」と語った。チョンCSOは「グローバルAI企業も莫大なインフラ費用を負担しているのが現実だ」とし「演算コストを下げ、推論に最適化した専用インフラ需要は爆発的に増加する」と述べた。
Rebellionsはこうした市場変化をにらみ、4月からArm・SKテレコム（SKT）と次世代AIインフラ開発で協力している。Armのデータセンター向け中央処理装置（CPU）である『Arm AGI CPU』とRebellionsのAIアクセラレータ『リベルカード（RebelCard）』を1台のサーバーに同時搭載するのが要だ。このように構成した推論サーバーはSKTのAIデータセンターに適用され、実運用環境で性能・安定性の検証を受ける。
3社はハードウェアの結合だけでなく、ファームウェア（ハードウェアを制御する基本ソフト）などソフトウェア全般を最適化して性能を引き上げる計画だ。チョンCSOは「AIサービスを実運用する際は、演算以外にもデータ入出力・ネットワーク通信・メモリ管理・ジョブスケジューリングなど多様な処理が同時に行われなければならない」とし「CPUはシステム運用を総括する管制塔の役割を担い、ニューラルネットワークプロセッサ（NPU・AI演算に特化した半導体）はAI推論演算を専任する」と述べた。
◇ ソブリンAIを前面に据えたRebellions
RebellionsはAI半導体チップの設計・開発・供給を主要事業とする国産ファブレス（半導体設計）企業である。2020年9月に発足し、現在は商用製品『アトムマックス（ATOM-Max）』と次世代データセンター向けAI半導体『リベル100』を軸に推論インフラ市場の攻略に注力している。企業価値は3兆4000億ウォン、累計調達額は1兆3000億ウォン水準だ。Arm・SKT・SKハイニックス・サムスン・国民成長ファンド・アラムコなどが主要投資家として参加している。
Rebellionsは発足以降『ソブリンAI』を強調してきた。ソブリンAIとは、国家や企業が特定の海外クラウドや単一ビッグテックに過度に依存せず、必要なAIインフラとデータを自ら統制できる構造を意味する。AIが産業・行政・安保・通信インフラへと拡散する中で、自国のデータとAIサービスをどこで、どの半導体とサーバーで運用するのかが重要な問題になった。
汎用グラフィックス処理装置（GPU）サーバーだけでは、各国政府と機関のデータ主権・コスト・電力効率・ローカライズ要件をすべて満たすのは難しい。RebellionsはArm・SKTとの協力でこの構図を解決できると見た。チョンCSOは「真の意味でのソブリンAIを構築し、グローバル通信事業者向けのカスタムソリューションを用意する」とし「各国のデータ主権を守る統合的な次世代AIインフラ標準をグローバル市場に供給できる点で意義がある」と述べた。
チョンCSOはソブリンAIを特定国家の技術だけを使う閉鎖的構造として理解してはならないとした。チョンCSOは「ソブリンAIを単に自国技術だけを使うことと理解する場合が多い」とし「特定国家や単一ビッグテック企業への依存度が高まることで交渉力を失い、AI産業のパラダイムを自ら作り出せない状態に陥る問題が本質だ」と述べた。続けて「ソブリンAIは結局、ルールを作っていく主導性と交渉力の問題だ」と付け加えた。
海外企業であるArmと組むことがソブリンAIと矛盾するのではないかとの質問には「むしろ合致する」と答えた。チョンCSOは「単一ビッグテックへの従属が問題であるなら、解法は多様なグローバルパートナーと共に新しいエコシステムを作ることだ」とし「RebellionsがArm・SKTと連合を構成したのも同じ文脈だ」と述べた。
◇ 学習から推論へ移行…「GPUだけではコスト負担が大きい」
生成AIサービスが登場した初期の市場では、より大きなモデルを作るためにビッグテックの間で学習用GPUの確保競争が激しく展開された。しかしAIサービスが産業現場と日常へ拡散するにつれ、いまは『モデルをいかに安価かつ高速で、安定的に運用するか』がより重要な問題となった。
チョンCSOはこうした変化を示す事例として『AIエージェント』（自律的に複数の作業を遂行するAI）を挙げた。AIエージェントは1つの質問に答える水準を越え、検索・コーディング・文書作成・スケジュール処理など複数の作業を連続して行う。チョンCSOは「開発者にとってコーディングエージェントはすでに必需財になっている」とし「今後、複雑な業務や課題を遂行するエージェントが普及すれば、推論演算は今よりはるかに多く必要になる」と述べた。
チョンCSOはこのためNPU需要も急増していると説明した。GPUが汎用AI演算に強みを持つなら、NPUは反復的なAI推論作業を低消費電力で処理することに焦点を当てた製品であるためだ。チョンCSOは「GPUと同等のユーザビリティを提供しながらも、AI推論ではより高いエネルギー効率を実現することがRebellionsのNPUの差別点だ」とし「Arm・SKTとの協力を通じ、AIインフラ市場の変化により積極的な対応が可能になる」と期待を示した。
◇ 「競合よりエコシステムが重要…AIインフラは総合芸術」
リベルカードは今回の協力の中核部品だ。リベルカードはRebellionsの次世代AI半導体リベル100をカード形態にした製品を指す。リベル100は4つのNPUチップレット（小型チップを束ねて一つのように使う構造）と第5世代高帯域幅メモリ（HBM3E・AI演算用の高性能メモリ）を組み合わせた形で設計され、大規模AI推論機能を遂行できる。
チョンCSOは「AI推論に特化したRebellionsのNPUとArmのCPUを結合すれば、既存のGPUサーバーと比べて同等の性能ならより低いエネルギーコストを、同じエネルギーならより高い性能を提供する強みがある」と語った。
SKTはこのサーバーを自社のAIデータセンターで検証する予定だ。Rebellionsはすでに、SKTが独自開発したファウンデーションモデル（各種AIサービスの基盤となる大規模モデル）『エイドットエックス ケイワン（A.X K1）』を、リベルカードを搭載したリベルサーバーで駆動した経験がある。
チョンCSOは「ハードウェア自体の性能だけでなく、実際のサービス環境で安定的に稼働させるサービングソフトウェアの完成度が重要だ」とし「高性能GPUサーバーに準ずるインフラ能力を土台に、単一サーバーで超巨大モデル演算を効率的に遂行した経験が、今後の次世代AIインフラ構築にも活用される」と述べた。Rebellionsはサービングソフトウェアの能力を強化するため、6月にAIモデル軽量化企業スクィーズビーツを買収した。
チョンCSOはソウル大学電気情報工学部を卒業し、ハーバード大学で統計学修士と応用物理学博士を取得した。ベイン・アンド・カンパニーのディレクターを経て、現在はRebellionsのグローバル事業戦略と成長方向を総括している。