Rebellionsのサーバー型NPU「アトムマックス」サーバー前面。/Rebellions

人工知能(AI)半導体企業のRebellionsが慶尚南道と蔚山広域市の閉回路(CC)TV管制センターにサーバー型ニューラルネットワークプロセッサ(NPU)を供給する。

Rebellionsは科学技術情報通信部と韓国知能情報社会振興院(NIA)が推進する「国産NPU基盤の公共AI CCTV転換」事業で、慶南道庁と蔚山市のサーバーインフラ事業を受注したと3日明らかにした。今月から高性能サーバー型NPU「アトムマックス(ATOM-Max)」を納入する。

今回のAI CCTV管制体制は、カメラなどの現場機器で人や車両といったオブジェクトを一次検知した後、管制センターのサーバーで映像を再分析する構造だ。サーバーは火災や犯罪などの状況を判断し、分析結果の信頼度と韓国語の説明を生成する。

アトムマックスサーバーは管制センターで30B級以上の大規模ビジョン言語モデル(VLM)を駆動する。VLMは映像と言語をともに処理し、画面内の状況を分析するAIモデルである。

Rebellions側は「大規模VLMは多くのメモリーと演算性能を要求するため、小型エッジ半導体だけでは複数の映像を同時に精密分析するのに限界がある」とし、「アトムマックスは突発状況が同時に発生した際に複数の映像を並列処理し、外部インターネットと分離された閉鎖網でも作動できる」と述べた。

Rebellionsのサーバー型NPU「アトムマックス」サーバー内部。/Rebellions

大規模言語モデル(LLM)推論用ソフトウェア「vLLM」にも対応する。公共機関が既存のAI開発環境を大きく変えずにRebellionsのNPUを適用できるようにしたものだ。新しいAIモデルを置き換えたり配布したりする機能も提供する。

Rebellionsは最近、自社AIサーバー「リベルサーバー」1台でSKテレコムの超巨大AIモデル「エイドットエックス ケイワン(A.X K1)」を駆動した。このモデルは5,000億個以上のパラメーターを備えた専門家混合(Mixture of Experts・MoE)構造で、Rebellionsは演算を複数のNPUに分散して処理する方式で多数ユーザーの要求を同時に処理したと説明した。

パク・ソンヒョンRebellions代表は「国産超巨大AIモデルの実証に続き、公共の安全現場にサーバー型NPUを適用することになった」とし、「国産AI半導体が実証を超えて国民の安全のためのインフラとして活用されるようにする」と語った。

※ 本記事はAIで翻訳されています。ご意見はこちらのフォームから送信してください。