KTロゴ

KTが国産AI半導体と自社の大規模言語モデル(LLM)を組み合わせた企業向けAI機器「KT NPU LLMステーション」を19日に披露した。

新製品は国内ファブレスのRebellionsが開発した推論用ニューラルネットワークプロセッシングユニット(NPU)「アトムマックス」と、KTの言語モデル「ミドゥムK 2.5プロ」、運用APIプラットフォームを1台のサーバーに収めた一体型機器である。AI半導体からモデル、運用体制までの中核要素を国内技術で構成した点が特徴だ。

機器は顧客企業の内部に設置され、データ保存とAI演算がすべて社内で完結する。これにより、ネットワーク分離やセキュリティ規制で外部の生成AI活用が難しかった公共・国防・金融・製薬・製造分野の需要を狙った。

サーバーとソフトウエアが事前に統合されており、設置直後から社内文書を活用した検索拡張生成(RAG)ベースの質疑応答などを利用できる。推論に特化したNPUを適用し、同クラスのGPUサーバーより電力効率を高めたほか、標準APIに対応し、既存のAIサービスも大幅なコード変更なしで連携できるとしている。

KTは今後、議事録作成、コーディング支援、業務自動化エージェント「K-クロ(仮称)」などを追加し、専門開発企業とともに顧客の要件に合わせた構築事業を推進する。長期的にはフィジカルAI向けエッジデータセンター分野まで活用範囲を広げる計画だ。

イ・ジンヒョンKT AX事業本部長(常務)は「データ主権を確保しつつ、現場で直ちにAI転換を進められる製品だ」と述べた。

※ 本記事はAIで翻訳されています。ご意見はこちらのフォームから送信してください。