エヌビディアがエージェンティック人工知能(AI)推論に特化したアクセラレータ「グロック3 LPX(NVIDIA Groq 3 LPX)」の本格量産に入った。大規模コンテキストを処理しつつ高速にトークンを生成する必要があるエージェンティックAIの特性を狙った製品で、次世代AIプラットフォーム「ベラ・ルービン(Vera Rubin)」の推論性能を拡張する役割を担う。
エヌビディアは25日(現地時間)に米国で開かれた半導体イベント「ホットチップス(Hot Chips)」で、グロック3 LPXの量産を開始したと明らかにした。
エージェンティックAIは、ユーザーの質問に一度答える従来の生成型AIと異なり、自ら推論しツールを呼び出し作業を反復する。複雑な業務では数百〜数千段階にわたり推論が行われるため、大規模コンテキストを処理する能力と高速なトークン生成速度が重要だ。
グロック3 LPXはこのうちトークン生成速度を高めることに焦点を当てた。エヌビディアによると、グロック3 LPXはオープンソースのエージェンティックモデル「ジェンマ4 31B(Gemma 4 31B)」に10万トークンのコンテキストを適用したArtificial Analysisベンチマークで、1秒当たり3400個の出力トークンを記録した。エヌビディアは当該モデル基準でこれまで最も速い性能だと説明した。
また、コーディングなどエージェンティックAI作業で、類似の代替プラットフォームより最大4倍速い応答速度を提供すると明らかにした。ファイル検討からコード作成・テスト、ツール呼び出し、結果検証など複数の作業を反復するAIエージェントの処理時間を短縮することが目標だ。
ジェンスン・フアン エヌビディア最高経営責任者(CEO)は「推論はAI成長の原動力だ」と述べ、「ベラ・ルービンはエージェンティックAI時代に向けてワークロードに最適化したAIファクトリー構成でこのビジョンを拡張し、超高速トークン生成のためのLPXで性能の限界を一段と引き上げる」と語った。
グロック3 LPXはエヌビディアの次世代AIプラットフォームであるベラ・ルービンNVL72と結合し、推論性能を拡張する。ベラ・ルービンNVL72が大規模コンテキスト処理などAI演算を担う一方で、グロック3 LPXを活用してトークン生成速度を引き上げる構造だ。
エヌビディアは、エージェンティックAIが▲膨大なコンテキストを効率的に処理することと▲低遅延で迅速にトークンを生成することという二つのコンピューティング課題を同時に要求すると説明した。グロック3 LPXはこのうち、ユーザーに結果を伝達する生成段階の速度を高めることに特化した。
AIクラウド各社も導入に動く。ネビウス(Nebius)は自社の推論プラットフォーム「ネビウス・トークン・ファクトリー」にグロック3 LPXを導入する計画だ。エヌビディアによると、実運用環境にグロック3 LPXを導入する初のAIクラウド企業だ。
ダニラ・シュタン ネビウス最高技術責任者(CTO)は「生成はAIシステムの実際の応答速度を決定する推論段階であり、エヌビディアのグロック3 LPXはまさにこのプロセスを加速するために設計された」と述べ、「開発者が新たなスタックへマイグレーションする必要なく既存のAPIをそのまま使用しながら、エージェントループのあらゆる段階が即時に行われる体験を提供する」と語った。
AI推論に特化したクラウド企業グロック(Groq)も初期導入企業の一つとなる予定だ。
エヌビディアはベラ・ルービンを、7個のチップと5台の特殊設計ラックを共同設計したAIファクトリープラットフォームとして構築している。ベラ・ルービンNVL72とグロック3 LPXに加え、BlueField-4 DPU、ベラCPU、Spectrum-6イーサネットなどを結合し、マルチエージェントシステムのスループットと応答速度を高める戦略だ。