エヌビディアが自社開発の軽量オープンソース型人工知能(AI)モデルを公開した。最近、オープンソースAIへの規制に反対するSeohan Engineering & Constructionを主導したのに続き、自らモデル開発にも速度を上げている格好だ。エヌビディアはパラメーター1兆個規模の超大型オープンソースAIモデルも開発していると伝えられている。
エヌビディアは11日(現地時間)、300億個パラメーター規模の混合専門家(MoE)モデル「ネモトロン3.5ライトニング」を公開した。
ネモトロン3.5ライトニングは、企業が別途のライセンス費用や事前承認なしにダウンロードして使用できる。モデルの重みも公開し、利用者が目的に合わせて修正できるようにした。
エヌビディアはCNBCに対し、ネモトロン3.5ライトニングが既存の大型ネモトロンモデルを「蒸留」してサイズを縮小しつつ、類似の性能を実現したと説明した。蒸留は大型AIモデルの回答をデータとして活用し、より小型のモデルを訓練する手法である。主要AI企業が軽量モデル開発に活用してきたが、最近は中国のAI企業が米国の先端AIモデルを模倣するのに活用したとの疑惑が提起され、「論争」となっている技術でもある。
エヌビディアによると、ネモトロン3.5ライトニングは同クラスのオープンソースモデルよりトークン生成速度が最大4倍速く、AIエージェントが全作業を完了する時間は約30%短い。
エヌビディアは、利用者の指示の難度と要件を分析して適合するAIモデルにリクエストを配分するオープンソースのツール「ネモスイッチヤード」も併せて公開した。エヌビディアは、これを活用すれば最高性能モデルのみを使用するのと近い精度を維持しながら、費用を3分の1水準に抑えられると説明した。
超大型AIモデルの開発も進めている。ロイター通信は情報技術(IT)専門メディアのジ・インフォメーションを引用し、エヌビディアがパラメーター1兆個規模の次世代モデル「ネモトロン4」を開発していると報じた。まだ訓練は完了しておらず、発売日程も確定していないが、早ければ今年の晩秋にモデル開発が完了すると伝えられている。
カリ・ブリスキエヌビディア生成型AI担当副社長は「安全と安保を強化し、イノベーションを促進するためには、すべての企業と国家がアクセスできる最先端のオープンソースモデルが必要だと信じているため、ネモトロンに投資している」と明らかにした。
エヌビディアがオープンソースAIのエコシステム拡大に積極的な背景には、本業のグラフィックス処理装置(GPU)事業との利害もある。OpenAI・Anthropic・グーグルなどのクローズドモデルと異なり、オープンソースモデルは利用者が直接モデルをダウンロードし、自社のサーバーやデータセンターで稼働・改変できる。オープンソースAIの利用が増えるほど、モデルを学習し推論するのに必要なAIアクセラレーター需要も拡大し得る。
特定のAIモデル事業者と無関係に、AIの演算量そのものが増えることがエヌビディアには有利だという構図である。ジェンスン・フアンエヌビディア最高経営責任者(CEO)は最近、米オンラインメディアのアクシオスとのインタビューで「無料AIはハードウエアにも、半導体にも、データセンターにも良いに決まっている」と語った。