バイトダンスのロゴ/イ・ジェウン

TikTokの親会社であるバイトダンスが、Anthropicの最上位人工知能(AI)モデル「Mythos」に匹敵する規模のモデルを準備中だと、フィナンシャル・タイムズ(FT)が事情に詳しい複数の関係者を引用して7日(現地時間)に報じた。

報道によると、バイトダンスはパラメーター(パラメータ)10兆個に達する新規AIモデルの事前学習に着手した。これは2兆8000億個のパラメーターを備えたMoonshotAI「Kimi K3」の約3倍の水準で、これまでに公開された中国のAIモデルの中で規模が最大である。パラメーターは脳の神経細胞数に例えられ、数が大きいほど、より高度で複雑な思考や作業を処理できるとされる。

AIモデルの事前学習には通常3〜6カ月を要し、その後すべての工程が順調に進めば微調整(fine-tuning)を経てモデルをリリースする。正確なモデル規模は今後の訓練過程で決定される予定である。

AnthropicはAIモデルのパラメーター規模を公開していないが、業界では最先端モデル「Mythos 5」が約8兆個、「Fable 5」が約5兆個のパラメーターを備えると推定している。モデル開発はグーグル・ディープマインド出身のウ・ヨンフイが率いる2000人体制のAI研究組織「Seed」が担った。

バイトダンスが「Mythos 5」に匹敵する規模のAIモデル開発に乗り出したことについて、FTは「米国の競合に追いつくにとどまらず、最先端AI分野でこれらを凌駕するという野心を示す」と評価した。最近、MoonshotAIやアリババなどが披露した中国の最新AIモデルは、各種ベンチマークでOpenAIとAnthropicの最上位モデルに匹敵する水準の性能を示した。

バイトダンスは、オープンウェイト(重み公開)モデルを主力とする中国の大半のAI企業とは異なり、クローズドモデルを開発してきており、これに合わせてAIインフラ投資も攻勢的に拡大している。バイトダンスの「Shidance」モデルは映像生成分野で世界最高水準のモデルの一つと評価されており、一般消費者向け「Doubao(豆包)」は月間利用者3億2400万人で、中国で最も人気のあるAIモデルとして定着した。

関係者によると、バイトダンスは最近、他社のAIモデルを「蒸留(distillation)」する学習手法を用いないよう指示したという。米国の最先端AIモデルを参照せず、独自にモデルを開発する方針である。ただし、バイトダンスが1年以上にわたりこうした方針を堅持した結果、競合に比べモデル開発の速度が鈍化したとの分析も出ている。

バイトダンス創業者のチャン・イーミンは「足元で遅れを取ることを心配せず、長期的に『世界最高水準のモデル能力』を確保することを目標にせよ」と社内に求めたと、米テック専門メディアのジ・インフォメーションが伝えた。

※ 本記事はAIで翻訳されています。ご意見はこちらのフォームから送信してください。