サンディスクが米国特許商標庁(USPTO)に登録した「大容量・広帯域の蓄積メモリーを統合したプロセッシングコア」の特許図面。/米国特許商標庁

米国サンディスクが開発した高帯域幅フラッシュ(HBF)技術が最近、市場で再評価されている。サンディスクは最近、グラフィックス処理装置(GPU)や人工知能(AI)アクセラレーターの下にNANDフラッシュを直接取り付ける技術特許を確保した。この技術がAI半導体市場のデータボトルネックを減らし得る代案として注目され、株価上昇にも影響を与えたとの分析である。

22日(現地時間)サンディスクの株価は前営業日比4.07%高の2273.73ドル(約350万円)で取引を終えた。取引時間中には2352.99ドルまで上昇し、52週高値を更新した。AIの普及に伴いサンディスクの主力製品であるデータセンター向けNANDと企業向けソリッドステートドライブ(eSSD)事業が好況を迎えたことに加え、HBFのような次世代技術の商用化期待が株価を押し上げた原動力とみなされている。

◇『GPUの下にNAND』特許で株価上昇

米国特許商標庁(USPTO)によると、サンディスクは昨年9月に「大容量・高帯域幅ストレージメモリーを統合したプロセシングコア」特許(US 12,430,274 B2)を登録した。この特許の要は、GPUやAIアクセラレーターのようなプロセッサーを大容量不揮発性メモリーの上に直接載せ、周辺には高帯域幅メモリー(HBM)スタック(束)を配置する構造にある。

市場調査会社トレンドフォースは22日、この特許について「サンディスクがNANDを垂直積層する次世代構造であるHBF開発に速度を上げると同時に、構造的容量制限を解決するための追加メモリー概念も進展させている」と述べた。

半導体業界関係者は「NANDはDRAMよりデータアクセス速度が遅いが、演算チップの直下に配置すればデータ移動距離を縮め、AI半導体のボトルネックを緩和できる」としつつ「サンディスクの特許技術はストレージのボトルネックを突破し得る将来のハードウエア構造を示している」と述べた。

◇ AIのボトルネック、GPU確保からメモリー容量へ移動

これまでAI半導体競争はGPUとHBMをどれだけ確保するかの争いに近かった。だが現在の市場ではそれだけでは不十分だとの評価が出ている。

AI市場は大規模モデルを作る「学習」から実ユーザーに回答を提供する「推論」へと重心が移った。推論段階では多数のユーザーが同時に質問し、AIが以前の対話や文脈を記憶し、画像・映像・音声まで併せて処理する必要がある。この過程でメモリー容量とデータ移動が問題として浮上している。大規模言語モデル(LLM)が過去の文脈を素早く参照するために用いるキー・バリュー(KV)キャッシュも一層大きくなっている。AIがパーソナライズされ、エージェントAIへ進化するほど、この限界はより鮮明になる。

HBMは揮発性メモリーであるDRAMを垂直に積み、データの通路を広げたメモリーである。GPUが大規模並列演算を行う際に必要なデータを迅速に供給し、AI時代の中核部品として定着した。しかしHBMは高速な代わりに高価で、電源が切れるとデータが消える揮発性メモリーを基盤としているため、容量を無制限に増やすことは難しい。

高帯域幅メモリー(HBM)のモジュール化例。/SKハイニックス ニュースルームのキャプチャー

SSDはNANDを基盤として容量が大きく、価格も相対的に低い。電源が切れてもデータが消えない不揮発性という利点もある。だがAIチップと物理的に離れており、データ伝送速度もHBMより低い。

HBFはこの両者の間の空白を埋めようとする技術である。HBMよりは遅いがSSDより速く、HBMよりはるかに大きい容量を提供する新たなメモリー階層を作るということだ。より多くのデータをより近い場所に保存し、素早く呼び出す能力が重要になる状況で、サンディスクの特許技術が代案になり得るとの分析が出るや、市場の注目が集まった。

◇「AIチップのパッケージ構造を変える技術」

これまでAIチップはGPUの横にHBMを取り付け、より大きなデータは遠く離れたSSDに任せる方式で設計されてきた。これに対しサンディスクの特許は、大容量NANDを演算チップの直下まで引き寄せる構造である。HBMが机上に広げた「参考書」だとすれば、NANDベースのHBFをGPUの近くに置いた「書架」として使うという概念である。

業界ではこの特許が、HBFを単にHBMとSSDの間に置かれる「新しいメモリー」と見るだけでなく、AIチップの作り方そのものを変え得る点を示したと解釈している。サンディスクは特許で、NANDのストレージ空間とこれを制御する回路を一体化した構造の上に、GPUやAIアクセラレーターのような演算チップを載せる方式を提示した。この結合構造を半導体チップがともに載る基板であるインターポーザーに取り付け、その周辺にHBMを配置する方式である。

平たく言えば、大容量NANDをGPUの直下に取り付けて効率を高めるということだ。NANDのストレージ空間を演算チップの近くに置けば、データ移動距離を縮められる。HBMは直ちに高速処理が必要なデータを担い、GPUの下に取り付けたNANDはより大きなデータを保存し、反復的に読み書きする役割を分担する構想である。

この構造で演算チップは大型GPUやAIプロセッサーになり得て、周辺にはHBMスタックを配置できる。サンディスクが狙うのは、NANDを単なるストレージではなく、AI半導体の内部でHBMとともに動作する大容量メモリーへと引き上げることだ。

高帯域幅フラッシュ(HBF)の構造。/サンディスク

サンディスクが示した構造は、HBFがHBMを代替するというよりHBMと役割を分担する方向に近い。即時の演算と超低遅延の作業はHBMが担い、大容量の読み書き作業と長期保持すべきデータはNANDベースのHBFが担う方式である。

この構造が実装されれば、AIデータセンターは高価なHBMを無制限に増やさなくても、より長い文脈、より多くのユーザー記録、より大きなマルチモーダルデータを処理できる。推論コストと電力消費を下げられるため、AIサービス企業にとって魅力的な技術と受け止められ得る。

もっともHBFがすべてのAI作業に適するわけではない。NANDはDRAMよりレイテンシが長く、書き込み耐久性の課題もある。したがってHBFは、レイテンシが極度に重要な演算よりも、大規模データを反復的に読み、大きな文脈を維持し、膨大なKVキャッシュを参照する推論作業にまず使われる可能性が大きい。

AIメモリーアーキテクチャの概念図。/SKハイニックス ニュースルームのキャプチャー

◇ サンディスク、SKハイニックスと標準化…サムスン電子も参戦の兆し

業界では、サンディスクがHBF技術に注力するのは、強みを持つNANDをAI半導体パッケージ内部に取り込み、HBM中心の競争で新たな突破口を探る試みだと解釈している。NANDはDRAMに比べAI市場での注目度が比較的低かった。

半導体業界関係者は「HBMはサムスン電子・SKハイニックス・マイクロンが主導する市場で、AI需要の増加に伴い超好況を享受している」とし「サンディスクはこの競争を正面から追うよりも、自社の強みである超大容量NANDをAI半導体内部に取り込む戦略を選んだ」と述べた。

サンディスクはHBMに近い帯域幅を提供するHBFを開発することが目標だと明らかにしている。類似のコストでHBMより8〜16倍の大きな容量を提供し、既存SSDより高い帯域幅を実現する製品で市場構図を再編するという。

サンディスクは既にSKハイニックスとHBFの標準化作業を公式化している。両社は2月、米カリフォルニア州ミルピタスのサンディスク本社でHBF仕様標準化コンソーシアムのキックオフ行事を開いた。

SKハイニックスはHBMで蓄積した積層・パッケージング・インターポーザー技術を、サンディスクはNANDとフラッシュ設計の強みを提供する形で協力している。SKハイニックスはHBM市場でエヌビディアのサプライチェーンを先取りし、AIメモリーの強者として地位を固めた。ここにサンディスクとHBF標準を共に作れば、AIメモリー市場をHBMとHBFの二本柱で牽引できる。

サムスン電子は公式にはHBF事業計画を具体化していない。だが業界と証券街では、HBMで一度主導権を逃した経験から、HBF市場にはより積極的に参入する可能性が高いとみている。

サムスン電子の半導体事業に精通する関係者は「対外的に発表はしていないが、サムスン電子も2020年代初頭からHBF関連の研究を継続してきた」とし「商用化に近い技術を多数確保しており、一部は特許の出願・登録も終えた」と語った。

◇ 商用化までの発熱・歩留まり・ソフトウエアの課題

市場でサンディスクの特許技術が再評価されたが、この技術が現在商用化されているわけではない。業界では、サンディスクが提示した構造が実製品として実現されるには、電力消費、製造コスト、パッケージの歩留まり、発熱制御といった問題を解決する必要があると分析する。

ある半導体企業の研究員は「プロセッサー・NAND構造・HBMスタックを一つのパッケージに入れると、発熱制御が非常に難しい」とし「GPUやAIアクセラレーターはすでに高い電力を消費するチップだが、ここにNANDとHBMスタックまで付ければパッケージ内部の熱密度が高まり、電力供給網の設計も複雑化して実装難度が上がる」と述べた。

高帯域幅フラッシュ(HBF)の画像。/SKハイニックス ニュースルームのキャプチャー

歩留まりも課題だ。HBFはNANDをHBMのような高帯域幅構造で使おうとする技術である。すでに数百段の積層構造である3次元(D)NANDが広く使われている。ここにハイブリッドボンディング、インターポーザー配線、コントローラー構造が加われば、プロセス難度は高くなる。

コントローラーとソフトウエアも重要である。HBFは単に大きなNANDをGPUの近くに取り付ければ作動する技術ではない。どのデータをHBMに置くか、どのデータをHBFに置くか、いつ先読みするか、どの順番でGPUに供給するかを精密に判断しなければならない。AIモデルとシステムソフトウエアがHBFを適切に活用できなければ、物理的に近いNANDを付けても期待した性能は出にくい。

信栄証券は、HBF市場が2027年から形成され、2030年に120億ドル(約2兆8463億2,000万ウォン)規模まで成長し得ると展望した。HBFがHBM市場を短期に代替するというより、AI推論市場の拡大ペースと標準化の進展に合わせて漸進的に拡大する可能性が大きいとの分析である。

※ 本記事はAIで翻訳されています。ご意見はこちらのフォームから送信してください。