オルタナティブ・ブログ > 経営者が読むNVIDIAのフィジカルAI / ADAS業界日報 by 今泉大輔 >

20年以上断続的にこのブログを書き継いできたインフラコモンズ代表の今泉大輔です。NVIDIAのフィジカルAIの世界が日本の上場企業多数に時価総額増大の事業機会を1つだけではなく複数与えることを確信してこの名前にしました。ネタは無限にあります。何卒よろしくお願い申し上げます。

NVIDIAへの"刺客"として登場したAMDのラックスケール・システム「Helios」。トークン生成コスト安くメタ、マイクロソフトなどが採用を決定

»

AIデータセンター市場及びAIサーバー(GPUサーバー)市場のトレンドを表すキーワードの1つに「ラックスケール・システム」があります。

以前に紹介したNVIDIA GB200 NVL72がこの走りでした。

関連投稿:

サーバーラック1本丸ごとAIサーバーの「NVIDIA GB200 NVL72」で日本企業に合ったAIデータセンターが作れる!

【用語解説】

ラックスケール・システム(Rack-Scale System)とは、サーバーラック(棚)全体を1つの巨大な「単一のコンピューター」として統合設計・運用するインフラストラクチャのアーキテクチャです。

従来のように個別サーバーやGPUカード単体を組み合わせてデータセンターを構築するのではなく、ラック単位で高密度な演算リソース、ネットワーク、電源、冷却機構などを統合して提供します。

1. 注目される背景
大規模言語モデル(LLM)や自律型AI(Agentic AI)の急速な巨大化に伴い、単一のGPUやサーバー単体の性能向上(スケールアップ)だけでは計算量やメモリ容量の需要に対処しきれなくなりました。数百〜数千基のGPUを超低遅延で連携させる必要が生じたため、AIインフラの最小購買・運用の単位が「チップ単体」から「ラック全体」へと不可逆的にシフトしています。

2. 主な構成要素と特徴
ラックスケール・システムは、以下の要素が密接に垂直統合されています。

高密度なコンピュート構成: 1つのラック内に72基などの大量のGPUと複数の高性能CPU、スイッチトレイが高密度に配置されます。

専用ファブリック(超高速インターコネクト): ラック内の全GPU間を広帯域・超低遅延の専用ネットワーク(UALinkやNVLinkなど)で相互接続し、ラック全体のメモリを1つの巨大な共有メモリ空間として扱えるようにします。

先進的な熱・電力設計: 1ラックあたり100kW超という莫大な電力を必要とするため、チップの直下に液体を循環させて熱を奪うダイレクト液冷(Liquid-to-Chip Cooling)機構などが最初から組み込まれています。

3. 導入による主なメリット
超大規模AIワークロードの処理能力: ラック全体で数十TBの超大容量HBM(高帯域幅メモリ)とペタバイト級のメモリ帯域を活用でき、膨大なコンテキスト(文脈)を持つAIモデルのトレーニングや高速推論を可能にします。

導入と運用の迅速化(ターンキー化): 配線や冷却が標準化・検証された状態でデータセンターに納品されるため、構築期間を劇的に短縮できます。

TCO(総所有コスト)の最適化: 電力効率や物理空間の専有面積(フットプリント)を極限まで最適化し、トークン生成あたりのコストを低減します。

NVIDIAのラックスケール・システムは、18枚のAIサーバーがぎゅっと凝縮されたハードウェアであり、18枚相互がNVLinkという特殊なネットワークで接続されているため、ミリセコンドでユーザーに返答を返す必要があるAIの推論処理において、きわめて優れた低レイテンシを示します。詳しくはSolで作り直した以下のインフォグラフィックをお読み下さい。

GB200 NVL72が1ラックあれば、最大規模の顧客例として、日本のメガバンク1行が、行員向けの生成AI、社内文書検索、稟議・規程照会、コード支援、営業支援などのAI推論・AIエージェント基盤を本格稼働させるための「中核ラック」になり得ます。

つまり1本で、エッジのプライベートAIデータセンターになります。

GB200NVL72新インフォグラフィック.png

2倍の正面サイズ、3トン超の重さ!

さて。NVIDIAの牙城であったこのAIデータセンター向け「ラックスケール・システム」ジャンルにおいて、手ごわい強敵が現れました。AMDです。報じられている初期顧客では、メタがなんと6GW分(原発6基分の受電容量のAIデータセンター)の調達をするそうです。

私はAIデータセンター、スペースX、フィジカルAIなどの最先端の情報収集をYouTubeで行うのですが、数日前に目に飛び込んできたのが以下の動画です。AMDがこれから市場に投入しようとしているラックスケール・システム「Helios」の全体像をかなり細かく報じています。(NotebookLMに読ませて色々やってみると便利です)

このHeliosをマイクロソフト、メタ、OpenAIが採用を決め、インドのタタコンサルコンサルタンシーサービスも購入を決めています。NVIDIAのラックスケール・システム(2026年末ぐらいから次期版のVera Rubin NVL72が出ます)と性能を比較するのでしょう。

デカい!かなりデカい!横長です。これはAIサーバーの標準規格であるORV3(Open Rack Version 3)の「Open Rack Wide (ORW)」(ダブルワイド・ラック)仕様に準拠しているそうです。(ORV3標準規格の主幹事はメタ)

ひたすら重い!重いです。3トン強あります。

このどでかいラックスケール・システムHeliosが、NVIDIAの最新のVera Rubin NVL72ラックスケールシステムと比較すると、「トークン当たり生成コストでNVIDIAに勝てる」というのがAMDの主張です。

以下は上の動画から抽出した特徴や仕様です。今後もウォッチしてみる価値はあります。

AMDラックスケールAIシステム「Helios」詳細


1. システム全体像と基本仕様
ラック構成と物理構造: Heliosは重量約7,000ポンド(約3.17トン)におよぶ巨大システムです。
1ラックあたり72基のGPUと18基のCPUを搭載しています。
ラック中央部には18基のコンピュート・トレイ(左右に9基ずつ)が配置され、これらが6基のスイッチによって相互接続されています。
システム統合アプローチ: AMDが自社内で手がける「GPU」「CPU」「ネットワーキング」「ソフトウェア」の4要素を1つに統合したシステムであり、顧客の用途に合わせてカスタマイズ可能な4つの基本構成が提供されます。
ネットワーキング技術: 2022年に買収したPensando社の技術である「P4エンジン」を採用しており、完全にプログラマブルで、超高性能・低レイテンシのネットワーキングを実現しています。
ソフトウェアスタック: AMD独自の「ROCm」ソフトウェアを採用し、PyTorch、vLLM、SGLangといったオープンフレームワークをネイティブにサポートします。競合(NvidiaのCUDA等)のクローズドなエコシステムに対し、オープンスタンダードに準拠した「オープンシステム」であることが最大の差別化要因です。

電力とコスト:
消費電力: 1ラックあたり約**225,000〜245,000ワット(225〜245 kW)**を必要とします。
システムコスト: Futurum Groupの推計によると、1システムあたり約500万〜550万ドルと見積もられています。

開発の背景: 2025年にサーバービルダーのZT Systemsを49億ドルで買収したことが、Heliosをラックスケールシステムとして形にする上で極めて重要な足がかりとなりました。現在、AMD内では約8,000人規模のエンジニアチームがHeliosの立ち上げと検証に関わっています。

2. 搭載GPUの仕様と技術詳細
GPUモデルとメモリ容量: Heliosには最先端の「MI455(MI455 GPU)」が採用されています。
GPU 1基あたり12スタックのHBM(高帯域幅メモリ)を搭載し、最大432 GBのHBMメモリを確保しています。これにより、推論やメモリ帯域幅において非常に高い優位性(TCOの最適化、トークンあたりのコスト削減)を発揮します。
トレイ内の配置: 1つのコンピュート・トレイあたり4基のGPUが、後述の銅製コールドプレートの下に配置されています。

製造および調達:
GPUは台湾のTSMCにて、最先端の2nmプロセスノードで製造されています。
最先端パッケージング技術(CoWoS等)の供給力不足に対処するため、AMDはASE(Advanced Semiconductor Engineering)などの他の台湾パッケージング企業に10億ドル規模の投資を行って供給能力を確保しています。
深刻なHBM不足の中、主要メモリサプライヤー3社すべてと緊密な関係を維持し、必要なメモリ量を確保しています。
将来のインターコネクト: 今後2〜3年以内には、ラック内の銅線ケーブルがCorning社などの技術を用いた「光インターコネクト(光ファイバー)」に置き換わる見込みです。

3. 搭載CPUの役割と仕様
CPUモデル: 各コンピュート・トレイのフロントに「Venice(ベニス)」と呼ばれるCPUが1基搭載されており、同トレイ内の4基のGPUと直接接続されています
。ラック全体では計18基のCPUが稼働します。
役割と重要性: AMDの強みである一般演算用CPU「EPYC(Epic)」のアーキテクチャがベースとなっています。単なるチャットボットから、高度な自律型AI(Agentic AI)へとAIワークロードが移行するにつれ、GPUにデータを供給し、システム全体を効率的にオーケストレーションする高性能CPUの役割がさらに重要視されています。

4. 液冷・水冷冷却システム
トレイレベルの液冷方式: 各コンピュート・トレイ内では、4基のGPUが「銅製コールドプレート(copper cold plates)」の直下に設置されています。このプレートの内部に液体を循環させ、システム内で発生する大量の熱を直接除去する仕組みです。
施設レベルの水冷仕様: ラックの冷却には、毎分約**750ガロン(約2,839リットル)の冷水(Chilled water)**を循環させる必要があります。
水資源の効率性: テキサス州ロックデールなどの実稼働データセンターに設置されているシステムでは、「クローズドループシステム(密閉循環方式)」を採用しており、使用する冷却水を外部に排水・浪費せず再利用する設計となっています。

5. 初期の顧客および展開スケジュール
すでに業界をリードする複数のハイパースケール事業者やテック大手が、今年中のHeliosデプロイに向けて合意・契約を締結しています:
Meta(メタ): 今年後半からHeliosラックの導入を開始します。将来的に最大6GW(ギガワット)規模のAMD製GPUを導入する計画を発表しており、その初期フェーズとしてまず1GW分がHeliosラックを通じてデプロイされます。
Microsoft(マイクロソフト): データセンターへHeliosシステムを導入する契約を正式に締結しました。同社は2023年にMI300Xを他社に先駆けて導入した実績があります。
OpenAI(オープンAI) / Oracle(オラクル): 今年中にHeliosシステムをデプロイする重要なコミットメントを行っています。
TCS(タタ・コンサルタンシー・サービス): インド最大のIT企業であり、将来的にHeliosを採用することを確約しています。

Comment(0)