SECTIONS
EDITIONS
NETWORK
AIXXPedia算力分野の百科事典

AIXX 百科 › 技術コンセプト › GPUDirect

GPUDirect

NVIDIA GPUDIRECT · 技術コンセプト用語

概要OVERVIEW

GPUDirect は NVIDIA の GPU 直接通信技術ファミリーです。データが CPU やシステムメモリを経由せず、GPU と外部デバイスの間に直接の経路を確立します。GPUDirect RDMA は NIC が GPU メモリを直接読み書きできるようにし(CPU 経由のコピーを不要に)、GPUDirect Storage はストレージデータを GPU メモリへ直接届け(CPU の中継を省略)、NVLink は GPU 同士の直接接続です。

AI の学習・推論のどちらも GPUDirect の恩恵を受けます。学習時は AllReduce による勾配同期が GPUDirect RDMA 経由で行われ、推論時は KV キャッシュがストレージから GPU メモリへ直接転送され(GPUDirect Storage)、複数サーバー・複数 GPU のファブリックは GPUDirect+RDMA で処理されます。データ経路全体に CPU 中継のボトルネックが存在しません。

主要数値KEY NUMBERS

項目数値 / 基準
GPUDirect RDMANIC↔GPU メモリの直接経路
GPUDirect StorageNVMe/ストレージ→GPU メモリの直接経路
対応ハードウェアConnectX NIC + P2P 対応の PCIe トポロジー
ソフトウェアスタックCUDA + NCCL + GPUDirect Storage SDK

B300 における意義ON B300

B300 は全モデルで GPUDirect に対応しています。GB200/GB300 NVL72 のサーバー間ファブリック(ConnectX-8)もラック内 NVLink ドメインも GPUDirect 経路を利用します。インターコネクト部品(NIC/スイッチ/ケーブル)の調達時は、GPUDirect 互換性リストの項目ごとの確認が検収の必須事項です。サードパーティ製モジュールは物理的には装着できても GPUDirect が動作しない場合があります。

限界と留意点LIMITS

  • GPUDirect には PCIe トポロジーの整合が必要です。GPU と NIC は同一の PCIe Root Complex 配下になければならず、NUMA ノードをまたぐ P2P は性能が低下します。サーバー選定では PCIe トポロジーが中核的な検収項目となります。
  • サードパーティ製ストレージ/NIC の互換性にはばらつきがあります。GPUDirect Storage の互換リストは NVIDIA が管理しており、リスト外のデバイスでは「動作するが性能が落ちる」ケースが起こりえます。

動画解説VIDEO

HBM3e メモリNVLink インターコネクトSXM / NVL8コールドプレート液冷 / CDUFP8 精度フォーマットMoE 混合エキスパートNVSwitch スイッチチップInfiniBand インターコネクトネットワークNVMe ストレージ液冷CDURDMA リモートダイレクトメモリアクセスTensor Core テンソルコアMIG マルチインスタンス GPUPCIe Gen5コンフィデンシャルコンピューティングvGPU 仮想 GPUFP4 / FP6 マイクロスケーリング浮動小数点精度KV Cache 推論キャッシュScale-up と Scale-outCPO コパッケージオプティクスNVLink FusionMGX モジュラーアーキテクチャモデルの量子化テンソル並列集合通信AI ファクトリー液冷回路PUE エネルギー効率指標TensorRT-LLMvLLM 推論エンジンLoRA 低ランクアダプテーション計算資源サプライチェーンチャネルTCO 総所有コスト推論スループットベンチマークモデルの蒸留電力サプライチェーンToken 経済学学習データパイプライン推論最適化技術スタックGDDR7 メモリ電源コネクタ系譜(EPS/PCIe 8pin/12VHPWR/12V-2x6)対中輸出規制のタイムラインGPU 検証ガイド(nvidia-smi/GPU-Z)TensorRT 推論最適化CUDA Graphs グラフ実行NCCL 集合通信ライブラリONNX オープンモデルフォーマットHBM 世代系譜混合精度学習PCIe 世代ラックフォームファクター系譜GPU 型番命名規則の読み解き中古 GPU 流通経路空冷と液冷の比較メモリの健全性と故障判読HBM4 メモリUALink インターコネクトB300 機種項目

参考文献REFERENCES

  1. NVIDIA公式サイト — Blackwell Ultra / HGX B300 製品ページ https://www.nvidia.com/en-us/data-center/hgx/
  2. 相場と販売データ:AIXX 取引所(本データベースの相場帯)
バージョンと訂正|本項目は AIXX Pedia 編集部が管理し、AI が下書きし、人手で事実確認を行っています。更新:2026-10-20 · バージョン v1.0 · 変更履歴はすべて追跡可能です。
本ライブラリ
編集ポリシー本ライブラリについて(利益相反の表明)訂正窓口
編集憲法の概要
すべての記述に出典を明記弱点は必ず記載・訂正は公開で記録に残す有料項目は受け付けない項目内への誘導・販売要素は一切なし市況データはデータモジュールとしてのみ掲載
AIXX ファミリー
AIXX 百科AIXX 取引所AIXX ニュース
市況データの出典:AIXX 取引所 · © 2026 AIXX 百科 AIXX Pedia · AIXX 制作