SECTIONS
EDITIONS
NETWORK
AIXXPedia算力分野の百科事典

AIXX 百科 › 技術コンセプト › HBM3e メモリ

HBM3e メモリ

HIGH BANDWIDTH MEMORY 3E · 技術コンセプト用語

概要OVERVIEW

HBM(High Bandwidth Memory)は、DRAMダイを垂直に積層し、GPUと超短距離で接続するメモリ形態。HBM3eはその最新の商用世代にあたる。解決する課題は一つ:大規模モデル時代において、演算コアにデータを供給する速度がボトルネックになってはならないということだ。

AIサーバーにとって、メモリ容量は「どれだけ大きなモデルを載せられるか」を直接左右する——それゆえB300世代で最も目を引くスペックが、1基あたり288GBという数字だ。

主要数値KEY NUMBERS

項目数値 / 基準
1基あたり容量(B300)288GB HBM3e
8基合計(NVL8)約2.3TB
前世代H100との比較80GB(HBM3)
H200との比較141GB(HBM3e)

B300 における意義ON B300

モデルのメモリ使用量を見積もるには、シンプルで実用的な公式がある:FP8の重み ≈ パラメータ数 × 1バイト。DeepSeek R1 フル版は671Bパラメータで、FP8の重みは約690GB——1基では収まらないが、B300 NVL8なら2.3TBの総メモリでフル構成を1台でデプロイでき、余裕も十分だ。

メモリは価格の分水嶺でもある:同一シリーズでもメモリ構成の違い(3TBモデルと4TBモデルなど)により、価格差が百万円級に達することがある。

限界と留意点LIMITS

  • メモリはサーバー全体のコストの大半を占め、長期的に供給が逼迫している。容量が大きいほど、発熱と歩留まりの課題も大きくなる。
  • メモリ容量は性能そのものではない:インターコネクト帯域、演算性能、ソフトウェアスタックも実際のスループットを左右する。

動画解説VIDEO

NVLink インターコネクトSXM / NVL8コールドプレート液冷 / CDUFP8 精度フォーマットMoE 混合エキスパートNVSwitch スイッチチップInfiniBand インターコネクトネットワークNVMe ストレージ液冷CDURDMA リモートダイレクトメモリアクセスGPUDirectTensor Core テンソルコアMIG マルチインスタンス GPUPCIe Gen5コンフィデンシャルコンピューティングvGPU 仮想 GPUFP4 / FP6 マイクロスケーリング浮動小数点精度KV Cache 推論キャッシュScale-up と Scale-outCPO コパッケージオプティクスNVLink FusionMGX モジュラーアーキテクチャモデルの量子化テンソル並列集合通信AI ファクトリー液冷回路PUE エネルギー効率指標TensorRT-LLMvLLM 推論エンジンLoRA 低ランクアダプテーション計算資源サプライチェーンチャネルTCO 総所有コスト推論スループットベンチマークモデルの蒸留電力サプライチェーンToken 経済学学習データパイプライン推論最適化技術スタックGDDR7 メモリ電源コネクタ系譜(EPS/PCIe 8pin/12VHPWR/12V-2x6)対中輸出規制のタイムラインGPU 検証ガイド(nvidia-smi/GPU-Z)TensorRT 推論最適化CUDA Graphs グラフ実行NCCL 集合通信ライブラリONNX オープンモデルフォーマットHBM 世代系譜混合精度学習PCIe 世代ラックフォームファクター系譜GPU 型番命名規則の読み解き中古 GPU 流通経路空冷と液冷の比較メモリの健全性と故障判読HBM4 メモリUALink インターコネクトB300 機種項目

参考文献REFERENCES

  1. NVIDIA公式サイト — Blackwell Ultra / HGX B300 製品ページ https://www.nvidia.com/en-us/data-center/hgx/
  2. 相場と販売データ:AIXX 取引所(本データベースの相場帯)
バージョンと訂正|本項目は AIXX Pedia 編集部が管理し、AI が下書きし、人手で事実確認を行っています。更新:2026-10-20 · バージョン v1.0 · 変更履歴はすべて追跡可能です。
本ライブラリ
編集ポリシー本ライブラリについて(利益相反の表明)訂正窓口
編集憲法の概要
すべての記述に出典を明記弱点は必ず記載・訂正は公開で記録に残す有料項目は受け付けない項目内への誘導・販売要素は一切なし市況データはデータモジュールとしてのみ掲載
AIXX ファミリー
AIXX 百科AIXX 取引所AIXX ニュース
市況データの出典:AIXX 取引所 · © 2026 AIXX 百科 AIXX Pedia · AIXX 制作