概述OVERVIEW
DGX H100 是 NVIDIA 原厂的 8× H100 SXM5 全互联 AI 训练一体机(官方页口径,2026-11 核验):
4 PFLOPS FP8(64 PFLOPS FP4 稀疏)· 640GB HBM3 · NVLink 900GB/s 全互联 · 10× 800Gb/s
网络——NVIDIA 原厂交钥匙 AI 训练系统,含 CPU/存储/网络/散热全栈设计。是 DGX 产线从 DGX A100
到 DGX H100 的演进,与 HGX 基板(OEM 集成)构成 NVIDIA 数据中心
AI 计算的整机与基板双形态。
沿革HISTORY
- 2016:DGX-1 发布——NVIDIA AI 整机产线起点(官方口径)。
- 2022:DGX H100 发布(Hopper 整机·官方口径)。
- 2022-2025:DGX H100 规模出货——企业/研究机构 AI 基础设施标准(市场口径)。
- 2026:DGX H200/B200 世代接续(官方口径)——DGX 产线持续演进。
DGX 产线对照GENERATIONS
| 维度 | DGX A100(前代·官方口径) | DGX H100(本词条·官方口径) |
| GPU | 8× A100 SXM4(40/80GB) | 8× H100 SXM5(80GB HBM3) |
| AI 算力 | 5 PFLOPS FP16(稀疏) | 4 PFLOPS FP8(官方口径) |
| 显存 | 320GB HBM2e | 640GB HBM3 |
| 互联 | NVLink 600GB/s | NVLink 900GB/s |
| 网络 | 9× Mellanox 200Gb/s | 10× 800Gb/s(官方口径) |
口径:DGX H100 列=NVIDIA 官方页(2026-11 核验);DGX A100 列=官方规格书口径。GPU 代际算力口径定义不同(FP8 vs FP16)不直比。
技术规格SPECS
| 项目 | 规格(NVIDIA 官方页口径) |
| GPU | 8× H100 SXM5(80GB HBM3/卡 · 640GB 总显存) |
| AI 算力 | 4 PFLOPS FP8 · 32 PFLOPS FP4 稀疏(官方口径) |
| NVLink | 900GB/s 卡间全互联(官方口径) |
| 网络 | 10× 800Gb/s PCIe Gen5 网络(官方口径) |
| CPU | 2× Intel Xeon Platinum(官方口径) |
| 内存 | 2TB 系统内存(官方口径) |
| 存储 | 8× 3.84TB NVMe + 2× 1.92TB NVMe(RAID·官方口径) |
| 软件栈 | NVIDIA AI Enterprise · Base Command(官方口径) |
模型适配MODEL FIT
| 场景 | 适配口径 |
| 大模型训练 | 4 PFLOPS FP8+NVLink 全互联——百亿级模型单机训练(推算口径) |
| 推理部署 | 640GB HBM3 总显存——大模型推理部署密度高(推算口径) |
| 多机扩展 | 10× 800Gb/s 网络——多台 DGX H100 组 SuperPOD(官方口径) |
局限与边界LIMITS
- 交钥匙定价:DGX 整机价格含全栈设计溢价——自建方案用 HGX 基板+OEM 组装(双形态对照口径)。
- 机房前提:整机功耗/散热/承重——数据中心前置规划(官方安装口径)。
- 软件栈锁定:Base Command/NVIDIA AI Enterprise——第三方栈迁移成本需评估。
常见问题FAQ
DGX H100 和 HGX H100 差在哪?
整机 vs 基板:HGX H100=8 卡基板(OEM 组装服务器);DGX H100=NVIDIA 原厂整机(含 CPU/存储/网络/散热全栈设计)——DGX 交钥匙即用,HGX 需 OEM 集成(<a href='/wiki/hgx-b300.html'>HGX 词条</a>对照)。
DGX H100 8 卡总算力多少?
官方口径:8× H100 SXM5 = 4 PFLOPS FP8(32 PFLOPS FP4 稀疏)· 640GB HBM3 · NVLink 900GB/s 全互联(官方页)——单机训练+多机 SuperPOD 扩展双形态。
DGX H100 适合谁?
官方定位口径:企业/研究机构自建 AI 基础设施——开箱即用全栈(含 NVIDIA AI Enterprise 软件栈);云厂商/超大规模训练看 DGX SuperPOD/SuperPOD;中小企业推理看 PCIe/云实例。
参考资料REFERENCES
- NVIDIA:DGX H100 官方页(规格 2026-11 核验) · 原文
- NVIDIA:DGX H100 Datasheet · 原文
動画解説VIDEO