SECTIONS
EDITIONS
NETWORK
萬安百科算力领域的百科全书

萬安百科 › 机型词条 › NVIDIA H100 PCIe

Hopper PCIe 卡示意配图(AI 生成·非官方产品图)
示意配图(AI 生成·非官方产品图)· 萬安百科

NVIDIA H100 PCIe

Hopper PCIe · 80GB HBM2e · 1513 TFLOPS FP16 · 350W 被动 · 机型词条

概述OVERVIEW

H100 PCIe 是 NVIDIA Hopper 世代的PCIe 卡形态(官方 Datasheet 口径,2026-11 核验): 与 SXM5 版同芯 Hopper H100——80GB HBM2e · 5016GB/s、FP16 Tensor 约 1513 TFLOPS(稀疏 3026)、 350W · 双槽被动散热 · PCIe 5.0 x16。无 NVLink(可选 NVLink 桥接器两卡 600GB/s),通信走 PCIe 5.0。 定位为推理/微调/开发的灵活部署档——独立上卡免整机,适配企业与开发者场景。

沿革HISTORY

  • 2022:H100 SXM5/PCIe 双形态发布(官方口径)。
  • 2022-2025:PCIe 版在企业推理/微调/开发场景规模化装机——独立部署的灵活性是核心卖点。
  • 现役:H100 PCIe 与 SXM5 并行供给(H100 词条·PCIe 可独立部署)。

H100 双形态对照GENERATIONS

维度H100 PCIe(本词条·官方口径)H100 SXM5(词条)
显存80GB HBM2e · 5016GB/s80GB HBM3 · 3350GB/s
FP16 Tensor1513 TFLOPS(稀疏 3026)1979 TFLOPS(稀疏 3958)
互联PCIe 5.0 x16 · 可选 2 卡 NVLink 桥 600GB/sNVLink · 900GB/s 全互联
功耗350W700W
部署独立上卡免整机需 SXM5 服务器板载

口径:H100 PCIe 列=NVIDIA 官方 Datasheet(2026-11 核验);SXM5 列=官方口径。PCIe 版显存用 HBM2e(SXM5 用 HBM3)——带宽差异如实标注。

技术规格SPECS

项目规格(NVIDIA 官方 Datasheet 口径)
架构Hopper · H100
显存80GB HBM2e · 5016GB/s(官方口径)
FP16 Tensor1513 TFLOPS · 稀疏 3026 TFLOPS(官方口径)
FP8 Tensor3026 TFLOPS · 稀疏 6052 TFLOPS(官方口径)
功耗/形态350W · 双槽被动散热 · PCIe 5.0 x16
互联PCIe 5.0 · 可选 NVLink 桥接器(2 卡 600GB/s)
MIG7 实例 MIG 切分(官方口径)
AI 栈CUDA 全生态 · TensorRT-LLM(推理/微调/开发·生态口径)

模型适配MODEL FIT

场景80GB HBM2e 的适配口径(推算:权重×精度+开销)
70B 级 FP16全量可容——推理/微调灵活部署(推算口径)
175B 级量化8-way 张量并行可容(推算口径)——无 NVLink 通信走 PCIe 5.0
MIG 7 实例单卡切 7 实例——多租户推理密度高(官方口径)
80GB 灵活部署——去模型广场按需调用
萬安云 · 模型广场 →

局限与边界LIMITS

  • 无 NVLink:多卡通信走 PCIe 5.0 x16(64GB/s)——大规模训练效率低于 SXM5 NVLink 900GB/s(官方口径对照)。
  • 带宽差:5016GB/s 对 SXM5 3350GB/s——注意 PCIe 版实际使用 HBM2e 非 HBM3(规格差异如实)。
  • PCIe 5.0 依赖:需服务器支持 PCIe 5.0——旧服务器 PCIe 4.0 兼容(带宽降半)。

常见问题FAQ

H100 PCIe 和 H100 SXM5 差在哪?
同芯异形态(官方口径):SXM5=服务器板载模组·700W·NVLink 900GB/s 全互联;PCIe=350W 被动双槽·无 NVLink(PCIe 5.0 x16 通信)——PCIe 可独立部署但互联带宽受限,大规模训练选 SXM5,推理/微调 PCIe 足够。
H100 PCIe 的显存多大?
80GB HBM2e · 5016GB/s(官方规格——PCIe 版带宽较 SXM5 版 3350GB/s 低约 40%)——显存容量同 80GB,带宽差来自互联架构而非 HBM 本身。
H100 PCIe 能跑多大模型?
80GB 单卡:70B 级 FP16 全量可容、175B 级 8-way 张量并行可容(推算口径)——PCIe 无 NVLink 意味多卡通信走 PCIe,大模型多卡训练效率低于 SXM5;推理场景 PCIe 灵活部署优势明显。

参考资料REFERENCES

  • NVIDIA:H100 PCIe Datasheet(官方规格 2026-11 核验) · 原文
  • NVIDIA:H100 Tensor Core GPU 官方页 · 原文

動画解説VIDEO

本库
编辑政策关于本库(利益声明)勘误通道
编辑宪法摘要
每条断言带出处缺点必写 · 勘误公开留痕不接受付费词条词条内零导流与销售元素行情数据仅作数据模块挂载
萬安家族
萬安云萬安算交所萬安行情萬安资讯
行情盘点:萬安算交所 · © 2026 萬安百科 AIXX Pedia · 萬安出品