スペックカード SPEC CARD
NVIDIA H100 SXM
現在のAIトレーニングにおける事実上の標準カード——DGX/HGX H100の中核を担い、10,000枚規模クラスタの主力、中古・先物市場で最も堅牢な商品、値下がりしにくい王道モデル
概要
NVIDIA H100 SXMはHopperアーキテクチャベースのデータセンター向けアクセラレータカードで、DGXおよびHGX H100システムの中核部品であり、現在の大規模AIトレーニングにおける事実上の標準ハードウェアです。SXM5フォームファクタを採用し、80GBのHBM3メモリを搭載、第4世代NVLinkにより900GB/sのGPU間インターコネクトを実現し、PCIe Gen5にネイティブ対応します。Tensor CoreはFP64からFP8まで複数の精度をカバーし、MIGにより1枚のカードを最大7インスタンスに分割可能です。大規模言語モデルの事前学習、推論サービス、HPCクラスタに広く導入されており、中古市場での流通においても供給の希少性から高い資産価値を維持しています。
主要スペック
| アーキテクチャ | NVIDIA Hopper(GH100コア、TSMC 4Nカスタムプロセス、800億トランジスタ、814mm²、Compute Capability 9.0) |
| メモリ | 80GB HBM3(SXM5仕様、HBM3スタック5基);PCIe版は80GB HBM2e(5スタック、2TB/s) |
| メモリバス幅 | 5120bit(SXM5・PCIe版ともに512bitメモリコントローラ×10) |
| メモリ帯域幅 | 3.35TB/s(SXM5);PCIe版2TB/s |
| 演算性能 | FP8 Tensor Core 3,958 TFLOPS(スパース含む、デンス1,979);FP16/BF16 TC 1,979*;TF32 TC 989*;FP64 TC 67;FP32 67;FP64 34(SXM5仕様、*=With sparsity) |
| 消費電力 | SXM5最大700W(設定可能);PCIe版350W |
| インターコネクト | NVLink 4.0 900GB/s(SXM5、リンク18本)+PCIe Gen5 x16 128GB/s;PCIe版:PCIe Gen5 128GB/s、オプションで2枚挿しNVLinkブリッジ600GB/s |
| 発売年 | 2022(2022-03-22 GTCで発表、SXM5は2022年Q3発売) |
| SMとCUDAコア | 132 SM / FP32 CUDAコア 16,896(SXM5);PCIe版114 SM / 14,592 |
| ブーストクロック | SXM5:1830MHz(FP8/FP16/BF16/TF32 TC)/1980MHz(FP64 TCおよびFP32/FP64);PCIe版:1620/1755MHz |
| L2キャッシュ | 50MB |
| MIGスライス | 第2世代Secure MIG、最大7インスタンス@10GB |
| コーデック | 7 NVDEC + 7 NVJPG |
| フォームファクター | SXM5モジュール(空冷/液冷はシステム側で決定、HGX/DGX H100の4枚または8枚構成向け);PCIe版は2スロット空冷 |
スペックは公式資料に基づき検証済み(
公式ベンチマーク、2026-10-10 更新)· 実際の価格は出品者の提示価格によります
適用シーン
- 大規模言語モデルの事前学習:HGX/DGX H100ノードの中核として、NVLinkとNVSwitchによりマルチカードから10,000枚規模のクラスタを構築し、超大規模パラメータモデルの長期間にわたる学習タスクを担当
- 大規模モデル推論サービスのデプロイ:FP8およびINT8 Tensor Coreの加速能力とMIGによるマルチインスタンス分割を活かし、高並行オンライン推論やマルチテナント環境に計算基盤を提供
- 科学計算・HPC:倍精度およびFP64 Tensor Coreの性能により、計算流体力学、分子動力学、気候シミュレーションなど従来のHPCワークロードに対応
- マルチモーダルモデルの学習・ファインチューニング:複数のNVDECデコードユニットを搭載し、画像・テキスト・動画などマルチモーダルデータの学習パイプラインやメディア処理ワークフローに適する
同族モデル
| 型番 | メモリ | 消費電力 |
|---|
| NVIDIA T4 比較 | 16GB GDDR6 with ECC(デフォルト有効) | 70W(基板全体の消費電力、デフォルト) |
| NVIDIA A100 比較 | 40GB HBM2/80GB HBM2e の2バージョン(80GB版は2020-11-16 SC20で追加発表)、ECC搭載 | SXM4 400W(40GB/80GB共通);PCIe版は40GBが250W/80GBが300W |
| NVIDIA H20 比較 | 96GB HBM3(Flopper/VipraTech/騰訊ニュースの3ソースで一致) | TDP 400W(Flopper/VipraTechスペック表/騰訊ニュースの『熱設計電力400W』で3ソース一致;VipraTech本文には350Wという矛盾する記載があるため不採用) |
| NVIDIA GB300 比較 | 288GB HBM3e(1 GPUパッケージあたり;スーパーチップで576GB;HGX基板レベルで2.1TB/ラックで20TBという表記が併存) | TGP 最大 1400W |
| NVIDIA A30 比較 | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 比較 | 24GB GDDR6X | 450W TGP(平均ゲーム時315W、推奨システム電源850W) |
動画解説 VIDEO
調達・検品のポイント
- フォームファクタと電源計画:H100 SXMは搭載型設計で、通常のPCIeシャーシとは非互換のため、DGX/HGXシステム一式またはSXM5基板対応サーバーの調達が必須。システム全体の消費電力が大きいため、事前にデータセンターの給電容量、ラックの電力密度、冷却ソリューション(液冷または空冷)との整合性を確認する必要がある
- インターコネクトとネットワーキング検証:マルチカード構成は第4世代NVLinkとNVSwitchによる900GB/sのGPU間インターコネクトに依存するため、検品時にはSXM基板とNVSwitchモジュールが正常に動作することを1枚ずつ確認し、PCIe Gen5リンクのネゴシエーション状態を点検して、後のクラスタ拡張の支障を防ぐべきである
- 出所と状態の確認:中古および先物ルートでの取引が活発なため、デバイスのシリアル番号とメーカー保証状態を照合し、実機テストのスクリーンショット(nvidia-smiで型番、メモリ80GB、MIG利用可否を確認)の提出を求めるとよい。長時間のストレステストでメモリと冷却の潜在的問題を洗い出し、NVLinkトポロジの完全性にも注意する
よくある質問
H100 SXMとH100 PCIeの違いは? どちらを選ぶべき?
SXM版は搭載型フォームファクタで、NVLinkにより900GB/sのGPU間インターコネクトを提供し、Tensor Coreの演算スペックも高いため、マルチカード連携の大規模トレーニングクラスタに適します。PCIe版は標準的な2スロット空冷カードで、オプションのNVLinkブリッジ(2枚間接続、帯域は低め)に対応し、互換性と導入の容易さに優れるため、単体サーバーや中小規模環境に向いています。クラスタの拡張性とピーク性能を重視するならSXM、柔軟な導入を重視するならPCIeが良いでしょう。
H100はMIG分割に対応していますか? 1枚のカードを何ユーザーに割り当てられますか?
対応しています。H100 SXMのMIG機能により、1枚のカードを最大7インスタンスに分割でき、各インスタンスに10GBのメモリを割り当て可能です。推論サービスや開発・テストなどのマルチテナント環境に適しており、演算の分離と稼働率の向上を実現します。
中古H100は買う価値がありますか? 資産価値はどうですか?
H100は現在の大規模AIトレーニングの主力ハードウェアであり、需要が継続的に高く、中古市場での流通における価格の動きは同世代の多くのハードウェアを明確に上回り、資産価値の高いカテゴリと見なされています。ただし購入時は、出所の合法性、保証状態、ハードウェアの健全性(メモリ、NVLink、冷却)を重点的に確認し、実機テストでスペックと状態を確認してから取引することが重要です。
資料更新 2026-10-10 · 深掘り項目は
編集ポリシー 手順