スペックカード SPEC CARD
NVIDIA T4
史上最も大量に導入された推論カードの一つ。70Wのスロット給電で单槽ロープロファイル・パッシブ冷却設計により、あらゆるサーバーに搭載可能。INT8 130 TOPSのマルチ精度推論と38ストリームの動画デコードを兼ね備え、主要クラウドベンダーのT4インスタンス(AWS G4dnの8基搭載機など)が大規模に展開されているため、中古市場で最も流通量が豊富なエントリー向け推論カードとなっている
概要
NVIDIA T4はTuringアーキテクチャベースのPCIeアクセラレーターカードで、TU104 GPUを搭載し、320基のTensor Coreと40基のRT Coreを備える。メモリは16 GB GDDR6、バス幅256 bits、PCIe Gen3 x16インターフェースでホストに接続する。精度別性能は単精度8.1 TFLOPS、混合精度65 TFLOPS、INT8 130 TOPS、INT4 260 TOPS。T4は单槽ハーフハイト・ハーフレングスのパッシブ冷却設計で、ボード消費電力上限は70 W、外部給電不要のため高密度サーバーに適応できる。深層学習推論と動画デコードアクセラレーションの両方に対応し、クラウド推論インスタンスやエッジサーバーで非常に広く導入されている汎用推論カードである
主要スペック
| アーキテクチャ | Turing (TU104-895) |
| メモリ | 16GB GDDR6 with ECC(デフォルト有効) |
| メモリ帯域幅 | 320GB/s (初期版datasheetの表記では300GB/s) |
| メモリバス幅 | 256bit |
| 演算性能 | FP32 8.1 TFLOPS / FP16·FP32混合精度 65 TFLOPS / INT8 130 TOPS / INT4 260 TOPS |
| CUDAコア | 2,560 (40 SM) / Tensor Core 320 / RT Core 40 |
| 消費電力 | 70W(基板全体の消費電力、デフォルト) |
| インターコネクト | PCIe Gen3 x16 (x8動作対応、Interconnect BW 32GB/s) |
| 発売年 | 2018 (Product Brief v01 初版2018-10-24、Dec18版datasheet © 2018 NVIDIA) |
| フォームファクター | 单槽ハーフハイト・ハーフレングス Low-Profile 6.6インチ(長さ169.53mm)、パッシブ冷却、ボード重量301g |
| クロック | Base 585MHz / Boost 1590MHz (Baseは70W消費電力上限に合わせた設定) |
| メディアエンジン | 1080p30デコード H.264 32ストリーム / HEVC 44ストリーム / VP9 32ストリーム |
| SR-IOV | 対応; 16 VF(対応) |
| プロセス | 12nm FFN、136億トランジスタ、545mm2 |
| Compute APIs | CUDA, NVIDIA TensorRT, ONNX |
スペックは公式資料に基づき検証済み(
公式ベンチマーク、2026-10-10 更新)· 実際の価格は出品者の提示価格によります
適用シーン
- 深層学習モデルの推論デプロイ:Tensor CoreとINT8/INT4の量子化能力を活かし、TensorRTやONNXなどのツールチェーンと組み合わせることで、オンライン推論サービスの大規模デプロイに適する
- 動画トランスコードとストリーミング処理:1枚のカードで1080p30のH.264、HEVC、VP9ストリームを数十本同時デコードでき、動画ゲートウェイ、トランスコードクラスター、監視分析などの用途に適する
- 高密度仮想化とVDI:SR-IOV(最大16 VF)とECCメモリに対応し、マルチテナントのGPUプール分割や仮想デスクトップ基盤に適する
- 軽量レンダリングとグラフィックスアクセラレーション:内蔵RT Coreによるハードウェアレイトレーシング機能を備え、中小規模のレンダリング、可視化、混合ワークロードに活用できる
同族モデル
| 型番 | メモリ | 消費電力 |
|---|
| NVIDIA A100 比較 | 40GB HBM2/80GB HBM2e の2バージョン(80GB版は2020-11-16 SC20で追加発表)、ECC搭載 | SXM4 400W(40GB/80GB共通);PCIe版は40GBが250W/80GBが300W |
| NVIDIA H20 比較 | 96GB HBM3(Flopper/VipraTech/騰訊ニュースの3ソースで一致) | TDP 400W(Flopper/VipraTechスペック表/騰訊ニュースの『熱設計電力400W』で3ソース一致;VipraTech本文には350Wという矛盾する記載があるため不採用) |
| NVIDIA GB300 比較 | 288GB HBM3e(1 GPUパッケージあたり;スーパーチップで576GB;HGX基板レベルで2.1TB/ラックで20TBという表記が併存) | TGP 最大 1400W |
| NVIDIA A30 比較 | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 比較 | 24GB GDDR6X | 450W TGP(平均ゲーム時315W、推奨システム電源850W) |
| NVIDIA RTX PRO 6000 Blackwell 比較 | 96GB GDDR7 with ECC(単体カードとして最大メモリ容量のプロ向けワークステーションGPU) | 600W Total board power(公式)、電源 1x PCIe CEM5 16-pin、貫通型ダブルフロースルー冷却(Double-flow-through) |
動画解説 VIDEO
調達・検品のポイント
- T4はパッシブ冷却設計のため、シャーシの強制エアフローに依存する。購入前にターゲットサーバーがGPU対応のエアフロー設計を持つか確認し、シャーシが单槽ハーフハイト(low-profile)カードに対応しているかも確認する必要がある。また、PCIeスロットから給電し外部給電コネクタを持たないため電源ケーブルは不要だが、スロットの給電能力がカード全体の消費電力上限を満たすか確認すること
- インターフェースと互換性の確認:T4はPCIe Gen3 x16インターフェースを使用し(公式にx8での搭載も対応)、旧型ホストから新型サーバーまで幅広く互換性がある。購入時はPCIeトポロジー、シャーシの高さ(ハーフハイト・ハーフレングス、ボード長約6.6インチ)、ドライバーおよび仮想化(SR-IOV、ECC設定)の要件を確認すべきである
- 中古・在庫品の購入では1枚ずつ検品することを推奨:ECCメモリが正常に有効化されストレステストに合格するか確認し、Tensor Coreの完全性と動画デコード機能を検証(H.264/HEVC/VP9のマルチストリーム同時実行を専用ベンチマークツールで確認可能)し、メーカー純正のSNを求めて保証と出所を照合すること。このモデルは市場在庫が非常に多いため、ロットや中古品の状態の違いに注意すること
よくある質問
T4に外部給電は必要か?一般のサーバーに搭載できるか?
T4のカード消費電力上限は70 Wで、すべてPCIeスロットから給電するため外部給電ケーブルは不要。单槽ハーフハイト・ハーフレングスのパッシブ冷却設計を採用しており、大半の標準サーバー(1U/2Uラックサーバーを含む)に搭載可能だが、パッシブ冷却のためシャーシに前向きのエアフローが必要で、一般的なデスクトップ用シャーシでは風量不足の場合があり注意が必要
T4は大規模モデルの推論に向いているか?16 GBのメモリで十分か?
T4は学習ではなく推論向けに位置づけられており、16 GB GDDR6メモリには量子化済みの中小規模モデル(INT8/INT4量子化した言語モデルや視覚モデルなど)を収容できる。TensorRTと組み合わせればデプロイ効率も高い。パラメータ数の大きなモデルには量子化、レイヤー単位のロード、マルチGPU分割が必要で、より高いスループットを求めるなら新しい推論カードの検討を推奨する
中古のT4は購入する価値があるか?検品時の注意点は?
T4は主要クラウドベンダーの推論インスタンスで大量に使用されたモデルで、市場在庫と中古品の流通量がともに豊富で価格も手頃なため、推論入門や動画トランスコードでよく選ばれる。検品時はECCメモリが有効化できメモリ全域のストレステストを通過すること、フルロード時の温度とクロック低下が正常であること、デコード機能とTensor Coreが正常に動作することを確認し、SNと保証状況も照合すること
資料更新 2026-10-10 · 深掘り項目は
編集ポリシー 手順