データセンターGPUシリーズ GPUアクセラレータ

NVIDIA H100

NVIDIA

AI学習やHPC用途に適したNVIDIA Hopperアーキテクチャを採用したGPUアクセラレータ

  • NVIDIA Hopperアーキテクチャを採用したH100 TensorコアGPUを採用
  • PCI Express 5.0 x16接続に対応
  • NVIDIA NVLink Technologyに対応
  • 80GB HBM2eの大容量メモリを搭載
  • 2スロットのパッシブ空冷クーラーを搭載
  • GPUを7分割して管理する第2世代マルチインスタンスGPU(MIG)に対応
  • AIモデルのトレーニングを高速化するTransformer Engineを搭載
  • 大規模な言語モデル(LLM)を高速化
  • NVIDIA AI Enterpriseソフトウェアスイートのサブスクリプションを5年分付属

型番:900-21010-0000-000

JANコード:4537694315241


製品特徴

H100 Tensorコア GPUを搭載

アクセラレーテッドコンピューティングを高速化する、H100 Tensorコア GPUを搭載しています。AIモデルのトレーニングからハイパフォーマンスコンピューティング(HPC)のアプリケーションまで、幅広いワークロードを高速に処理します。

H100 Tensorコア GPUを搭載

NVLinkによる高速マルチGPU連携

NVIDIA H100 PCIEを複数利用する場合は、NVIDIA NVLinkを利用することでより高いパフォーマンスを引き出せます。2基のGPUを3本のNVLink Bridgeで接続し、最大600GB/sと非常に高速なバスで連携させることが可能です。

NVLinkによる高速マルチGPU連携

コンフィデンシャルコンピューティングに対応

実行中のデータを守るコンフィデンシャルコンピューティングに対応しています。オンプレミス、クラウド、エッジのいずれで実行する場合でもワークロードは守られ、外部からの不正なアクセス等を防ぎます。MIGで分割したインスタンスもそれぞれ保護されます。

コンフィデンシャルコンピューティングに対応

製品概要

製品名 NVIDIA H100 PCIE w/ NVIDIA AI Enterprise
搭載GPU NVIDIA H100
FP64 26TFLOPS
FP64 Tensorコア 51TFLOPS
FP32 51TFLOPS
TF32 Tensorコア 756TFLOPS※1
BFLOAT16 Tensorコア 1,513TFLOPS※1
FP16 Tensorコア 1,513TFLOPS※1
FP8 Tensorコア 3,026TFLOPS※1
INT8 Tensorコア 3,026TOPS※1
GPUメモリ 80GB HBM2e
GPUメモリ帯域幅 2TB/秒
デコーダー 7 NVDEC
7 JPEG
最大熱設計電力(TDP) 300~350W(構成可能)
電源コネクター 16pin
マルチインスタンスGPU 最大7個のMIG@10GB
フォームファクター PCIe、デュアルスロット空冷
相互接続 NVLink:600GB/秒
PCIe Gen 5:128GB/秒
サーバーオプション 1~8基のGPUが搭載できるパートナーおよびNVIDIA-Certified Systems対応システム
認定サーバー情報はこちら
NVIDIA AI Enterprise 含む
ボード長 268.6mm
型番 900-21010-0000-000
JANコード 4537694315241
アスクコード VD8207
発売時期 2022年 9月

※1 疎性あり。仕様は疎性なしで半減します。

※ 記載された製品名、社名等は各社の商標または登録商標です。

※ 仕様、外観など改良のため、予告なく変更する場合があります。

※ 製品に付属・対応する各種ソフトウェアがある場合、予告なく提供を終了することがあります。提供が終了された各種ソフトウェアについての問い合わせにはお応えできない場合がありますので予めご了承ください。

●NVIDIA社 概要
NVIDIAはAIコンピューティングカンパニーです。1999年に開発したGPUが、PCゲーム市場の成長に拍車をかけ、現代のコンピューターグラフィックスを再定義し、並列コンピューティングを一変させました。最近では、世界を認知して理解できるコンピュータ、ロボット、自動運転車の脳の役割をGPUが果たすまでになり、GPUディープラーニングが最新のAI、つまりコンピューティングの新時代の火付け役となりました。
メーカーウェブサイト:https://www.nvidia.com/

製品に関するご質問や納期のご確認、お見積り依頼など、お気軽にお問い合わせください

お問い合わせはこちら

関連製品のご紹介

関連製品の一覧を見る