| 型號： | H800 |
|---|---|
| 品牌： | 英偉達NVIDIA |
| 原產地： | 美國 |
| 類別： | 電子、電力 / 其它電力、電子 |
| 標籤︰ | 英偉達NVIDIA , H800 , 人工智能服務器 |
| 單價： |
-
|
| 最少訂量： | 1 件 |
| 即時通訊: | 最後上線︰2023/11/27 |
NVIDIA H800 Tensor Core GPU
為各類數據中心提供出色的性能、可擴展性和安全性。
加速計算的數量級飛躍
通過 NVIDIA H800 Tensor Core GPU，在每個工作負載中實現出色性能、可擴展性和安全性。使用 NVIDIA® NVLink® Switch 系統，可連接多達 256 個 H800 來加速百億億級 (Exascale) 工作負載，另外可通過專用的 Transformer 引擎來處理萬億參數語言模型。與上一代產品相比，H800 的綜合技術創新可以將大型語言模型的速度提高 30 倍，從而提供業界領先的對話式 AI。
準備好迎接企業 AI 了嗎？
企業採用 AI 現已成為主流，企業組織需要端到端的 AI 就緒型基礎架構，加快自身邁向新時代的步伐。
適用於主流服務器的 H800 隨附五年期 NVIDIA AI Enterprise 軟件套件訂閱（包括企業支持），能夠以強大的性能簡化 AI 的採用。這可確保組織能夠訪問構建 H800 加速的 AI 工作流所需的 AI 框架和工具，例如 AI 聊天機器人、推薦引擎和視覺 AI 等。
英偉達NVIDIA顯卡H800人工智能服務器配置：
|
標配機型 |
SYS-821GE-TNHR |
數量 |
品牌 |
|
|
8U X13 HGX H800 8GPU (Rear I/O),X13DEG-OAD |
|
|
|
主板 |
Super X13DEG-OAD |
1 |
|
|
處理器 |
Intel SPR 8480 2P 56Core 350W 105MB BI(1000) E54677(CQ8600854513) CSE-GP801T(CQ8600854513) |
2 |
INTEL |
|
GPU計算模塊 |
NVIDIA DELTA-NEXT Vulcan SXM5 8*H800 640GB (HGX H800 80G SXM5-88 NVSWITCH*6) |
1 |
NVIDIA |
|
內存 |
64GB DDR5-4800 2RX4 (10X4) LP(16Gb) ECC RDIMM |
32 |
Samsung / Hynix |
|
SSD |
Samsung PM9A3 3.8TB NVMe PCle4x4 U.2 7mm 1DWPD 5YR SED Opal |
4 |
Samsung |
|
Raid |
LSI 9560-16i RAID/12Gb/s/SAS3908/NVME/1*8 8654/RAID0,1,5,6,10,50,60/4G |
1 |
Broadcom |
|
IB卡 |
Nvidia 900-9X766-003N-SQO Pcle 1-port IB 400G EOSFP Gen5(CQ8600854513) |
8 |
Mellanox |
|
網卡 |
網卡AOC-ATG-12T2SM雙口萬兆雙口千兆1 |
1 |
|
|
熱插拔 |
2.5熱插拔NVMe/SATA/SAS 驅動器托架(6個25NVMe混合4個25NVMe 專用) |
10 |
|
|
操作系統 |
Red Hat Enterprise Linux 8 Server |
1 |
|
|
電源與散熱 |
6x 3000W Redundant Titanium Level power supplies |
6 |
|
|
線纜 |
AC Power Cord(North America), C13,NEMA5-15P, 2.1m CAB-AC |
4 |
|
|
機箱尺寸 |
長843.28mm 寬437mm 高355.6mm.淨重1 75.3kg. 毛重102.1kg |
1 |
|
|
工作溫度 |
10°C ~35°C（50°F~95°F） |
|
|
NVIDIA H800 TENSOR CORE GPU 規格 （SXM4 和 PCIE 外形規格）
|
外形規格 |
H800 SXM4 |
H800 PCIE |
|
FP64 |
1 teraFLOPS |
0.8 teraFLOPS |
|
FP64 Tensor Core |
1 teraFLOPS |
0.8 teraFLOPS |
|
FP32 |
67 teraFLOPS |
51 teraFLOPS |
|
TF32 Tensor Core |
989 teraFLOPS* |
756teraFLOPS* |
|
BFLOAT16 Tensor Core |
1979 teraFLOPS* |
1,513 teraFLOPS* |
|
FP16 Tensor Core |
1979 teraFLOPS* |
1,513 teraFLOPS* |
|
FP8 Tensor Core |
3958 teraFLOPS* |
3026 teraFLOPS* |
|
INT8 Tensor Core |
3958 TOPS* |
3026 TOPS* |
|
GPU 顯存 |
80GB |
80GB |
|
GPU 顯存帶寬 |
3.35TB/s |
2TB/s |
|
解碼器 |
7 NVDEC/7 JPEG |
7 NVDEC/7 JPEG |
|
最大熱設計功率 (TDP) |
高達 700 瓦（可配置） |
350 瓦（可配置） |
|
多實例 GPU |
最多 7 個 MIG @每個 10GB |
|
|
外形規格 |
SXM |
PCIe雙插槽風冷式 |
|
互聯技術 |
NVLink：600GB/s PCIe:128GB/s |
NVLink：600GB/s PCIe:128GB/s |
安全地加速從企業級到百億億次級規模的工作負載
實時深度學習推理
超大模型的 AI 推理性能提升高達 30 倍
HPC 應用的性能提升高達 7 倍
百億億次級高性能計算
加速數據分析
為企業提高資源利用率
內置機密計算
為大規模 AI 和高性能計算提供出色的性能
