| 型號： | H800 |
|---|---|
| 品牌： | 英偉達NVIDIA |
| 原產地： | 美國 |
| 類別： | 電子、電力 / 其它電力、電子 |
| 標籤︰ | 英偉達NVIDIA , GPU算力租賃 , 人工智能服務器 |
| 單價： |
-
|
| 最少訂量： | 1 件 |
| 最後上線︰2024/09/23 |
NVIDIA H800AI服務器為各類數據中心提供出色的性能、可擴展性和安全性。
加速計算的數量級飛躍
通過 NVIDIA英偉達H800人工智能服務器 GPU，在每個工作負載中實現出色性能、可擴展性和安全性。使用 NVIDIA® NVLink® Switch 系統，可連接多達 256 個 H800 來加速百億億級 (Exascale) 工作負載，另外可通過專用的 Transformer 引擎來處理萬億參數語言模型。與上一代產品相比，H800 的綜合技術創新可以將大型語言模型的速度提高 30 倍，從而提供業界領先的對話式 AI。
準備好迎接企業 AI 了嗎？
企業採用 AI 現已成為主流，企業組織需要端到端的 AI 就緒型基礎架構，加快自身邁向新時代的步伐。
適用於主流服務器的 H800 隨附五年期 NVIDIA AI Enterprise 軟件套件訂閱（包括企業支持），能夠以強大的性能簡化 AI 的採用。這可確保組織能夠訪問構建 H800 加速的 AI 工作流所需的 AI 框架和工具，例如 AI 聊天機器人、推薦引擎和視覺 AI 等。
NVIDIA英偉達H800人工智能服務器GPU算力租賃配置：
|
項目 |
標準配置 |
|
框架 |
8U 機架式服務器 |
|
處理器 |
2顆第4代/第5代至強系列最高 64 核/3.9GHz/320MB緩存 |
|
內存 |
最大容量 4TB |
|
GPU |
NVIDIA HGX H800 GPU模組 |
|
系統硬盤 |
M.2 NVMe PCIe接口 2TB SSD |
|
數據硬盤 |
2*10TB 企業級 SATA 硬盤 RAID 10 陣列配置 |
|
InfiniBand 網絡 |
ConnectX-7 400Gb/s |
|
Ethernet 網卡 |
OCP 網卡/雙電口/10G |
|
PICE 插槽 |
9 個 PCIe 5.0 擴展插槽 |
|
電源 |
6*3000W，2*2700W，AC220 輸入 |
|
風扇 |
10 個 54V 風扇模組 |
|
操作系統 |
Windows Server/RedHat Enterprise Linux/SUSE Linux Enterprise Server/CentOS/Ubuntu/Vmware EXSi |
|
工作溫度 |
+5°~+35° |
|
其他接口 |
機箱后部：1 個 RJ45 管理接口，2 個 USB 3.0，1 個 VGA 機箱前部：2 個 USB 3.0，1 個 VGA |
|
整機淨重 |
120KG（以實際配置為準） |
NVIDIA H800 TENSOR CORE GPU 規格 （SXM4 和 PCIE 外形規格）
|
外形規格 |
H800 SXM4 |
H800 PCIE |
|
FP64 |
1 teraFLOPS |
0.8 teraFLOPS |
|
FP64 Tensor Core |
1 teraFLOPS |
0.8 teraFLOPS |
|
FP32 |
67 teraFLOPS |
51 teraFLOPS |
|
TF32 Tensor Core |
989 teraFLOPS* |
756teraFLOPS* |
|
BFLOAT16 Tensor Core |
1979 teraFLOPS* |
1,513 teraFLOPS* |
|
FP16 Tensor Core |
1979 teraFLOPS* |
1,513 teraFLOPS* |
|
FP8 Tensor Core |
3958 teraFLOPS* |
3026 teraFLOPS* |
|
INT8 Tensor Core |
3958 TOPS* |
3026 TOPS* |
|
GPU 顯存 |
80GB |
80GB |
|
GPU 顯存帶寬 |
3.35TB/s |
2TB/s |
|
解碼器 |
7 NVDEC/7 JPEG |
7 NVDEC/7 JPEG |
|
最大熱設計功率 (TDP) |
高達 700 瓦（可配置） |
350 瓦（可配置） |
|
多實例 GPU |
最多 7 個 MIG @每個 10GB |
|
|
外形規格 |
SXM |
PCIe雙插槽風冷式 |
|
互聯技術 |
NVLink：600GB/s PCIe:128GB/s |
NVLink：600GB/s PCIe:128GB/s |
安全地加速從企業級到百億億次級規模的工作負載
實時深度學習推理
超大模型的 AI 推理性能提升高達 30 倍
HPC 應用的性能提升高達 7 倍
百億億次級高性能計算
加速數據分析
為企業提高資源利用率
內置機密計算
為大規模 AI 和高性能計算提供出色的性能
