NVIDIA英偉達H800人工智能服務器GPU算力租賃

型號：	H800
品牌：	英偉達NVIDIA
原產地：	美國
類別：	電子、電力 / 其它電力、電子
標籤︰	英偉達NVIDIA , GPU算力租賃 , 人工智能服務器
單價：	-
最少訂量：	1 件

發送查詢

產品描述

NVIDIA H800AI服務器為各類數據中心提供出色的性能、可擴展性和安全性。

加速計算的數量級飛躍

通過 NVIDIA英偉達H800人工智能服務器 GPU，在每個工作負載中實現出色性能、可擴展性和安全性。使用 NVIDIA® NVLink® Switch 系統，可連接多達 256 個 H800 來加速百億億級 (Exascale) 工作負載，另外可通過專用的 Transformer 引擎來處理萬億參數語言模型。與上一代產品相比，H800 的綜合技術創新可以將大型語言模型的速度提高 30 倍，從而提供業界領先的對話式 AI。

準備好迎接企業 AI 了嗎？

企業採用 AI 現已成為主流，企業組織需要端到端的 AI 就緒型基礎架構，加快自身邁向新時代的步伐。

適用於主流服務器的 H800 隨附五年期 NVIDIA AI Enterprise 軟件套件訂閱（包括企業支持），能夠以強大的性能簡化 AI 的採用。這可確保組織能夠訪問構建 H800 加速的 AI 工作流所需的 AI 框架和工具，例如 AI 聊天機器人、推薦引擎和視覺 AI 等。

NVIDIA英偉達H800人工智能服務器GPU算力租賃配置：

項目	標準配置
框架	8U 機架式服務器
處理器	2顆第4代/第5代至強系列最高 64 核/3.9GHz/320MB緩存
內存	最大容量 4TB
GPU	NVIDIA HGX H800 GPU模組
系統硬盤	M.2 NVMe PCIe接口 2TB SSD
數據硬盤	2*10TB 企業級 SATA 硬盤 RAID 10 陣列配置
InfiniBand 網絡	ConnectX-7 400Gb/s
Ethernet 網卡	OCP 網卡/雙電口/10G
PICE 插槽	9 個 PCIe 5.0 擴展插槽
電源	63000W，22700W，AC220 輸入
風扇	10 個 54V 風扇模組
操作系統	Windows Server/RedHat Enterprise Linux/SUSE Linux Enterprise Server/CentOS/Ubuntu/Vmware EXSi
工作溫度	+5°~+35°
其他接口	機箱后部：1 個 RJ45 管理接口，2 個 USB 3.0，1 個 VGA 機箱前部：2 個 USB 3.0，1 個 VGA
整機淨重	120KG（以實際配置為準）

NVIDIA H800 TENSOR CORE GPU 規格（SXM4 和 PCIE 外形規格）

外形規格	H800 SXM4	H800 PCIE
FP64	1 teraFLOPS	0.8 teraFLOPS
FP64 Tensor Core	1 teraFLOPS	0.8 teraFLOPS
FP32	67 teraFLOPS	51 teraFLOPS
TF32 Tensor Core	989 teraFLOPS*	756teraFLOPS*
BFLOAT16 Tensor Core	1979 teraFLOPS*	1,513 teraFLOPS*
FP16 Tensor Core	1979 teraFLOPS*	1,513 teraFLOPS*
FP8 Tensor Core	3958 teraFLOPS*	3026 teraFLOPS*
INT8 Tensor Core	3958 TOPS*	3026 TOPS*
GPU 顯存	80GB	80GB
GPU 顯存帶寬	3.35TB/s	2TB/s
解碼器	7 NVDEC/7 JPEG	7 NVDEC/7 JPEG
最大熱設計功率 (TDP)	高達 700 瓦（可配置）	350 瓦（可配置）
多實例 GPU	最多 7 個 MIG @每個 10GB
外形規格	SXM	PCIe雙插槽風冷式
互聯技術	NVLink：600GB/s PCIe:128GB/s	NVLink：600GB/s PCIe:128GB/s