NVIDIA英偉達H800人工智能服務器GPU算力租賃

NVIDIA英偉達H800人工智能服務器GPU算力租賃
型號:H800
品牌:英偉達NVIDIA
原產地:美國
類別:電子、電力 / 其它電力、電子
標籤︰英偉達NVIDIA , GPU算力租賃 , 人工智能服務器
單價: -
最少訂量:1 件

產品描述

NVIDIA H800AI服務器為各類數據中心提供出色的性能、可擴展性和安全性。

加速計算的數量級飛躍

通過 NVIDIA英偉達H800人工智能服務器 GPU,在每個工作負載中實現出色性能、可擴展性和安全性。使用 NVIDIA® NVLink® Switch 系統,可連接多達 256 個 H800 來加速百億億級 (Exascale) 工作負載,另外可通過專用的 Transformer 引擎來處理萬億參數語言模型。與上一代產品相比,H800 的綜合技術創新可以將大型語言模型的速度提高 30 倍,從而提供業界領先的對話式 AI。

準備好迎接企業 AI 了嗎?

企業採用 AI 現已成為主流,企業組織需要端到端的 AI 就緒型基礎架構,加快自身邁向新時代的步伐。

適用於主流服務器的 H800 隨附五年期 NVIDIA AI Enterprise 軟件套件訂閱(包括企業支持),能夠以強大的性能簡化 AI 的採用。這可確保組織能夠訪問構建 H800 加速的 AI 工作流所需的 AI 框架和工具,例如 AI 聊天機器人、推薦引擎和視覺 AI 等。

 

NVIDIA英偉達H800人工智能服務器GPU算力租賃配置:

項目

標準配置

框架

8U 機架式服務器

處理器

2顆第4代/第5代至強系列最高 64 核/3.9GHz/320MB緩存

內存

最大容量 4TB

GPU

 NVIDIA HGX H800 GPU模組

系統硬盤

M.2 NVMe PCIe接口  2TB SSD

數據硬盤

2*10TB 企業級 SATA 硬盤

RAID 10 陣列配置

InfiniBand 網絡

ConnectX-7 400Gb/s

Ethernet 網卡

OCP 網卡/雙電口/10G

PICE 插槽

9 個 PCIe 5.0 擴展插槽

電源

6*3000W,2*2700W,AC220 輸入

風扇

10 個 54V 風扇模組

操作系統

Windows Server/RedHat Enterprise Linux/SUSE Linux Enterprise

Server/CentOS/Ubuntu/Vmware EXSi

工作溫度

+5°~+35°

其他接口

機箱后部:1 個 RJ45 管理接口,2 個 USB 3.0,1 個 VGA

機箱前部:2 個 USB 3.0,1 個 VGA

整機淨重

120KG(以實際配置為準)

 

NVIDIA H800 TENSOR CORE GPU 規格 (SXM4 和 PCIE 外形規格)

外形規格

H800 SXM4

H800 PCIE

FP64

1 teraFLOPS

0.8 teraFLOPS

FP64 Tensor Core

1 teraFLOPS

0.8 teraFLOPS

FP32

67 teraFLOPS

51 teraFLOPS

TF32 Tensor Core

989 teraFLOPS*

756teraFLOPS*

BFLOAT16 Tensor Core

1979 teraFLOPS*

1,513 teraFLOPS*

FP16 Tensor Core

1979 teraFLOPS*

1,513 teraFLOPS*

FP8 Tensor Core

3958 teraFLOPS*

3026 teraFLOPS*

INT8 Tensor Core

3958 TOPS*

3026 TOPS*

GPU 顯存

80GB

80GB

GPU 顯存帶寬

3.35TB/s

2TB/s

解碼器

7 NVDEC/7 JPEG

7 NVDEC/7 JPEG

最大熱設計功率 (TDP)

高達 700 瓦(可配置)

350 瓦(可配置)

多實例 GPU

最多 7 個 MIG @每個 10GB

外形規格

SXM

PCIe雙插槽風冷式

互聯技術

NVLink:600GB/s

PCIe:128GB/s

NVLink:600GB/s

PCIe:128GB/s

 

安全地加速從企業級到百億億次級規模的工作負載

實時深度學習推理

超大模型的 AI 推理性能提升高達 30 倍

HPC 應用的性能提升高達 7 倍

百億億次級高性能計算

加速數據分析

為企業提高資源利用

內置機密計算

為大規模 AI 和高性能計算提供出色的性能

NVIDIA英偉達H800人工智能服務器GPU算力租賃 1

會員信息

上海智算行雲科技有限公司
國家/地區︰上海市宝山区
經營性質︰生產商
聯繫電話︰16601807362
聯繫人︰周先生 (銷售)
最後上線︰2024/09/23