NVIDIA英偉達H20人工智能服務器GPU算力租賃

NVIDIA英偉達H20人工智能服務器GPU算力租賃
型號:H20
品牌:NVIDIA
原產地:臺灣 中國
類別:電子、電力 / 其它電力、電子
標籤︰NVIDIA , GPU算力租賃 , 人工智能服務器
單價: -
最少訂量:1 件

產品描述

NVIDIA  H20 服務器專為 AI 和 HPC 而打造。

AI、複雜模擬和海量數據集需要多個具有極快互連速度的 GPU 和完全加速的軟件堆棧。NVIDIA HGX™ AI 超級計算平台整合了 NVIDIA GPU、 NVLink®、NVIDIA 網絡以及全面優化的 AI 和高性能計算 (HPC) 軟件堆棧的全部功能,可提供最高的應用性能並加快獲得見解的速度。

 

NVIDIA英偉達H20人工智能服務器GPU算力租賃配置參數:

框架

6U 機架式服務器

處理器

2 顆至強 Platinum 8480 (可擴展AMD第四代EYPC處理器)

內存

DDR5 4800 64G內存*32

GPU

NVIDIA HGX H20 GPU 模組

系統硬盤

960G SATA SSD *2

數據硬盤

3.84T NVme U.2 SSD*4

9560 8i raid卡*1

PICE 插槽

最大支持12個PCIe 5.0插槽

支持Bluefield-3、CX7以及多種類型智能網卡

 

卓越的端到端加速計算平台

NVIDIA HGX H20將 NVIDIA Blackwell Tensor Core GPU 與高速互連技術相集成,推動數據中心邁向加速計算和生成式 AI 的新時代。HGX 系統是一流的加速縱向擴展平台,專為要求嚴苛的生成式 AI、數據分析和 HPC 工作負載而設計。

NVIDIA HGX H20 將 H20 Tensor Core GPU 與高速互連技術相結合,為每個數據中心提供出色的性能、可擴展性和安全性。它配置了多達 8 個 GPU,為 AI 和 HPC 領域打造出性能強勁的加速垂直擴展式服務器平台。HGX H20提供高級網絡選項,憑借 NVIDIA Quantum-2 InfiniBand 和 Spectrum™-X 以太網實現出色的 AI 性能

HGX H20還集成了 NVIDIA數據處理器 (DPU),有助于在超大規模 AI 云中實現云網絡、可組合存儲、零信任安全性和 GPU 計算彈性。

 

深度學習推理:性能和多功能性,適用於新一代大型語言模型的實時推理。

深度學習訓練:性能和可擴展性;

訓練性能進一步提升第二代 Transformer 引擎採用 8 位浮點 (FP8) 和新精度,可使 GPT-MoE-1.8T 等大型語言模型的訓練速度顯著提升 3 倍。這一代 NVLink 可提供GPU 間直接互連、InfiniBand 網絡和 NVIDIA Magnum IO™ 軟件。這些因素將共同確保企業和廣氾的 GPU 計算集群具備高效的可擴展性。

 

NVIDIA英偉達H20人工智能服務器借助 NVIDIA 網絡來加速 HGX;

數據中心是新的計算單元,而網絡在大幅提升整個數據中心的應用性能方面發揮着不可或缺的作用。與 NVIDIA Quantum InfiniBand 搭配使用時,HGX 可提供卓越的性能和效率,確保計算資源得到充分利用。

NVIDIA英偉達H20人工智能服務器GPU算力租賃 1

會員信息

上海智算行雲科技有限公司
國家/地區︰上海市宝山区
經營性質︰生產商
聯繫電話︰16601807362
聯繫人︰周先生 (銷售)
最後上線︰2024/09/23