GH200 Grace Hopper Superchip

GH200尺寸對比

72 核的Grace CPU

GH200 Grace Hopper Superchip架構圖

每個 Grace CPU 具有72個ARM核心，配備 480GB LPDDR5X，內存帶寬可達到500GB/s。

NVIDIA H200 是首款提供 HBM3e 的 GPU，作為一種更快、更大的內存，HBM3e可加速生成式 AI 和大型語言模型，同時能推進 HPC 工作負載的科學計算。借助 HBM3e，NVIDIA H200 能以每秒 4.8 TB 的速度提供 141GB 內存。

GH200 Grace Hopper Superchip NVIDIA Hopper GPU 和 Grace CPU 之間的高帶寬 NVLink-C2C 鏈路可實現 CPU 和 GPU 之間的快速通信，從而有助于提高性能。

NVLink接口允許將各個GH200組件拓撲連接，做為更大計算系統的構建模塊。

NVIDIA Grace CPU支持多達 64 個 PCIe Gen 5 通道用于 IO 連接。每個 8 個 PCIe Gen 5 x16 鏈路均支持高達 128 GB/s 的雙向帶寬，并且可以分為 2x8 以獲得額外連接，并且可以支持各種 PCIe 插槽外形尺寸支持NVIDIA DPU、NVIDIA ConnectX SmartNIC、E1.S 和 M.2 NVMe 設備、模塊化 BMC 選項等。? 

Supermicro 的1U NVIDIA MGX服務器，配備兩個NVIDIA GH200 Grace Hopper Superchip。

聲明：文章內容整理自網絡公開素材，版權歸原作者平臺所有，僅用于信息分享，如有侵權請聯系刪除。