AI: 英偉達超級AI芯片內部結構

人工智能應用程序即將得到大幅度的計算能力提升。上周一，芯片巨頭英偉達（Nvidia）宣布了其新的DGX GH200 AI超級計算機，該計算機由其GH200 Grace Hopper超級芯片供電。由於AI需求的增加，Nvidia的股價近乎翻了兩倍，超過400美元。這一切都包含了許多的字母、數字和超級。

讓我們解析一下。在與記者的視頻會議中，Nvidia的一位高管表示，新的超級計算機將通過其更大的內存和更大規模的模型能力，啟用下一代生成型AI應用。超級計算機將擁有近500倍於Nvidia早期DGX A100係統的內存——大約144太字節（1太字節是1萬億字節）。這將允許開發者構建更好的AI聊天機器人語言模型、複雜的推薦算法，以及更有效的欺詐檢測和數據分析。

GH200使用兩種類型的邏輯芯片：作為PC和服務器主要計算大腦的中央處理單元（CPU），以及長期以來是Nvidia優勢且對圖形、視頻遊戲和AI計算至關重要的圖形處理單元（GPU）。DGX GH200整合了256個GH200 Grace Hopper超級芯片，每個芯片都有一個GPU；而DGX A100隻有8個GPU。超級芯片將Nvidia的“Grace” CPU和“Hopper” GPU集成到一個包裝中，以提高速度和效率。

Nvidia表示，Alphabet、Meta Platforms和Microsoft將是首批獲得DGX GH200使用權的公司。這些超級芯片現在正在生產中，超級計算機應該在今年年底前可用。Nvidia沒有透露其價格。

What is Nvidia grace?

Higher Performance and Faster Memory—Massive Bandwidth for Compute Efficiency. The NVIDIA GH200 Grace™ Hopper™ Superchip is a breakthrough accelerated CPU designed from the ground up for giant-scale AI and high-performance computing (HPC) applications. 

What is Nvidia Hopper?

Hopper is a graphics processing unit (GPU) microarchitecture developed by Nvidia. It is designed for datacenters and is parallel to Ada Lovelace. Hopper. Launched. September 20, 2022.

 

What is the spec of Nvidia Grace Hopper?

 

The NVIDIA Grace CPU provides up to 512 GB of LPDDR5X memory, which delivers the optimal balance between memory capacity, energy efficiency, and performance. It supplies up to 546 GB/s of LPDDR5X memory bandwidth, which NVLink-C2C makes accessible to the GPU at 900 GB/s total bandwidth.Nov 10, 2022

 

---------------------

 

英偉達的DGX GH200 AI超級計算機代表了AI應用的計算能力的重大突破，這得益於使用英偉達的GH200 Grace Hopper超級芯片。

DGX GH200超級計算機的設計目的是為了推動下一代生成型AI應用的發展。它通過大幅度提高內存和大規模模型處理能力來實現這一點。這台新的超級計算機擁有比英偉達之前的DGX A100係統多近500倍的內存，總共有144太字節（一太字節等於一萬億字節）。這個龐大的內存容量將使開發者能夠構建更高級的AI聊天機器人語言模型、更複雜的推薦算法，以及更有效的欺詐檢測和數據分析工具。

GH200超級計算機使用了中央處理單元（CPU）和圖形處理單元（GPU）的組合。CPU是PC和服務器的主要計算核心，而GPU則是英偉達長期以來的優勢所在，對於圖形、視頻遊戲和AI計算至關重要。DGX GH200整合了總共256個GH200 Grace Hopper超級芯片，每個芯片都裝備了一個GPU，大大超過了DGX A100的8個GPU。這個超級芯片將英偉達的"Grace" CPU和"Hopper" GPU整合到一個包裝中，提高了速度和效率。

包括Alphabet、Meta Platforms和Microsoft在內的公司將是首批獲得DGX GH200使用權的公司。這款超級計算機目前正在生產中，預計將在今年年底前推出。目前為止，英偉達還沒有公開這款強大機器的價格。