英偉達爆出又一重磅產品：含256個GPU的AI超級計算機！
加入技術交流群
5月29日，英偉達在2023臺北電腦展大會上發布了多項重磅消息，其中最引人注目的是其Grace Hopper超級芯片已經全面投產。這些芯片是英偉達新推出的DGX GH200人工智能超級計算平臺和MGX系統的核心組件，它們專為處理海量的生成型人工智能任務而設計。
本文引用地址：http://www.j9360.com/article/202305/447181.htm新型超級計算機：DGX GH200
英偉達宣布推出搭載256顆GH200 Grace Hopper超級芯片的新型DGX GH200人工智能超級計算機。新的DGX系統擁有更大的內存容量和更大規模的模型能力，據悉DGX GH200的內存儲量將是英偉達目前DGX A100系統的近500倍。
自去年年底OpenAI發布ChatGPT以來，生成式人工智能（AIGC）就成為熱度居高不下的新趨勢，該項技術需要通過超強算力來創建文本、圖像、視頻等內容。而芯片巨頭英偉達所生產的人工智能芯片對該領域至關重要，計算能力方面的突破將使得AIGC應用再次獲得巨大提升。
英偉達CEO黃仁勛在COMPUTEX 2023的主題演講中表示，“DGX GH200人工智能超級計算機，集成了英偉達最先進的加速計算和網絡技術，以拓展人工智能的前沿。”
英偉達預計，其新型超級計算機將允許開發人員為人工智能聊天機器人以及復雜的算法構建更好的語言模型，并創建更有效的欺詐檢測和數據分析。有海外知名媒體對此評價道，英偉達的新人工智能超級計算機將改變“游戲規則”。
超強算力
Grace Hopper超級芯片是英偉達開發的基于Arm架構的CPU+GPU集成方案，它將72核的Grace CPU、Hopper GPU、96GB的HBM3和512GB的LPDDR5X集成在同一個封裝中，共有2000億個晶體管。這種組合提供了CPU和GPU之間驚人的數據帶寬，高達1TB/s，為某些內存受限的工作負載提供了巨大的優勢。
DGX GH200的細節還不太清楚，但已確認英偉達使用了一種新的NVLink Switch系統，包含36個NVLink Switch芯片將256個GH200 Grace Hopper芯片和144TB的共享內存連接成一個單元。
DGX GH200人工智能超級計算平臺是英偉達針對最高端的人工智能和高性能計算工作負載而設計的系統和參考架構，目前的DGX A100系統只能將8個A100 GPU聯合起來作為一個單元，考慮到生成型人工智能的爆炸式增長，英偉達的客戶迫切需要更大、更強大的系統。
DGX GH200就是為了提供最大的吞吐量和可擴展性而設計的，它通過使用英偉達的定制NVLink Switch芯片來避免標準集群連接選項（如InfiniBand和以太網）的限制。
英偉達CEO黃仁勛表示GH200芯片為“巨型GPU”，這是英偉達第一次使用NVLink Switch拓撲結構來構建整個超級計算機集群，稱這種結構提供了比前一代系統高出10倍的GPU到GPU和7倍的CPU到GPU的帶寬。
它還設計了提供比競爭對手高出5倍的互連功耗效率和高達128TB/s的對分帶寬。該系統有50英里的光纖，并且重達4萬磅，但是呈現出來就像一個單一的GPU。英偉達表示256顆Grace Hopper超級芯片將DGX GH200的“AI性能”提升到了exaflop（一百萬萬億次）。
英偉達將把DGX GH200的參考藍圖提供給其主要客戶谷歌、Meta和微軟，并且還將把該系統作為云服務提供商和超大規模數據中心的參考架構設計。該系統預計將于2023年底投入使用，目前英偉達沒有提供價格。
英偉達自己也將部署一個新的英偉達Helios超級計算機，由四個DGX GH200系統組成，用于自家的研發工作。這四個系統共有1024個Grace Hopper芯片，并且用英偉達的Quantum-2 InfiniBand 400Gb/s網絡連接起來。
5月25日，英偉達公布了明顯高于華爾街預期的季度營收預測，此后該公司股價在一天內飆升24%。季度報告表明，營收的上漲主要受惠于云計算平臺和大型科技公司對GPU芯片的需求。
評論