>> 廣發(fā)證券-電子行業(yè)“AI的iPhone時刻”系列14:NVIDIA發(fā)布DGX GH200,高速互聯(lián)助力算力大幅提升-230601
| 上傳日期: |
2023/6/2 |
大?。?/td>
| 1216KB |
| 格式: |
pdf 共10頁 |
來源: |
廣發(fā)證券 |
| 評級: |
-- |
作者: |
許興軍,王亮,耿正 |
| 行業(yè)名稱: |
電子 |
| 下載權(quán)限: |
此報告為加密報告 |
|
|
核心觀點(diǎn): Computex 2023:硬件、軟件、生態(tài)多維度更新迭代推動AIGC技術(shù)應(yīng)用普及。在Computex 2023大會,NVIDIACEO黃仁勛展示了硬件、軟件、生態(tài)等多維度的產(chǎn)品更新迭代,發(fā)布會亮點(diǎn)包括但不限于:發(fā)布基于Grace Hopper Superchip的用于運(yùn)行AIGC的大內(nèi)存超級計(jì)算機(jī)DGXGH200;發(fā)布用于創(chuàng)建加速服務(wù)器的模塊化參考架構(gòu)NVIDIAMGX,推動系統(tǒng)制造商構(gòu)建100多種加速服務(wù)器配置;發(fā)布專用于提高以太網(wǎng)AI云性能和效率的網(wǎng)絡(luò)平臺NVIDIASpectrum-X;發(fā)布NVIDIAAvatar Cloud Engine(ACE)游戲開發(fā)版等。 Grace Hopper Superchip:首款應(yīng)用于HPC和AI的異構(gòu)加速平臺(Heterogeneous accelerated platform)。NVIDIA最新的Grace “Hopper”架構(gòu)將72核Grace CPU、Hopper GPU、96GBHBM3和480GBLPDDR5X集成在同一封裝中。Grace CPU使用ARM架構(gòu),在單位功耗下其性能可達(dá)傳統(tǒng)X86 CPU的2倍;CPU和GPU通過NVLink-C2C連接,互聯(lián)帶寬高達(dá)900GB/s,是PCIe Gen5傳輸速率的7倍;CPU配套高至512GBLPDDR5X,相較于8通道DDR5方案,Grace CPU-LPDDR5X間帶寬提高超過50%,且能耗更低。在HPC、AI等應(yīng)用場景中,相較于傳統(tǒng)的X86 CPU+GPU的解決方案,Grace Hopper Superchip能提供更高的效率。 DGXGH200:集成NVIDIA最先進(jìn)加速計(jì)算和網(wǎng)絡(luò)技術(shù)的AI超級計(jì)算機(jī)。通過NVIDIANVLink將多達(dá)256塊Grace Hopper Superchip連接整合,可得到數(shù)據(jù)中心大小的超級計(jì)算單元—DGXGH200,可以提供1 exaflop性能與接近150TB共享內(nèi)存?;贜VLink網(wǎng)絡(luò),GH200中GPU可以以900GB/s的速率與其他GPU/ HBM3/LPDDR5X互聯(lián);與基于IB網(wǎng)絡(luò)的系統(tǒng)相比,GH200系統(tǒng)的all-to-all bandwidth、全規(guī)約吞吐量分別是前者的9倍、4.5倍;在運(yùn)行超大容量內(nèi)存腳本時,基于NVLink連接的DGXGH200使得單GPU能夠以NVLink網(wǎng)絡(luò)帶寬獲取系統(tǒng)中其他superchip上存儲的信息,顯著提高運(yùn)行效率;系統(tǒng)內(nèi)服務(wù)器間使用更高速率的NVLink網(wǎng)絡(luò)互聯(lián)相應(yīng)明顯增加了對光模塊/光芯片的需求量。 投資建議。AIGC推動AI服務(wù)器需求增長,建議關(guān)注:算力:海光信息、寒武紀(jì)(計(jì)算機(jī)組覆蓋)、芯原股份、龍芯中科等;連接:源杰科技、瀾起科技、裕太微、聚辰股份、帝奧微等;PCB:勝宏科技、滬電股份;存儲:深科技、北京君正、兆易創(chuàng)新、東芯股份等;電源:杰華特;制造:中芯國際、長電科技、通富微電、甬矽電子等;ODM:工業(yè)富聯(lián);應(yīng)用:海康威視、大華股份、韋爾股份、思特威、格科微、恒玄科技、晶晨股份、全志科技、瑞芯微等。 風(fēng)險提示。AIGC發(fā)展不及預(yù)期;AI服務(wù)器出貨量不及預(yù)期;國產(chǎn)廠商技術(shù)和產(chǎn)品進(jìn)展不及預(yù)期
|
|