>> 華泰證券-電子行業(yè)動(dòng)態(tài)點(diǎn)評(píng)：英偉達(dá)GH200 vs AMD MI300-230530
| 上傳日期： |
2023/5/31 |
大?。?/td>
| 1993KB |
| 格式： |
pdf 共17頁(yè) |
來源： |
華泰證券 |
| 評(píng)級(jí)： |
增持 |
作者： |
何翩翩 |
| 行業(yè)名稱： |
電子 |
| 下載權(quán)限： |
此報(bào)告為加密報(bào)告，僅限高級(jí)會(huì)員查看 |
|
|
千呼萬喚始出來，DGXGH200超級(jí)計(jì)算系統(tǒng)助力新一代大AI模型
英偉達(dá)在2023 COMPUTEX大會(huì)上更新了多款A(yù)I算力產(chǎn)品。當(dāng)中焦點(diǎn)落在DGXGH200超級(jí)計(jì)算系統(tǒng)上。該系統(tǒng)是通過NVLink互連技術(shù)及NVLinkSwitch System，串聯(lián)32臺(tái)由8塊GH200超級(jí)芯片（總計(jì)256塊）合并而成的單一超級(jí)計(jì)算系統(tǒng)，存儲(chǔ)器容量高達(dá)144 TB，大規(guī)模的共享內(nèi)存能解決AI大模型訓(xùn)練的關(guān)鍵瓶頸，將為生成式AI語言應(yīng)用、推薦系統(tǒng)和數(shù)據(jù)分析工作負(fù)載的大模型增添動(dòng)力。英偉達(dá)宣布Google Cloud、Meta與微軟將是其首批用戶。
先進(jìn)的加速計(jì)算+網(wǎng)絡(luò)技術(shù)，為吞吐量和可擴(kuò)展性迎來新突破
DGXGH200集成了英偉達(dá)最先進(jìn)的加速計(jì)算和網(wǎng)絡(luò)技術(shù)，為提供最大的吞吐量和可擴(kuò)展性而設(shè)計(jì)。NVIDIANVLink-C2C將CPU與GPU相連組成GH200超級(jí)芯片，它們?cè)偻ㄟ^NVLink Switch System組成高帶寬的多GPU系統(tǒng)，每個(gè)Grace Hopper超級(jí)芯片還配有一個(gè)NVIDIAConnectX-7網(wǎng)絡(luò)適配器和一個(gè)NVIDIABlueField-3 NIC。從具體參數(shù)上看DGXGH200性能優(yōu)異，DGXGH200可提供高達(dá)1 exaFLOPS=1000 petaFLOPS的算力。在2023年底，結(jié)合Quantum-2 InfiniBand技術(shù)與4臺(tái)DGXGH200的AI超級(jí)計(jì)算機(jī)NVIDIAHelios（含1024=4*256個(gè)GH200超級(jí)芯片）將會(huì)推出，或標(biāo)志英偉達(dá)在AI和數(shù)據(jù)分析工作負(fù)載加速計(jì)算的又一突破。
英偉達(dá)GH200 vs AMDMI300，互聯(lián)和生態(tài)圈或是AMD破局的主要障礙
英偉達(dá)的Grace Hopper與AMD的MI300同為CPU+GPU架構(gòu)。我們認(rèn)為，該架構(gòu)已成為AI芯片的趨勢(shì)，鑒于AI的最終目標(biāo)是模仿人類大腦的操作，AI芯片也應(yīng)仿生人腦結(jié)構(gòu)，并順應(yīng)多模態(tài)模型的發(fā)展。CPU更像左腦，負(fù)責(zé)對(duì)信息的邏輯處理，如串行運(yùn)算、數(shù)字和算術(shù)、分析思維、理解、整理等，而GPU更像右腦，負(fù)責(zé)并行計(jì)算、創(chuàng)造性思維和想象等。在面對(duì)不同模態(tài)的推理時(shí)，CPU與GPU的分工也各有不同。例如，在處理語音、語言和文本時(shí)，計(jì)算有序，因此或更適合使用CPU；但在處理圖像、視頻等推理時(shí)，需要大規(guī)模并行運(yùn)算，或更適宜GPU。此前，英特爾也曾準(zhǔn)備發(fā)布同類產(chǎn)品Falcon Shores。
AI訓(xùn)練多方入局苗頭初生，AI推理百花齊放難決勝負(fù)
英偉達(dá)的高算力GPU一直是AI訓(xùn)練的首選，但隨著谷歌TPU、AMDMI300及云廠商自研芯片等的強(qiáng)勢(shì)涌入，AI訓(xùn)練的市場(chǎng)格局變化苗頭漸生。谷歌的TPU是少數(shù)能與英偉GPU匹敵的芯片，但面臨著通用性的局限；AMDMI300在制程、架構(gòu)及算力等多方面雖向英偉達(dá)GPU看齊，但仍存在軟件生態(tài)和互聯(lián)的突圍障礙。在TCO、研發(fā)可控性及集成生態(tài)圈等因素下，微軟、谷歌及亞馬遜等頭部云廠商推進(jìn)自研芯片乃大勢(shì)所趨。在算力要求比訓(xùn)練低的推理端，各類芯片百花齊放，主要根據(jù)不同AI工作負(fù)載來選擇，或不會(huì)演變出像訓(xùn)練端一家獨(dú)大的競(jìng)爭(zhēng)局面?？傮w而言，AI訓(xùn)練和推理的TAM雖在不斷變大，但英偉達(dá)在當(dāng)中的增速能否跟上是支撐公司發(fā)展的關(guān)鍵。
從Spectrum-X網(wǎng)絡(luò)平臺(tái)到超算系統(tǒng)，英偉達(dá)為AI計(jì)算全面加速
除了GH200芯片及DGXGH200超算系統(tǒng)的重磅發(fā)布，CEO黃仁勛在本次2023 COMPUTEX還宣布了多款新品全面加速AI計(jì)算：專門用于提高以太網(wǎng)AI云性能和效率的網(wǎng)絡(luò)平臺(tái)Spectrum-X及用于創(chuàng)建加速服務(wù)器的模塊化參考架構(gòu)NVIDIAMGX，為AI及HPC的客戶提供多元化選擇。
風(fēng)險(xiǎn)提示：AI技術(shù)落地和推進(jìn)不及預(yù)期、競(jìng)爭(zhēng)格局越演越烈、中美關(guān)系升級(jí)。相關(guān)信息數(shù)據(jù)來自于相關(guān)公司的公開的客觀信息，不代表對(duì)相關(guān)公司的研究覆蓋和推薦。
|
|
