>> 開源證券-通信行業(yè)周報:算力芯片持續(xù)更新,AI用戶量初具規(guī)模-240610
| 上傳日期: |
2024/6/10 |
大小: |
1786KB |
| 格式: |
pdf 共18頁 |
來源: |
開源證券 |
| 評級: |
看好 |
作者: |
蔣穎 |
| 下載權(quán)限: |
無限制-登錄即可下載 |
|
|
英偉達(dá)和AMD公布AI芯片路線圖,全面進(jìn)入液冷時代 英偉達(dá)公布未來技術(shù)路線圖,算力邊際成本不斷下降。2024年6月3日,英偉達(dá)在COMPUTEX 2024上發(fā)布GPU、CPU、NVlink、NIC網(wǎng)卡以及交換芯片的技術(shù)路線。Blackwell Ultra系列GPU將于2025年發(fā)布,搭載八個HBM3e內(nèi)存堆棧;下一代Rubin GPU預(yù)計將在2026年推出,搭載8個HBM4內(nèi)存堆棧,配對的新一代Arm數(shù)據(jù)中心CPUVara也將問世;RubinUltra系列將于2027年推出,將搭載12個HBM4內(nèi)存堆棧,擁有更多內(nèi)存容量,GPU加速效應(yīng)顯著,單卡算力性能持續(xù)提升,算力邊際成本不斷下降,以支撐AI大模型參數(shù)持續(xù)增長。 AMD公布全新云端AI加速芯片路線圖,今年將推出全新InstinctMI325X。2024年6月3日,AND在COMPUTEX 2024上公布全新云端AI加速芯片路線圖,將會在今年推出全新的AI加速芯片Instinct MI325X,2025年推出MI350,2026年推出MI400。其中,MI325X將延續(xù)CDNA3構(gòu)架,采用HBM3e高帶寬內(nèi)存,容量大幅提升至288GB,內(nèi)存帶寬也將提升至6TB/s,相較競品英偉達(dá)H200將有1.3倍以上的提升,更具性價比,預(yù)計MI325X將于今年第四季度開始供貨,其他方面規(guī)格基本與MI300X保持一致;新一代MI350系列將采用3nm制程,基于全新的構(gòu)架,集成288GBHBM3e內(nèi)存,并支持FP4/FP6數(shù)據(jù)格式,推理運算速度較現(xiàn)有MI300系列芯片快35倍。 算力芯片功耗持續(xù)增長,全面進(jìn)入液冷時代。單個英偉達(dá)B200八卡風(fēng)冷DGX服務(wù)器功耗接近15KW,散熱模組體積較大,空間利用率較差,相比之下液冷MGX服務(wù)器算力密度更高,液冷散熱性價比優(yōu)勢顯著;同時,據(jù)供應(yīng)鏈信息透露,AMDMI350將同樣切換至液冷散熱時代。 AI用戶初具規(guī)模,ChatGPT宕機造成競品訪問量激增 “一鯨落而萬物生”,ChatGPT用戶的龐大AI需求致使競品系統(tǒng)癱瘓。6月4日,OpenAI旗下ChatGPT(包括網(wǎng)站、App和桌面應(yīng)用)出現(xiàn)系統(tǒng)故障,導(dǎo)致全球大量用戶無法正常使用,持續(xù)長達(dá)近8個小時。ChatGPT在全球擁有約1.8億活躍用戶,已成為部分人群工作流程的關(guān)鍵部分,此次宕機期間,用戶紛紛轉(zhuǎn)向替代工具,包括Anthropic公司的Claude、谷歌Gemini和Perplexity等,據(jù)軟件公司QRFY分析,谷歌Gemini的日均搜索量激增近60%,顯示出用戶對ChatGPT替代品的蓬勃需求。然而,在流量激增之下,上述三大AI平臺也遭遇了系統(tǒng)癱瘓,Perplexity網(wǎng)站顯示因為接收到太多請求,顯示超出服務(wù)容量。我們認(rèn)為,此次事件映射出使用AI模型對于某些用戶已為剛性需求,且AI用戶量已初具規(guī)模,短時間內(nèi)大量的增量需求已超出競品的基礎(chǔ)設(shè)施容量上限。當(dāng)下算力基礎(chǔ)設(shè)施建設(shè)仍存在結(jié)構(gòu)性缺口,隨著用戶對于AI的需求持續(xù)增長,算力基礎(chǔ)設(shè)施建設(shè)或?qū)㈤L期持續(xù)。 Aspeed 5月營收同比大幅增長,服務(wù)器需求或迎來復(fù)蘇 全球服務(wù)器管理芯片供應(yīng)商龍頭Aspeed 2024年5月實現(xiàn)營收4.35億新臺幣,同比增長92.90%,環(huán)比增長4.67%,月度營收規(guī)模已接近2022年平均水平。我們認(rèn)為,公司營收大幅改善主要是AI服務(wù)器的強勁需求,導(dǎo)致管理芯片單個服務(wù)器的價值量上升,以及傳統(tǒng)服務(wù)器需求逐漸復(fù)蘇所致。 風(fēng)險提示:5G建設(shè)不及預(yù)期、AI發(fā)展不及預(yù)期、智能制造發(fā)展不及預(yù)期、中美貿(mào)易摩擦等。
|
|