>> 華泰證券-電子行業(yè)動態(tài)點評：英偉達H200發(fā)布，AI芯片競爭已趨白熱化-231114
| 上傳日期： |
2023/11/14 |
大?。?/td>
| 602KB |
| 格式： |
pdf 共5頁 |
來源： |
華泰證券 |
| 評級： |
增持 |
作者： |
何翩翩 |
| 行業(yè)名稱： |
電子 |
| 下載權(quán)限： |
此報告為加密報告 |
|
|
多方入局下，AI芯片競爭已趨白熱化
英偉達GPU一直是AI訓練端首選，我們認為包括谷歌TPU和AMDMI300系列等少數(shù)芯片能與其匹敵。但當算法開始成熟，ASIC定制芯片憑著專用性和低功耗，能承接部分算力。我們認為頭部科技大廠出于削減TCO、提升研發(fā)可控性及集成生態(tài)等考量，均陸續(xù)自研芯片，他們或?qū)⒊蔀橛ミ_最大競爭對手，如特斯拉Dojo、亞馬遜在18和20年發(fā)布的AI推理芯片Inferentia及訓練芯片Trainium、以及微軟或?qū)⒃?1月14日Ignite會議推出的首款自研AI芯片“Athena（雅典娜）”。AI推理市場規(guī)模大，但對算力要求比訓練低，目前雖以CPU主導，但GPU/FPGA/ASIC等也能占到一席位。
英偉達推出NVIDIAHGXH200，新品迭代提速顯著
英偉達于美國時間11月13日推出NVIDIAHGXH200。H200從HBM3內(nèi)存升級到HBM3e，是首款采用HBM3e的GPU，擁有高達141GB的內(nèi)存容量，及4.8TB/s的帶寬，對比H100的80GB和3.35TB/s大幅提升。在性能表現(xiàn)方面，H200重點強化了推理性能和HPC性能，有效降低了能耗和整體成本。根據(jù)SemiAnalysis在10月10日的報道，英偉達未來AI芯片路線圖顯示，公司計劃在明后兩年推出H200、B100和X100等芯片及配套方案。我們認為這一策略標志著其旗艦芯片迭代周期的顯著加速，即發(fā)布間隔從大約兩年轉(zhuǎn)變?yōu)橐荒甓喟?，展示了公司的?chuàng)新能力和領(lǐng)導地位。
NVIDIAHGXH200：性能與效率的雙重提升
NVIDIA的HGXH200相較于前代H100展現(xiàn)了顯著的性能提升和效率革新。在推理應用中，H200將Llama 2（700億參數(shù)的大型語言模型）的推理速度提高了近一倍。此外，H200還相對H100實現(xiàn)了TCO(Total Cost ofOwnership)和能耗成本50%的降低。內(nèi)存容量與帶寬是限制AI計算的主要瓶頸，H200在加速生成式AI和大型語言模型方面更為出色，標志著NVIDIA在高性能計算領(lǐng)域邁出了重要一步。成本的減低也將有利于整體AI芯片在推理場景的應用的推進。
HGXH200預計在24Q2發(fā)貨，AWS等云大廠均為首批用戶
H200能夠與HGXH100系統(tǒng)的硬件和軟件兼容。2023年8月在SIGGRAPH大會發(fā)布的GH200 Grace Hopper超級芯片（HBM3e版本）即為H200與Grace CPU配合使用。公司也計劃兩者均于24Q2正式出貨。除了英偉達自己投資的CoreWeave、Lambda和Vultr之外，AWS、谷歌云、微軟Azure和甲骨文，都將成為首批部署基于H200實例的供應商。
風險提示：技術(shù)落地緩慢、中美競爭加劇、芯片需求不及預期、宏觀經(jīng)濟不確定性
|
|
