>> 招商證券-存儲行業(yè)深度報告：AI服務器存儲量價齊升，算力需求推動HBM市場數(shù)倍增長-231122
| 上傳日期： |
2023/11/23 |
大?。?/td>
| 5937KB |
| 格式： |
pdf 共81頁 |
來源： |
招商證券 |
| 評級： |
優(yōu)于大勢 |
作者： |
鄢凡,曹輝 |
| 下載權限： |
此報告為加密報告 |
|
|
AI算力升級帶動服務器的CPU迭代并提升GPU需求，帶動AI服務器存儲容量和價值量較傳統(tǒng)服務器數(shù)倍增長。訓練型AI服務器中GPU承擔大部分算力，算力要求推動了HBM等新型存儲器超百億美元新興市場，進而提升Bumping、TSV、CoWoS等先進封裝工藝需求，并帶來減薄、鍵合、模塑、測試等設備以及EMC、電鍍液、PSPI等材料的增量需求。疊加國內自主可控需求持續(xù)增長，國內存儲及HBM等催生的先進封裝產業(yè)鏈發(fā)展空間巨大。
AI服務器CPU和GPU隨算力需求而升級，對存儲器容量和價值量均有數(shù)倍拉動。傳統(tǒng)服務器以CPU作為算力核心，隨著AI訓練模型的算力要求不斷提升，CPU的核心數(shù)、主頻、線程數(shù)量均不斷提升，但僅靠CPU已經(jīng)無法滿足算力需求，需要搭配GPU進行多線程數(shù)據(jù)處理，主流訓練型服務器一般搭配8個GPU。AI服務器用到的主要存儲器包括CPU內存、GPU顯存和硬盤NAND等，存儲器容量和價值量均較普通服務器有數(shù)倍提升，1）DRAM：英偉達訓練型AI服務器中的CPUDRAM容量高達2TB，另外單個GPU一般搭載80GB以上的HBM存儲器，AI服務器HBM總容量預計超640G，總內存容量相較普通服務器有4-8倍的提升，僅CPU內存價值量預計有5倍的提升，GPU的HBM則為純增量市場；另外，服務器內存也在不斷迭代，目前普通的服務器均多配備DDR4，但最先進的AI服務器已經(jīng)搭配了DDR5或LPDDR5；2）NAND：AI服務器的硬盤容量高達30TB，相較傳統(tǒng)服務器提升2-4倍，另外傳統(tǒng)服務器同時使用機械硬盤和固態(tài)硬盤（SSD），但AI服務器基本全部使用SSD，整體價值量較普通服務器預計提升10倍左右。
HBM能夠突破訓練型AI服務器的GPU帶寬極限，2024年增量空間預計超百億美元。HBM（High Bandwidth Memory）即高帶寬存儲器，是基于2.5/3D封裝技術的一種新型CPU/GPU內存芯片，將DRAMDie垂直堆疊，Die之間通過TSV的方式連接。HBM能夠以低功耗產生高帶寬，因此廣泛搭配訓練型AI服務器的GPU使用，訓練型AI服務器對HBM需求的拉動主要體現(xiàn)在：1）AI服務器搭載GPU數(shù)量的提升：由普通服務器的2個提升至目前的8個；2）單個GPU搭載HBMStack數(shù)量的提升：在HBM1方案中，單個GPU搭載4個HBM1，而在目前HBM2e或HBM3方案中，一般單個GPU搭配6個HBMStack；3）HBM堆疊的DRAM層數(shù)和容量增多：從HBM1到HBM3，單個DRAMDie密度從2Gb提升至16Gb，堆疊高度從4Hi提升至12Hi，單個HBM疊層容量從1GB提升至24GB。Trendforce預計2025年全球服務器出貨量為1700萬臺，當前AI服務器滲透率大概不足2%，假設2024年AI服務器滲透率約4%，按照每個AI服務器搭載8個GPU、每個GPU搭載6個共80GB至100GB及以上的HBMStack的方案測算，那么2024年AI服務器帶來的HBM增量空間預計超百億美元。
AI服務器的GPU采用2.5D+3D封裝工藝，推動TSV、CoWoS等核心封裝技術需求。HBM和GPU采用2.5D+3D封裝工藝，根據(jù)Yole，2021年HBM和Si中介層封裝市場規(guī)模合計約14億美元，預計2027年增至35億美元，其中HBM和硅中介層封裝市場分別增至16.3和18.8億美元。TSV（Through-Silicon Via）即硅通孔技術，順應2.5D封裝架構而產生，能夠以最低的能耗提供極高的帶寬和密度，是實現(xiàn)電路小型化、高密度、多功能化的首選解決方案。2.5DTSV技術已經(jīng)廣泛用于AIGPU基板上的HBM中，實現(xiàn)DRAM各層Die之間的連接，以及HBM芯片和下方的金屬凸塊之間的連接。CoWoS工藝用于將HBM和硅中介層、封裝基板等進行整體封裝，當前臺積電處于領先地位，伴隨著谷歌TPU、英偉達GPU、AMDMI300等均導入生成式AI，臺積電CoWoS需求自2022年以來翻倍增長，目前持續(xù)供不應求，展望2024年將目前CoWoS產能翻倍。
HBM多層堆疊結構提升工序步驟，將帶動封裝設備和材料需求持續(xù)提升。1）設備：HBM中大量增加前道工序，前道檢、量測設備主要增量來自微凸點、TSV、硅中介層等工藝，另外HBM中增加的預鍵合晶圓級測試和KGSD相關的封裝級測試也帶動分選機、測試機、探針臺等后道測試設備的數(shù)量和精度提升；HBM堆疊結構增多，要求晶圓厚度不斷降低，進而提升減薄、鍵合等設備需求；HBM多層堆疊結構要求超薄晶圓和銅-銅混合鍵合工藝，增加了臨時鍵合/解鍵合以及混合鍵合設備需求，各層DRAM die的保護材料也非常關鍵，對注塑或壓塑設備提出較高要求；另外，諸如劃片機、固晶機、回流焊機/回流爐等傳統(tǒng)設備需求也均受益于HBM封裝帶來的工藝步驟提升和工藝變革帶來的價值量提升；2）材料：HBM中芯片間隙采用GMC（顆粒狀塑封料）或LMC（液態(tài)塑封料）進行填充，GMC最主要原材料為球形硅微粉和球形氧化鋁；HBM采用底部填充膠用于FC封裝工藝，采用PSPI作為硅中介層中RDL的再鈍化層；HBM中的Bumping、RDL、TSV等引入前道工藝，帶來電鍍液用量提升；另外，HBM也將提升電子粘合劑、封裝基板、壓敏膠帶等其他材料需求。
投資建議。相較傳統(tǒng)服務器，AI服務器的存儲器容量和價值量均提升數(shù)倍，其中訓練型AI服務器GPU對帶寬要求顯著提升，催生了HBM等新型存儲器的增量需求。當前DRAM、NAND、HBM等份額均主要由海外原廠如三星、美光、SK海力士
|
|
