AI算力供應(yīng)的絕對龍頭——英偉達(dá)近日重要新聞?lì)H多，從超出預(yù)期的財(cái)報(bào)及下季度指引，到Computex 2023發(fā)布一系列新芯片、新架構(gòu)超算、交換機(jī)及行業(yè)應(yīng)用，這些動作都在提振市場對算力的信心。我們認(rèn)為，未來算力等同于生產(chǎn)力，AI對算力的追求沒有天花板，還有諸多預(yù)期差將不斷催化算力板塊與光通信市場上行。
1. AI超算服務(wù)器：英偉達(dá)在Computex 2023上發(fā)布了最新AI計(jì)算架構(gòu)Grace Hopper以及對應(yīng)服務(wù)器解決方案DGXGH200。Grace Hopper采用最新的CPU與GPU一體設(shè)計(jì)方案，單顆GH200 Grace Hopper集成72顆ARM架構(gòu)CPU，算力達(dá)到4 PFLOPSTE，擁有96GBHBM3內(nèi)存與576GB顯存；一臺集成了256顆Grace Hopper芯片的DGXGH200顯存總和達(dá)到144TB（通過交換網(wǎng)絡(luò)實(shí)現(xiàn)顯存共享），在第四代NVLink加持下，GPU互聯(lián)帶寬達(dá)900GB/s，總算力達(dá)到1 exaFLOPS@FP8，完美適配大規(guī)模的AI訓(xùn)練/推理需求。我們認(rèn)為，隨著帶寬提升，新架構(gòu)對光模塊的需求彈性也在上行。Grace Hopper與GH200已經(jīng)投產(chǎn)，Google Cloud、Meta和微軟是早期客戶。
我們認(rèn)為，未來GPU服務(wù)器將主導(dǎo)數(shù)據(jù)中心市場。數(shù)據(jù)中心正在朝加速計(jì)算的方向發(fā)展，而生成式AI助推了這個(gè)進(jìn)程。在企業(yè)Capex有限的情況下，未來投資將集中于GPU服務(wù)器或類似Grace Hopper的CPU+GPU混合服務(wù)器。以往企業(yè)需要花費(fèi)1千萬美元購置含960顆CPU@11GWh的數(shù)據(jù)中心來運(yùn)行1個(gè)大語言模型，現(xiàn)在僅需40萬美元購置含2顆
[email protected]的小機(jī)柜即可跑動1個(gè)大語言模型。
2.交換機(jī)：英偉達(dá)發(fā)布世界上第一個(gè)AI以太網(wǎng)網(wǎng)絡(luò)平臺Spectrum-X，其中的RDMA技術(shù)可用于跨服務(wù)器顯存共享；2022年亮相的Spectrum-4交換機(jī)也正式量產(chǎn)，提供64個(gè)800GbE端口或128個(gè)400GbE端口，可以連接分布在兩層網(wǎng)絡(luò)的8192個(gè)GPU，交換速率達(dá)到51.2T。英偉達(dá)再次強(qiáng)調(diào)高密度架構(gòu)和通信網(wǎng)絡(luò)對于顯卡性能發(fā)揮的重要性。
我們認(rèn)為，超算中心內(nèi)部通信能力的木桶效應(yīng)將進(jìn)一步被放大。市場普遍忽略了交換網(wǎng)絡(luò)的重要性。英偉達(dá)Infiniband Q1營收創(chuàng)紀(jì)錄，據(jù)英偉達(dá)測算，若企業(yè)支出5億美元建設(shè)交換網(wǎng)絡(luò)，Infiniband和以太網(wǎng)的吞吐量差異是15%-20%。同時(shí)，Infiniband更加適合GPU負(fù)載，適配Infiniband協(xié)議的光模塊單價(jià)也更高，將進(jìn)一步提升光模塊在超算中的價(jià)值量。
3.算力客戶將呈現(xiàn)多樣性。金融、醫(yī)藥、游戲、工業(yè)等垂直領(lǐng)域均在加速部署AGI，例如：1）彭博社將部署500億參數(shù)的BloombergGPT和FINPILE數(shù)據(jù)集，聚焦金融領(lǐng)域任務(wù)；2）藥企Amgen正在使用DGXCloud以及英偉達(dá)BioNeMo大模型來加速藥物發(fā)現(xiàn)；3）NVIDIAAvatar Cloud Engine（ACE），用于定制游戲AI模型，可通過AI支持的自然語言交互帶來智能NPC，有望徹底改變游戲體驗(yàn)；4）Nvidia Omniverse賦能工業(yè)互聯(lián)網(wǎng)，為制造業(yè)帶來快速智能化的解決方案。算力需求正在滲透至各行各業(yè)，這將不斷強(qiáng)化“算力追求沒有天花板”、“應(yīng)用越豐富，算力越多樣”的邏輯。
風(fēng)險(xiǎn)提示：AI需求不及預(yù)期，英偉達(dá)產(chǎn)品交付不及預(yù)期。
