>> 西部證券-計算機行業(yè):英偉達LPU方案印證專用推理芯片的可行性-260228
| 上傳日期: |
2026/3/1 |
大?。?/td>
| 278KB |
| 格式: |
pdf 共2頁 |
來源: |
西部證券 |
| 評級: |
超配 |
作者: |
鄭宏達,李想 |
| 行業(yè)名稱: |
計算機 |
| 下載權(quán)限: |
此報告為加密報告 |
|
|
核心結(jié)論 根據(jù)華爾街見聞,英偉達或?qū)⒃贕TC開發(fā)者大會上發(fā)布一款整合Groq“語言處理單元”(LPU)技術(shù)的AI推理芯片。該款A(yù)I推理芯片有望采用SRAM集成與3D堆疊,或?qū)⒒谙乱淮鶩eynman架構(gòu),針對大模型推理的延遲和帶寬瓶頸進行優(yōu)化。OpenAI已承諾采購該AI推理芯片,并投資300億美元。OpenAI已同意成為該新處理器的最大客戶之一,并宣布將向英偉達購買大規(guī)模的“專用推理產(chǎn)能”。 該款A(yù)I推理芯片主計算裸片(Compute Die)或?qū)⒉捎门_積電最先進的A16(1.6nm)工藝制造,包含SRAM存儲庫的LPU單元或制成獨立的Die,直接堆疊在計算核心上。該設(shè)計利用了A16工藝的“背面供電”特性,釋放芯片正面空間用于垂直連接,有望實現(xiàn)超低延遲的數(shù)據(jù)傳輸。 分析與判斷: 生成式AI模型參數(shù)量持續(xù)增大,促進AI推理芯片加速迭代。從GPT-3的1750億參數(shù),到Claude、Gemini、GPT-5等萬億級參數(shù)量模型的出現(xiàn),生成式AI模型的參數(shù)實現(xiàn)了10倍以上的躍升。傳統(tǒng)GPU追求通用計算能力,但在面對萬億參數(shù)模型的推理需求時,AI推理芯片更需要向?qū)S没c異構(gòu)化的方向不斷迭代。 AI推理的硬件架構(gòu)正在發(fā)生革新,Prefill和Decode分離的異構(gòu)計算正在加速落地。AI推理主要分為預(yù)填充(Prefill)和解碼(Decode)兩個計算過程,兩者對算力基礎(chǔ)設(shè)施的性能要求,也存在著差異。因此,解耦這兩個過程,能夠更有針對性地優(yōu)化算力與內(nèi)存資源,增強整體資源利用率。針對這一計算特點,英偉達于2025年9月推出Rubin CPX方案,使用Rubin CPX處理預(yù)填充計算過程。在收購Groq的關(guān)鍵技術(shù)許可后,英偉達更進一步通過外部技術(shù)整合來突破芯片在解碼時的計算能力。 我們認為:英偉達將LPU整合進自身AI芯片體系,展現(xiàn)了專用推理芯片(ASIC/DSA)在生成式AI推理計算中的重要性。這或?qū)⒂∽C國產(chǎn)AI芯片通過專業(yè)推理架構(gòu),在AI推理側(cè)實現(xiàn)性能突破的可能性。AI推理芯片的高速迭代,或?qū)⑼苿訂挝籺oken計算成本持續(xù)下降,促進下游采購需求,有望驅(qū)動國產(chǎn)AI芯片實現(xiàn)彈性較大、確定性較高的增長。 建議關(guān)注:1)AI推理芯片:寒武紀(已覆蓋)、海光信息(已覆蓋)、天數(shù)智芯。2)互聯(lián)技術(shù):盛科通信(已覆蓋)、瀾起科技。3)AIDC:東陽光、潤澤科技(已覆蓋)。 風(fēng)險提示:下游需求不及預(yù)期;新一代AI推理芯片落地和商業(yè)化不及預(yù)期;宏觀經(jīng)濟不及預(yù)期。
|
|