>> 長江證券-軟件與服務行業(yè)：英偉達發(fā)布桌面端AI超算，或重塑端側(cè)推理范式-250110
| 上傳日期： |
2025/1/10 |
大?。?/td>
| 560KB |
| 格式： |
pdf 共5頁 |
來源： |
長江證券 |
| 評級： |
看好 |
作者： |
宗建樹 |
| 下載權限： |
此報告為加密報告，僅限高級會員查看 |
|
|
事件描述
北京時間1月7日，國際消費電子展（CES 2025）開幕前夕，英偉達創(chuàng)始人兼CEO黃仁勛發(fā)表主題演講，發(fā)布Project Digits桌面端AI超算硬件。Project Digits整體只有一本字典大小，可使用標準家用電源插座供電。Project Digits能讓全世界開發(fā)者能夠在自己的辦公桌上，運行超大規(guī)模的AI模型，補充了現(xiàn)有的云計算資源，極大地降低了端側(cè)AI落地的算力門檻。ProjectDigits將于今年五月正式推出，起售價為3000美元。
事件評論
Project Digits允許用戶在端側(cè)運行LLaMA 3級別的大模型。Project Digits桌面級系統(tǒng)可以處理高達2000億參數(shù)的AI模型；同時，對于需要更強大算力的應用，用戶可以通過ConnectX網(wǎng)絡芯片將2臺Project Digits超級計算機互聯(lián)，獲得足以處理高達4050億參數(shù)模型的性能，在本地運行LLaMA 3.1405B模型。
英偉達為Project Digits完善了生態(tài)適配，降低了使用門檻。Project Digits預裝了NvidiaDGX基礎操作系統(tǒng)（基于Ubuntu Linux）和Nvidia AI軟件棧，為開發(fā)者提供了一個開箱即用的AI開發(fā)環(huán)境。英偉達還為Project Digits用戶提供了各種AI軟件，包括開發(fā)工具包、編排工具，以及通過英偉達NGC目錄提供的預訓練模型，并支持PyTorch、Python和Jupyter等主流框架。用戶可以在Project Digits上本地開發(fā)和測試AI模型，然后使用相同的Grace Blackwell架構(gòu)和Nvidia AIEnterprise軟件平臺將其部署到云服務或數(shù)據(jù)中心基礎設施。
Project Digits的核心是新一代GB10芯片。GB10芯片基于Grace Blackwell架構(gòu)，在FP4精度下可以提供1 PFlops的AI性能。在CPU部分，Project Digits采用英偉達自家的Grace CPU，采用定制20核心ARM架構(gòu)。在信息傳輸方面，GB10通過NVLink-C2C芯片到芯片互連連接到高性能Grace CPU。在存儲方面，每臺系統(tǒng)配備了128GB的統(tǒng)一內(nèi)存以及高達4TB的NVMe存儲空間。
Project Digits有望重塑端側(cè)AI推理范式。隨著AI應用的陸續(xù)落地，端側(cè)算力需求在持續(xù)增長，因此算力已成為端側(cè)AI落地的核心瓶頸。為解決問題，AI應用廠商一方面蒸餾端側(cè)模型，降低端側(cè)模型參數(shù)量；一方面把部分推理需求傳導至云端。本次Project Digits推出有望顛覆端側(cè)AI推理范式，重塑端側(cè)AI落地思路。
投資建議：國內(nèi)AI應用有望在2025年大規(guī)模落地。在上游基礎設施層面，建議關注推理側(cè)算力芯片標的寒武紀；建議關注AI基礎模型相關廠商進展。在下游產(chǎn)品層面，建議關注AI眼鏡主機廠，以及上游端側(cè)模型、芯片、鏡片相關產(chǎn)業(yè)鏈。建議關注AIPC落地節(jié)奏和上游芯片相關產(chǎn)業(yè)鏈；建議關注具身智能技術進展，運控相關標的，以及異構(gòu)芯片、傳感器相關標的。
風險提示
1、端側(cè)AI技術推進不及預期；
2、端側(cè)AI產(chǎn)品下游需求不及預期。
|
|
