久久一日本道色综合久久_国产最爽的av片在线观看_精品成人Av一区二区三区_94久久国产乱子伦精品免费_国产三级网站在线观看_和女邻居做爰在线观看_wymfw最新免费_国产强奷在线免费阅读_95在线观看视频

本期內(nèi)容提要:
　　Blackwell眾多技術(shù)突破，整體以機(jī)柜形式交貨。GB200機(jī)柜有NVL36和NVL72兩種規(guī)格。GB200 NVL36配置中，一個(gè)機(jī)架有36個(gè)GPU和9個(gè)雙GB200計(jì)算節(jié)點(diǎn)（以托盤為單位）。GB200 NVL72在一個(gè)機(jī)架中配置了72個(gè)GPU / 18個(gè)雙GB200計(jì)算節(jié)點(diǎn)，或在兩個(gè)機(jī)架中配置了72個(gè)GPU，每個(gè)機(jī)架上配置了18個(gè)單GB200計(jì)算節(jié)點(diǎn)。每個(gè)GPU具有2080億個(gè)晶體管，采用專門定制的臺(tái)積電4NP工藝制造。所有Blackwell產(chǎn)品均采用雙倍光刻極限尺寸的裸片，通過10 TB/s的片間互聯(lián)技術(shù)連接成一塊統(tǒng)一的GPU。此外，B系列還有眾多突破，支持4位浮點(diǎn)(FP4) AI。內(nèi)存可以支持的新一代模型的性能和大小翻倍，同時(shí)保持高精度?；ヂ?lián)方面，第五代NVLink技術(shù)實(shí)現(xiàn)高速互聯(lián)。NVIDIANVLink交換機(jī)芯片能以驚人的1.8TB/s互連速度為多服務(wù)器集群提供支持。采用NVLink的多服務(wù)器集群可以在計(jì)算量增加的情況下同步擴(kuò)展GPU通信，因此NVL72可支持的GPU吞吐量是單個(gè)8卡GPU系統(tǒng)的9倍。此外，Blackwell架構(gòu)在安全AI、解壓縮引擎、可靠性等方面也實(shí)現(xiàn)了不同程度的創(chuàng)新和突破。
　　Blackwell或成推理市場(chǎng)的鑰匙，F(xiàn)P4精度潛力較大。目前模型參數(shù)變大的速度放緩，但模型推理和訓(xùn)練的運(yùn)算量仍高速增長(zhǎng)，尤其在o1引入強(qiáng)化學(xué)習(xí)之后，post scaling law開始發(fā)力。英偉達(dá)在發(fā)布H100架構(gòu)時(shí)，便就FP8數(shù)據(jù)精度做出一定討論。業(yè)界曾長(zhǎng)期依賴FP16與FP32訓(xùn)練，但這種高精度的運(yùn)算，在大模型LLM中受到了一定阻礙：由于模型參數(shù)等因素導(dǎo)致運(yùn)算驟升，可能導(dǎo)致數(shù)據(jù)溢出。英偉達(dá)提出的FP8數(shù)據(jù)精度因?yàn)檎加酶俚谋忍?，能提供更多運(yùn)算量。以NVIDIAH100 Tensor Core GPU為例，相較FP16和BF16，F(xiàn)P8的峰值性能能夠?qū)崿F(xiàn)接近翻倍。FP4精度是FP8的繼承和發(fā)展，對(duì)推理市場(chǎng)的打開有重要推動(dòng)。GB200推出了FP4，F(xiàn)P4支持由于降低了數(shù)據(jù)精度，性價(jià)比相比H100幾乎倍增。根據(jù)Semianalysis的數(shù)據(jù)，GB200NVL72在FP4精度下，F(xiàn)LOPS相比H100可以最高提高405%（注：H100最低以FP8計(jì)算），由此帶來性價(jià)比提升。目前，F(xiàn)P4的運(yùn)算已經(jīng)可以在大模型運(yùn)算中廣泛應(yīng)用，且已有研究表明網(wǎng)絡(luò)可以使用FP4精度進(jìn)行訓(xùn)練而不會(huì)有顯著的精度損失。此外，由于模型推理中不需要對(duì)模型參數(shù)進(jìn)行更新，相對(duì)訓(xùn)練對(duì)于精度的敏感性有所下降，因此B系列相對(duì)于訓(xùn)練，在推理領(lǐng)域會(huì)更有優(yōu)勢(shì)。B系列引入FP4精度后，大模型在云側(cè)和端側(cè)的協(xié)同都有望實(shí)現(xiàn)躍升，這也是我們看好接下來的端側(cè)市場(chǎng)的原因之一。
　　AI產(chǎn)業(yè)川流匯聚，2025年有望云端兩旺。我們認(rèn)為，B系列的推出有望打開推理市場(chǎng)，各類AI終端有望掀起持續(xù)的機(jī)遇。此外，AI產(chǎn)業(yè)的閉環(huán)有望刺激云廠商資本開支，云端共振共同發(fā)展。建議關(guān)注英偉達(dá)產(chǎn)業(yè)鏈傳統(tǒng)的核心廠商，如ODM、PCB廠商等。此外，B系列帶來的新興賽道如銅連接、AEC賽道也值得關(guān)注。
　　風(fēng)險(xiǎn)因素：宏觀經(jīng)濟(jì)下行風(fēng)險(xiǎn)；下游需求不及預(yù)期風(fēng)險(xiǎn)；中美貿(mào)易摩擦加劇風(fēng)險(xiǎn)