久久一日本道色综合久久_国产最爽的av片在线观看_精品成人Av一区二区三区_94久久国产乱子伦精品免费_国产三级网站在线观看_和女邻居做爰在线观看_wymfw最新免费_国产强奷在线免费阅读_95在线观看视频

大模型訓(xùn)練熱潮下，算力基礎(chǔ)設(shè)施有望迎來(lái)產(chǎn)業(yè)機(jī)遇
　　ChatGPT發(fā)布之后，引發(fā)了全球范圍的關(guān)注和討論，國(guó)內(nèi)各大廠商相繼宣布GPT模型開(kāi)發(fā)計(jì)劃。我們認(rèn)為，以GPT模型為代表的AI大模型訓(xùn)練，需要消耗大量算力資源，隨著國(guó)產(chǎn)大模型開(kāi)發(fā)陸續(xù)進(jìn)入預(yù)訓(xùn)練階段，算力需求持續(xù)釋放或?qū)?dòng)算力基礎(chǔ)設(shè)施產(chǎn)業(yè)迎來(lái)增長(zhǎng)新周期。產(chǎn)業(yè)鏈相關(guān)公司包括：1、算力芯片廠商：景嘉微、寒武紀(jì)、海光信息、龍芯中科、中國(guó)長(zhǎng)城等；2、服務(wù)器廠商：浪潮信息、中科曙光等；3、IDC服務(wù)商：寶信軟件等。
　　ChatGPT：大模型訓(xùn)練帶來(lái)高算力需求
　　訓(xùn)練ChatGPT需要使用大量算力資源。據(jù)微軟官網(wǎng)，微軟Azure為OpenAI開(kāi)發(fā)的超級(jí)計(jì)算機(jī)是一個(gè)單一系統(tǒng)，具有超過(guò)28.5萬(wàn)個(gè)CPU核心、1萬(wàn)個(gè)GPU和400 GB/s的GPU服務(wù)器網(wǎng)絡(luò)傳輸帶寬。據(jù)英偉達(dá)，使用單個(gè)Tesla架構(gòu)的V100 GPU對(duì)1746億參數(shù)的GPT-3模型進(jìn)行一次訓(xùn)練，需要用288年時(shí)間。此外，算力資源的大量消耗，必然伴隨著算力成本的上升，據(jù)Lambda，使用訓(xùn)練一次1746億參數(shù)的GPT-3模型所需花費(fèi)的算力成本超過(guò)460萬(wàn)美元。我們認(rèn)為，未來(lái)?yè)碛懈S富算力資源的模型開(kāi)發(fā)者，或?qū)⒛軌蛴?xùn)練出更優(yōu)秀的AI模型，算力霸權(quán)時(shí)代或?qū)㈤_(kāi)啟。
　　需求場(chǎng)景：預(yù)訓(xùn)練+日常運(yùn)營(yíng)+Finetune
　　具體來(lái)看，AI大模型對(duì)于算力資源的需求主要體現(xiàn)在以下三類(lèi)場(chǎng)景：1）模型預(yù)訓(xùn)練：ChatGPT采用預(yù)訓(xùn)練語(yǔ)言模型，核心思想是在利用標(biāo)注數(shù)據(jù)之前，先利用無(wú)標(biāo)注的數(shù)據(jù)訓(xùn)練模型。據(jù)我們測(cè)算，訓(xùn)練一次ChatGPT模型（13億參數(shù)）需要的算力約27.5PFlop/s-day；2）日常運(yùn)營(yíng)：用戶交互帶來(lái)的數(shù)據(jù)處理需求同樣也是一筆不小的算力開(kāi)支，我們測(cè)算得ChatGPT單月運(yùn)營(yíng)需要算力約4874.4PFlop/s-day，對(duì)應(yīng)成本約616萬(wàn)美元；3）Finetune：ChatGPT模型需要不斷進(jìn)行Finetune模型調(diào)優(yōu)，對(duì)模型進(jìn)行大規(guī)?；蛐∫?guī)模的迭代訓(xùn)練，產(chǎn)生相應(yīng)算力需求。
　　算力芯片+服務(wù)器+數(shù)據(jù)中心，核心環(huán)節(jié)有望率先受益
　　我們認(rèn)為，隨著國(guó)內(nèi)廠商相繼布局ChatGPT類(lèi)似模型，算力需求或?qū)⒊掷m(xù)釋放，供給端核心環(huán)節(jié)或?qū)⒙氏仁芤妫?）算力芯片：GPU采用了數(shù)量眾多的計(jì)算單元和超長(zhǎng)的流水線，架構(gòu)更適合進(jìn)行大吞吐量的AI并行計(jì)算；2）服務(wù)器：ChatGPT模型訓(xùn)練涉及大量向量及張量運(yùn)算，AI服務(wù)器具備運(yùn)算效率優(yōu)勢(shì)，大模型訓(xùn)練有望帶動(dòng)AI服務(wù)器采購(gòu)需求放量；3）數(shù)據(jù)中心：IDC算力服務(wù)是承接AI計(jì)算需求的直接形式，隨著百度、京東等互聯(lián)網(wǎng)廠商相繼布局ChatGPT類(lèi)似產(chǎn)品，核心城市IDC算力缺口或?qū)⒓哟蟆?br>　　關(guān)注AI景氣周期下，算力基礎(chǔ)設(shè)施產(chǎn)業(yè)機(jī)遇
　　我們認(rèn)為，國(guó)產(chǎn)廠商未來(lái)或?qū)⒂?xùn)練出自己的GPT模型，帶動(dòng)算力設(shè)施產(chǎn)業(yè)迎來(lái)景氣周期。相關(guān)公司包括：1、算力芯片廠商：景嘉微、寒武紀(jì)、海光信息、龍芯中科、中國(guó)長(zhǎng)城等；2、服務(wù)器廠商：浪潮信息、中科曙光等；3、IDC服務(wù)商：寶信軟件等。
　　風(fēng)險(xiǎn)提示：宏觀經(jīng)濟(jì)波動(dòng)；下游需求不及預(yù)期。本研報(bào)中涉及到的公司、個(gè)股內(nèi)容系對(duì)其客觀公開(kāi)信息的整理，并不代表本研究團(tuán)隊(duì)對(duì)該公司、該股票的推薦或覆蓋。