久久一日本道色综合久久_国产最爽的av片在线观看_精品成人Av一区二区三区_94久久国产乱子伦精品免费_国产三级网站在线观看_和女邻居做爰在线观看_wymfw最新免费_国产强奷在线免费阅读_95在线观看视频

GPT-4對(duì)算力需求更大，算力重要性凸顯。1）GPT-4相較于ChatGPT實(shí)現(xiàn)能力大幅度提升。GPT-4是一個(gè)多模態(tài)大模型（接受圖像和文本輸入，生成文本），相比上一代，GPT-4可以更準(zhǔn)確地解決難題，具有更廣泛的常識(shí)和解決問(wèn)題的能力：更具創(chuàng)造性和協(xié)作性；能夠處理超過(guò)25000個(gè)單詞的文本，允許長(zhǎng)文內(nèi)容創(chuàng)建、擴(kuò)展對(duì)話以及文檔搜索和分析等用例。2）數(shù)據(jù)、算力及模型是人工智能發(fā)展的三要素。3）GPT-4相對(duì)于3來(lái)講訓(xùn)練需求的算力更大。以GPT-3模型為例，以算力需求=2×參數(shù)數(shù)量×3×數(shù)據(jù)規(guī)?！劣?xùn)練輪數(shù)為計(jì)算模型，以O(shè)penAI數(shù)據(jù)為基礎(chǔ)，則訓(xùn)練1輪GPT-3需要的算力是3.14×10^23flop，如果采用A100芯片，則GPT-3需要的算力為241A100-years（即一張A100芯片需要訓(xùn)練241年）。可見(jiàn)，GPT-3對(duì)于算力的需求巨大，GPT-4相對(duì)于3來(lái)講，參數(shù)是其20倍左右，且增加了多模態(tài)，因此對(duì)于算力的需求更大。4）全球算力規(guī)模將呈現(xiàn)高速增長(zhǎng)態(tài)勢(shì)，經(jīng)中國(guó)信息通信研究院測(cè)算，2021年全球計(jì)算設(shè)備算力總規(guī)模達(dá)到615EFlops，增速達(dá)44%。
　　就openAI不支持ChatGPT的Plus付費(fèi)而言，更多的問(wèn)題出在推理測(cè)。與訓(xùn)練側(cè)不同，當(dāng)模型訓(xùn)練完成、應(yīng)用場(chǎng)景固定，通過(guò)對(duì)模型進(jìn)行裁剪、優(yōu)化參數(shù)網(wǎng)絡(luò)存儲(chǔ)、降低精度降低存儲(chǔ)量和計(jì)算強(qiáng)度降低對(duì)顯存、片間帶寬和算力的要求，可以降低對(duì)單張卡的算力要求。但推理直接服務(wù)用戶和應(yīng)用，面對(duì)的是上億（360）、數(shù)億（淘寶）、十億（微信、tiktok、tw、fb、google）等海量流量的沖擊，所需要的算力規(guī)模無(wú)比巨大，從經(jīng)驗(yàn)來(lái)看遠(yuǎn)大于訓(xùn)練側(cè)的算力需求。因此我們建議關(guān)注openAI不支持ChatGPT的Plus付費(fèi)對(duì)訓(xùn)練、推理兩條線的影響：對(duì)訓(xùn)練側(cè)，主要影響在于爆火刺激大模型研發(fā)相關(guān)方積極投入為未來(lái)的AI紅利搶占先機(jī)；對(duì)推理側(cè)，openAI當(dāng)前用A100支持推理側(cè)直面海量用戶的策略遭受巨大挑戰(zhàn)，也預(yù)示著未來(lái)推理側(cè)算力的巨大紅利尚待挖掘。
　　建議關(guān)注：1、GPU：寒武紀(jì)：5x0新一代產(chǎn)品對(duì)標(biāo)英偉達(dá)當(dāng)前主流訓(xùn)練側(cè)A100突破國(guó)內(nèi)大模型訓(xùn)練側(cè)市場(chǎng)已成定局，3x0新一代推理側(cè)算力更是已經(jīng)廣泛應(yīng)用，未來(lái)首個(gè)大模型大規(guī)模應(yīng)用的推理側(cè)紅利確定性較強(qiáng)；景嘉微：xc圖顯轉(zhuǎn)型AI算力。海光信息：深算3號(hào)蓄勢(shì)待發(fā)，公司海光系列CPU和深算1、2號(hào)芯片技術(shù)市場(chǎng)雙成熟。2、昇騰產(chǎn)業(yè)鏈：神州數(shù)碼：鯤鵬昇騰頭部合作伙伴，23年動(dòng)態(tài)估值（PE）不到20倍，昇騰生態(tài)里曾經(jīng)的“浪潮信息”；四川長(zhǎng)虹：鯤鵬昇騰雙龍。3、其他：算力池：光環(huán)新網(wǎng)、鴻博股份、青云科技。
　　風(fēng)險(xiǎn)提示：大模型發(fā)展不及預(yù)期；下游需求不及預(yù)期；產(chǎn)業(yè)鏈發(fā)生變化