>> 國盛證券-計算機行業(yè)點評:Chatgpt需要多少算力-230212
| 上傳日期: |
2023/2/13 |
大?。?/td>
| 567KB |
| 格式: |
pdf 共7頁 |
來源: |
國盛證券 |
| 評級: |
增持 |
作者: |
劉高暢,楊然 |
| 行業(yè)名稱: |
計算機 |
| 下載權(quán)限: |
無限制-登錄即可下載 |
|
|
ChatGPT:大模型下計算量高速擴張,算力需求陡增。1)以前,人工智能大多是針對特定場景應(yīng)用進行訓(xùn)練,難以遷移,屬于小模型范疇;而ChatGPT背后的支撐為人工智能大模型,可大幅擴充適用場景、提升研發(fā)效率。OpenAIGPT3自發(fā)布以來,在翻譯、問答、內(nèi)容生成等領(lǐng)域均有不俗表現(xiàn),也吸引了海內(nèi)外科技巨頭紛紛推出超大模型、并持續(xù)加大投入。2)在大模型的框架下,每一代GPT模型的參數(shù)量均高速擴張,GPT-3參數(shù)量已達到1750億個。我們認為,ChatGPT的快速滲透、落地應(yīng)用,也將大幅提振算力需求。 訪問算力:初始投入近十億美元,單日電費數(shù)萬美元。1)根據(jù)Similarweb的數(shù)據(jù),2023年1月,平均每天約有1300萬獨立訪客使用ChatGPT。訪問階段算力每天發(fā)生,其成本成為衡量ChatGPT最主要投入的關(guān)鍵指標(biāo)。2)我們以英偉達A100芯片、DGXA100服務(wù)器、現(xiàn)階段每日2500萬訪問量等假設(shè)為基礎(chǔ),估算得出:在初始算力投入上,為滿足ChatGPT當(dāng)前千萬級用戶的咨詢量,投入成本約為8億美元,對應(yīng)約4000臺服務(wù)器;在單日運行電費上,參考美國平均0.08美元/kwh工業(yè)電價,每日電費約為5萬美元,成本相對高昂。 前期訓(xùn)練:公有云下,單次訓(xùn)練約為百萬至千萬美元。1)模型的前期訓(xùn)練成本也是討論的重要議題。基于參數(shù)數(shù)量和token數(shù)量估算,GPT-3訓(xùn)練一次的成本約為140萬美元;對于一些更大的LLM模型(如擁有2800億參數(shù)的Gopher和擁有5400億參數(shù)的PaLM),采用同樣的計算公式,可得出,訓(xùn)練成本介于200萬美元至1200萬美元之間。2)我們認為,在公有云上,對于全球科技大企業(yè)而言,百萬至千萬美元級別的訓(xùn)練成本并不便宜,但尚在可接受范圍內(nèi)。 投資標(biāo)的: 服務(wù)器:浪潮信息、紫光股份、中科曙光等。 芯片:景嘉微、寒武紀(jì)、海光信息等。 IDC:寶信軟件、萬國數(shù)據(jù)、數(shù)據(jù)港、世紀(jì)華通等。 光模塊等。 風(fēng)險提示:AI技術(shù)迭代不及預(yù)期風(fēng)險、經(jīng)濟下行超預(yù)期風(fēng)險、行業(yè)競爭加劇風(fēng)險。
|
|