久久一日本道色综合久久_国产最爽的av片在线观看_精品成人Av一区二区三区_94久久国产乱子伦精品免费_国产三级网站在线观看_和女邻居做爰在线观看_wymfw最新免费_国产强奷在线免费阅读_95在线观看视频

本周周報(bào)我們介紹GPT-4詳細(xì)參數(shù)及英特爾發(fā)布Gaudi2加速器相關(guān)內(nèi)容，對(duì)大模型及GPU生態(tài)進(jìn)行探討和展望。
　　與國(guó)內(nèi)大模型產(chǎn)品相比，chatGPT效果依然最優(yōu)。根據(jù)InfoQ數(shù)據(jù)顯示，chatGPT在大模型產(chǎn)品測(cè)評(píng)中分?jǐn)?shù)最高，綜合得分率為77.13%，國(guó)內(nèi)大模型產(chǎn)品文心一言正迅速追趕，在國(guó)內(nèi)大語(yǔ)言模型中位列第一。
　　在這一背景下，市場(chǎng)普遍認(rèn)為GPT-4的模型架構(gòu)、基礎(chǔ)設(shè)施、參數(shù)設(shè)計(jì)等具有一定程度的領(lǐng)先。由于官方并未公布GPT-4的詳細(xì)參數(shù)，業(yè)內(nèi)人士對(duì)GPT-4的詳細(xì)參數(shù)進(jìn)行了推斷.
　　參數(shù)量：GPT-4的大小是GPT-3的10倍以上，包含1.8萬(wàn)億個(gè)參數(shù)；數(shù)據(jù)集：GPT-4的訓(xùn)練數(shù)據(jù)集將多個(gè)epoch中的token計(jì)算在內(nèi)包含約13萬(wàn)億個(gè)token；
　　訓(xùn)練成本：OpenAI在GPT-4的訓(xùn)練中使用了大約2.15e25的FLOPS，使用了約25,000個(gè)A100 GPU，訓(xùn)練了90到100天，利用率（MFU）約為32%至36%。假定云端的每個(gè)A100 GPU的成本大約為每小時(shí)1美元，那么單次訓(xùn)練的成本將達(dá)到約6300萬(wàn)美元，如果使用約8192個(gè)H100 GPU進(jìn)行預(yù)訓(xùn)練，用時(shí)約為55天左右，成本為2150萬(wàn)美元，每個(gè)H100 GPU的計(jì)費(fèi)標(biāo)準(zhǔn)為每小時(shí)2美元；
　　推理成本：GPT-4的推理成本是1750億參數(shù)模型的3倍，這主要是因?yàn)镚PT-4的集群規(guī)模更大，并且利用率很低。根據(jù)測(cè)算，在用128個(gè)A100GPU進(jìn)行推理的情況下，8k版本GPT-4推理的成本為每1,000個(gè)token0.0049美分。如果使用128個(gè)H100 GPU進(jìn)行推理，同樣的8k版本GPT-4推理成本為每1,000個(gè)token 0.0021美分；
　　7月11日，Intel面向國(guó)內(nèi)提出了新的解決方案，推出了第二代Gaudi深度學(xué)習(xí)加速器Habana Gaudi2。
　　在大語(yǔ)言模型GPT-3的評(píng)測(cè)上，Gaudi2也展示了其較優(yōu)的性能。它是僅有的兩個(gè)提交了GPT-3 LLM訓(xùn)練性能結(jié)果的解決方案之一（另一個(gè)是英偉達(dá)H100）。在GPT-3的訓(xùn)練上，英特爾使用384塊Gaudi 2加速器使用311分鐘訓(xùn)練完成，在GPT-3模型上從256個(gè)加速器到384個(gè)加速器實(shí)現(xiàn)了近線性95%的擴(kuò)展。
　　目前，已有部分廠商推出了基于英特爾AI加速卡的產(chǎn)品。在發(fā)布活動(dòng)中，英特爾宣布Gaudi2首先將通過(guò)浪潮信息向國(guó)內(nèi)客戶提供，打造并發(fā)售基于Gaudi2深度學(xué)習(xí)加速器的浪潮信息AI服務(wù)器NF5698G7。其服務(wù)器集成了8塊Gaudi2加速卡HL-225B，還包含兩顆第四代英特爾至強(qiáng)可擴(kuò)展處理器。
　　投資策略：
　　國(guó)內(nèi)大模型在實(shí)際效果上已經(jīng)逐漸靠近GPT-4，未來(lái)隨著大模型在各領(lǐng)域的商業(yè)化落地，國(guó)內(nèi)大模型將加速創(chuàng)新和迭代，推動(dòng)數(shù)字經(jīng)濟(jì)發(fā)展，大模型方面建議關(guān)注科大訊飛、360。
　　目前，Gaudi2加速器發(fā)布后，英特爾正與浪潮信息合作，開發(fā)并發(fā)售基于Gaudi2深度學(xué)習(xí)加速器的AI服務(wù)器NF5698G7，同時(shí)新華三正與英特爾合作，開發(fā)適合大模型訓(xùn)練和推理的高性能AI服務(wù)器。
　　我們認(rèn)為隨著大語(yǔ)言模型及生成式AI的需求擴(kuò)張，市場(chǎng)對(duì)高性價(jià)比加速器的需求也更加迫切，Intel推出的Gaudi2同時(shí)具備性能與性價(jià)比的領(lǐng)先優(yōu)勢(shì)，未來(lái)將具備較大的發(fā)展空間。
　　市場(chǎng)回顧：
　　本周申萬(wàn)計(jì)算機(jī)指數(shù)整體表現(xiàn)平穩(wěn)，上漲0.82%，在申萬(wàn)一級(jí)行業(yè)中排名13/31。
　　本周申萬(wàn)計(jì)算機(jī)行業(yè)指數(shù)前十大權(quán)重股恒生電子跌幅較大、浪潮信息、用友網(wǎng)絡(luò)、紫光股份略有下跌，大華股份、?？低?、中科曙光漲幅較大。
　　本周計(jì)算機(jī)板塊漲幅前十大個(gè)股：華是科技、銀信科技、航天智裝、匯金股份、中孚信息、天邁科技、中新賽克、三維天地、彩訊股份及恒為科技。
　　申萬(wàn)計(jì)算機(jī)行業(yè)指數(shù)當(dāng)前滾動(dòng)市盈率為69.16，近五年分位值81.95%。
　　風(fēng)險(xiǎn)提示：政策落地不及預(yù)期風(fēng)險(xiǎn)、技術(shù)落地不及預(yù)期、宏觀經(jīng)濟(jì)波動(dòng)風(fēng)險(xiǎn)等。