>> 中泰證券-計算機行業(yè)PanGu~Σ:華為萬億參數(shù)語言大模型-230411
| 上傳日期: |
2023/4/11 |
大?。?/td>
| 1714KB |
| 格式: |
pdf 共14頁 |
來源: |
中泰證券 |
| 評級: |
-- |
作者: |
聞學臣 |
| 行業(yè)名稱: |
計算機 |
| 下載權(quán)限: |
此報告為加密報告,僅限高級會員查看 |
|
|
PanGu-Σ:1.085萬億參數(shù)的語言大模型 2023年3月,華為發(fā)布了PanGu-Σ語言大模型。該模型的訓練采用了MindSpore架構(gòu),使用512塊昇騰910芯片訓練了100天。與之前的模型相比,PanGu-Σ的模型規(guī)模大規(guī)模擴大了。PanGu-Σ在各種中文NLP下游任務的零樣本學習中展現(xiàn)出了SOTA結(jié)果。此外,它在開放領(lǐng)域?qū)υ挕柎?、機器翻譯和代碼生成的應用數(shù)據(jù)上進行微調(diào)時,表現(xiàn)出強大的能力。 PanGu-Σ是在13B版本的PanGu- α模型基礎(chǔ)上進行了訓練。訓練量為3290億tokens,參數(shù)量為1.085萬億。 投資觀點 以大模型、生成式為代表的新一代人工智能技術(shù)與商業(yè)變革已經(jīng)拉開了大幕,中國以華為為代表的科技巨頭紛紛加大布局,以搶占下一代的超級入口和計算平臺,其中也將重塑各行各業(yè)的模式與格局,建議可以沿著三個維度尋找機會。 模型廠商,未來的格局將是基礎(chǔ)大模型+行業(yè)/場景模型,建議關(guān)注科大訊飛、三六零、格靈深瞳、云天勵飛、云從科技等; 應用場景廠商,任何一輪技術(shù)的創(chuàng)新最終都將帶來應用的大發(fā)展、大繁榮,建議三類標準尋找應用機會: 1)與AIGC技術(shù)相關(guān)度更為直接的應用場景,內(nèi)容的豐富與工具生產(chǎn)力的提升,建議關(guān)注金山辦公、廣聯(lián)達、萬興科技、中望軟件、彩訊股份等; 2)高價值、高壁壘、數(shù)據(jù)量大的垂直場景,如金融、醫(yī)療、教育等,建議關(guān)注恒生電子、同花順、明源云、中科軟、宇信科技、京北方、長亮科技、頂點軟件、創(chuàng)業(yè)慧康、嘉和美康、久遠銀海、衛(wèi)寧健康等; 3)華為生態(tài)合作伙伴,建議關(guān)注中國軟件、麒麟信安、誠邁科技、賽意信息、法本信息、軟通動力、神州數(shù)碼等; 安全廠商,人工智能時代攻防雙方都將迎來新的機會和挑戰(zhàn),建議關(guān)注深信服、安恒信息、啟明星辰、三未信安、天融信、安博通、迪普科技、奇安信、亞信安全、中孚信息、綠盟科技、山石網(wǎng)科、永信至誠等。 風險提示:技術(shù)落地不達預期,政策變化,格局惡化,疫情再次大規(guī)模傳播。
|
|