>> 中信證券-前瞻研究全球人工智能AI產(chǎn)業(yè)研究手冊：從算法演進到產(chǎn)業(yè)邏輯構(gòu)建-230503
| 上傳日期： |
2023/5/3 |
大小： |
22775KB |
| 格式： |
pdf 共258頁 |
來源： |
中信證券 |
| 評級： |
-- |
作者： |
陳俊云，許英博，賈凱方 |
| 下載權(quán)限： |
此報告為加密報告，僅限高級會員查看 |
|
|
核心要點
人工智能：ChatGPT推動產(chǎn)業(yè)迎來iPhone時刻，并從“小作坊”走向工業(yè)化時代。ChatGPT在全球市場的爆發(fā)，正將AI產(chǎn)業(yè)推到過去70年以來前所未有的高度，科技巨頭紛紛入局，繼微軟、谷歌之后，國內(nèi)企業(yè)百度、阿里巴巴等先后發(fā)布大模型，并進行用戶測試和企業(yè)應(yīng)用接入。全球一線科技巨頭在AI領(lǐng)域的軍備競賽，以及在大模型方向的持續(xù)下注，必將極大加速全球AI產(chǎn)業(yè)的發(fā)展進程，并推動產(chǎn)業(yè)從過去的“小作坊”式發(fā)展快速進入“工業(yè)化”時代。
算法模型：AI發(fā)展的靈魂，技術(shù)路線料將快速向GPT方向收斂，并有望在中期形成少數(shù)大模型（底層）+若干垂類模型（應(yīng)用層）的格局。ChatGPT的成功證明了高質(zhì)量數(shù)據(jù)+反饋激勵（大模型預(yù)訓練+小數(shù)據(jù)微調(diào)）的有效性。GPT在自然語言理解、生成方面的整體優(yōu)勢，有望驅(qū)動AI大模型技術(shù)路線快速向GPT方向收斂，同時少數(shù)科技巨頭&機構(gòu)專注于基礎(chǔ)大模型的研發(fā)，更多企業(yè)則發(fā)揮各自在垂類數(shù)據(jù)、場景理解等層面優(yōu)勢，并最終構(gòu)建少數(shù)大模型+若干應(yīng)用模型的生態(tài)格局。
芯片&算力：算法快速迭代，以及對算力的巨大需求，料推動通用AI芯片（GPU）、云廠商早期高確定性受益。目前AI大模型領(lǐng)域的創(chuàng)新正在以月、周為單位快速向前推進，短期維度，預(yù)計通用AI芯片仍將是底層算法快速迭代的核心受益者。同時當前大模型在訓練、推理環(huán)節(jié)仍需要巨大的算力承載，云廠商在算力基礎(chǔ)設(shè)施、基礎(chǔ)軟件框架等層面綜合優(yōu)勢明顯，AI帶來的算力增量料將主要向云計算平臺轉(zhuǎn)移，云廠商有望充分受益。但若后續(xù)算法迭代速度放緩，以及針對部分應(yīng)用場景的專門優(yōu)化，ASIC芯片需求料將快速展開，AI單位算力成本有望快速下降，但亦同時帶來應(yīng)用需求的進一步增長。
數(shù)據(jù)：AI的糧食和血液。當前AI算法的發(fā)展正轉(zhuǎn)向以大模型為主的數(shù)據(jù)依賴，豐富、高質(zhì)量數(shù)據(jù)集是AI產(chǎn)業(yè)持續(xù)向前的核心基礎(chǔ)。伴隨公開數(shù)據(jù)集的逐步耗盡，借助算法實現(xiàn)數(shù)據(jù)合成，以及垂類領(lǐng)域?qū)Ｓ袛?shù)據(jù)集將是企業(yè)后續(xù)差異化優(yōu)勢主要來源，同時數(shù)據(jù)使用合規(guī)、用戶隱私保護等亦將成為持續(xù)監(jiān)管領(lǐng)域。
算法模型：
技術(shù)路線：以大語言模型為主導，向GPT方案靠攏：ChatGPT的成功證明了GPT模型的Prompting道路的正確性，同時也強調(diào)了數(shù)據(jù)質(zhì)量的重要性。ChatGPT最重要的成功是在產(chǎn)品化上更進一步：ChatGPT在模型精度上并沒有飛躍性的突破，但從Few Shot prompt（需要輸入范例示范）轉(zhuǎn)換到Instruct（用人類語言描述想做什么）更加貼合用戶的習慣。5）展望未來3-5年的人工智能模型技術(shù)路線，我們認為人工智能將繼續(xù)沿著大語言模型的道路前景發(fā)展，并快速向GPT路線收斂。GPT路線已經(jīng)表現(xiàn)出了其不可替代的產(chǎn)品化能力，這也將推動更多廠商想這個方向投入資源。隨著多模態(tài)的不斷成熟以及新模態(tài)的持續(xù)加入，我們預(yù)計將會看到通用求解能力更強的GPT類基礎(chǔ)模型。
競爭壁壘：數(shù)據(jù)質(zhì)量、資本投入、核心人才、工程實踐能力等。1）從Bert開始到GPT-3再到谷歌的PALM，網(wǎng)絡(luò)中的公開語言數(shù)據(jù)源已經(jīng)在被盡可能地利用（論壇、新聞、維基百科等），而模型的進一步優(yōu)化對數(shù)據(jù)質(zhì)量要求也越來越高。我們認為優(yōu)質(zhì)的私有數(shù)據(jù)源將在未來3-5年里人工智能模型的精度優(yōu)化上發(fā)揮更重要的作用。2）隨著模型體量仍然在成倍數(shù)增加，大量的前期資本投入是阻礙新入者的重要因素。在過去五年內(nèi)，我們看到人工智能模型的獨角獸都在尋找互聯(lián)網(wǎng)科技大廠作為其背后的依靠，主要因為能夠得到充足而短時間內(nèi)不求產(chǎn)出的資金支持并獲取互聯(lián)網(wǎng)大廠長期以來所積累的優(yōu)質(zhì)數(shù)據(jù)源。這也是我們看到為什么在過去五年內(nèi)人工智能頭部廠商逐漸從開源走向閉源，利用其資源優(yōu)勢來打造差異化的AI模型，而落后者更希望通過開源的模式以求縮小與頭部廠商的距離。3）研發(fā)團隊的工程能力是決定公司在大語言模型競爭力的另一個重要因素。隨著語言模型的體積不斷增加，在研究方法上現(xiàn)今千億量級的模型與之前幾十億量級的小模型發(fā)生了本質(zhì)變化，個體工程師沒有能力通過自有資源積累對大模型的學習經(jīng)驗。一個合格的大模型研發(fā)團隊需要依靠大公司的資源支持才能積累對模型調(diào)試、優(yōu)化、實際部署等各個環(huán)節(jié)足夠的經(jīng)驗。大廠商對大語言模型的底層研究構(gòu)建了極高競爭壁壘，因此底層架構(gòu)的研發(fā)與實踐應(yīng)用的分離將是必然趨勢，前者由少部分大型企業(yè)機構(gòu)主導，而中小型企業(yè)專注于后者。
數(shù)據(jù)：
數(shù)據(jù)：AI的血液與糧食。按照當前LLM的技術(shù)范式，數(shù)據(jù)集主要應(yīng)用于預(yù)訓練、模型調(diào)優(yōu)階段。預(yù)訓練階段需要大規(guī)模、多類別、高質(zhì)量的訓練數(shù)據(jù)，在模型調(diào)優(yōu)階段，垂類小數(shù)據(jù)集、提示詞工程同樣重要。近年來全球數(shù)據(jù)量呈現(xiàn)爆發(fā)式增長，據(jù)IDC統(tǒng)計，2019年全球產(chǎn)生的數(shù)據(jù)量為41ZB，過去十年的CAGR接近50%，預(yù)計到2025年全球數(shù)據(jù)量或高達175ZB，2019-2025年仍將維持近30%的復合增速，其中超過80%的數(shù)據(jù)都將是處理難度較大的文本、圖像、音視頻等非結(jié)構(gòu)化數(shù)據(jù)。從Bert開始到GPT-3再到谷歌的PALM，網(wǎng)絡(luò)中的公開語言數(shù)據(jù)源已經(jīng)在被盡可能地利用（論壇、新聞、維基百科等），但模
|
|
