>> 上海證券-互聯(lián)網(wǎng)傳媒行業(yè)周報(bào)-周觀點(diǎn)：大模型開啟長文本時(shí)代，文生3D領(lǐng)域關(guān)鍵性問題取得突破-231016
| 上傳日期： |
2023/10/16 |
大小： |
1036KB |
| 格式： |
pdf 共3頁 |
來源： |
上海證券 |
| 評(píng)級(jí)： |
增持 |
作者： |
陳旻 |
| 行業(yè)名稱： |
傳媒 |
| 下載權(quán)限： |
此報(bào)告為加密報(bào)告 |
|
|
主要觀點(diǎn)
10月9日，大模型初創(chuàng)公司Moonshot AI宣布在「長文本」領(lǐng)域?qū)崿F(xiàn)突破，推出首個(gè)支持輸入20萬漢字的智能助手產(chǎn)品Kimi Chat。這是目前全球市場上能夠產(chǎn)品化使用的大模型服務(wù)中所能支持的最長上下文輸入長度，標(biāo)志著Moonshot AI在這一重要技術(shù)上取得了世界領(lǐng)先水平。相比當(dāng)前市面上以英文為基礎(chǔ)訓(xùn)練的大模型服務(wù)，Kimi Chat具備較強(qiáng)的多語言能力：Kimi Chat在中文上具備顯著優(yōu)勢，實(shí)際使用效果能夠支持約20萬漢字的上下文，2.5倍于Anthropic公司的Claude-100k（實(shí)測約8萬字），8倍于OpenAI公司的GPT-4-32k（實(shí)測約2.5萬字）。同時(shí)，Kimi Chat通過創(chuàng)新的網(wǎng)絡(luò)結(jié)構(gòu)和工程優(yōu)化，在千億參數(shù)下實(shí)現(xiàn)了無損的長程注意力機(jī)制，不依賴于滑動(dòng)窗口、降采樣、小模型等對(duì)性能損害較大的「捷徑」方案。目前，Moonshot AI的智能助手產(chǎn)品Kimi Chat已開放了內(nèi)測。
文生3D領(lǐng)域取得關(guān)鍵突破，助力解決多視角一致性問題。近日，字節(jié)跳動(dòng)研究人員推出一項(xiàng)名為MVDream的多視圖擴(kuò)散模型，其能夠根據(jù)給定的文本提示生成幾何一致的多視圖圖像。通過利用在大規(guī)模Web數(shù)據(jù)集和從3D資產(chǎn)渲染的多視圖數(shù)據(jù)集上預(yù)先訓(xùn)練的圖像擴(kuò)散模型，生成的多視圖擴(kuò)散模型可以實(shí)現(xiàn)2D擴(kuò)散的通用性和3D數(shù)據(jù)的一致性。而香港科技大學(xué)譚平團(tuán)隊(duì)近期發(fā)表的論文“SweetDreamer”，同樣也提出一種能夠提升幾何一致性的方法。團(tuán)隊(duì)對(duì)2D擴(kuò)散模型進(jìn)行了微調(diào)，使其具有視點(diǎn)感知能力，并生成特定視點(diǎn)的3D物體坐標(biāo)圖。且在處理過程中，只使用粗略的3D信息進(jìn)行對(duì)齊。在人工評(píng)估中，“SweetDreamer”的一致性高達(dá)85%以上，遠(yuǎn)超過以往的方法30%左右的水平，意味著此方法在文本到3D生成領(lǐng)域?qū)崿F(xiàn)了新的技術(shù)突破。
根據(jù)我們“大模型+小模型+應(yīng)用&內(nèi)容”的研究框架，我們認(rèn)為多模態(tài)大模型是未來發(fā)展趨勢。一方面，多模態(tài)可拓展應(yīng)用范圍，隨著大模型功能的逐漸完善，大模型的應(yīng)用場景與生態(tài)也有望進(jìn)一步豐富。另一方面，多模態(tài)將推高算力需求，圖片、音頻等非結(jié)構(gòu)化數(shù)據(jù)可以提供更豐富的維度，擴(kuò)大模型參數(shù)規(guī)模，有助于模型的持續(xù)訓(xùn)練和提升，算力需求有望進(jìn)一步釋放。
?。?）參數(shù)量決定了大模型支持復(fù)雜計(jì)算的程度，而能夠接收文本輸入的長度（即長文本技術(shù)）則決定了大模型的內(nèi)存，兩者共同決定模型的應(yīng)用效果。若大模型輸入長度受限則會(huì)阻礙其應(yīng)用場景：比如虛擬角色場景中，由于長文本能力不足，虛擬角色會(huì)輕易忘記重要信息；基于大模型開發(fā)劇本殺類游戲時(shí)，往往需要輸入數(shù)萬字甚至超過十萬字的劇情設(shè)定以及游戲規(guī)則，如果模型輸入長度不夠，則只能削減規(guī)則和設(shè)定，從而無法達(dá)到預(yù)期游戲效果。我們認(rèn)為Moonshot AI支持更長的上下文意味著大模型擁有更大的內(nèi)存，從而使得大模型的應(yīng)用更加深入和廣泛。
（2）文生3D領(lǐng)域關(guān)鍵性問題的突破，不僅對(duì)于3D生成具有重要意義，還對(duì)于VR/游戲/影視等領(lǐng)域有廣泛的應(yīng)用前景，為實(shí)現(xiàn)更高質(zhì)量、更多樣化的3D生成提供新的可能。目前AIGC行情已有所分化，未來主題性機(jī)會(huì)有望逐步切換向案例兌現(xiàn)、甚至基本面兌現(xiàn)，龍頭及龍頭板塊需重點(diǎn)關(guān)注，持續(xù)推薦具備基本面優(yōu)勢的【游戲】板塊。
投資建議
基于我們“大模型+小模型+應(yīng)用及內(nèi)容”的研究框架，我們認(rèn)為從基本面受益的角度上看，需沿著目前成熟大模型模態(tài)輸出的范圍選擇標(biāo)的，重點(diǎn)關(guān)注AI+文本/虛擬人板塊，其次關(guān)注AI+圖片（大模型+小模型）；從價(jià)值重估的角度上看，需沿著掌握優(yōu)質(zhì)數(shù)據(jù)或內(nèi)容（多模態(tài)數(shù)據(jù)）的范圍選擇標(biāo)的，重點(diǎn)關(guān)注AI+內(nèi)容/IP/版權(quán)板塊。
AI行情分化趨勢下，建議重點(diǎn)關(guān)注基本面優(yōu)異的【游戲】及【出版】板塊：
1、建議關(guān)注AI+游戲，如【盛天網(wǎng)絡(luò)】、【姚記科技】、【神州泰岳】、【三七互娛】、【完美世界】、【吉比特】、【世紀(jì)華通】、【巨人網(wǎng)絡(luò)】；建議關(guān)注AI+出版，推薦【皖新傳媒】、關(guān)注【中文傳媒】、【中國科傳】、【中國出版】等。
2、建議關(guān)注行業(yè)垂類大模型，如【創(chuàng)業(yè)黑馬】、【昆侖萬維】。
3、推薦中國版Discord【創(chuàng)夢天地】。
4、建議關(guān)注【匯納科技】、【引力傳媒】、【浙文互聯(lián)】、【世紀(jì)恒通】。
風(fēng)險(xiǎn)提示
政策邊際優(yōu)化的程度不及預(yù)期、疫情致企業(yè)經(jīng)營情況不及預(yù)期、AI推進(jìn)進(jìn)度不及預(yù)期、AIGC商業(yè)模式或落地場景效果不及預(yù)期、內(nèi)容監(jiān)管趨嚴(yán)
|
|
