>> 上海證券-互聯(lián)網(wǎng)傳媒行業(yè)周報-周觀點:七火山開發(fā)AI視頻模型,OpenAI開源Transformer Debugger-240319
| 上傳日期: |
2024/3/20 |
大?。?/td>
| 353KB |
| 格式: |
pdf 共3頁 |
來源: |
上海證券 |
| 評級: |
增持 |
作者: |
陳旻 |
| 行業(yè)名稱: |
互聯(lián)網(wǎng) |
| 下載權(quán)限: |
此報告為加密報告 |
|
|
主要觀點 在OpenAI展示創(chuàng)新文生視頻模型Sora后,Stable Video上線公測,Pika推出視頻對口型的Lip Sync及可根據(jù)內(nèi)容自動生成聲音的音效生成功能,LTXStudio上線電影制作平臺,包含視頻生成、編輯、剪輯、旁白全流程。3月5日,超訊通信X七火山大會上,Etna發(fā)布一段高清4K文生視頻,視頻長度達到了破紀錄的15秒,并且實現(xiàn)了60 FPS的超高幀率,提高了視頻的流暢性和觀看體驗。相較于市場上的現(xiàn)有模型,Etna在時長、高清晰度、豐富生動細節(jié)和強語義理解上都保持著較大優(yōu)勢,其模型在語言模型和圖像模型中插入時空卷積和注意力層,能夠處理視頻數(shù)據(jù)、考慮圖像序列中的時間連續(xù)性,這也就意味著Etna擁有了一定的時空理解能力,能夠理解并生成具有時間維度的視頻內(nèi)容。 3月12日,OpenAI開放了自己內(nèi)部一直用于分析Transformer內(nèi)部結(jié)構(gòu)的工具Transformer Debugger,該工具結(jié)合了自動可解釋性和稀疏自動編碼器,研究者可以用TDB工具分析Transformer的內(nèi)部結(jié)構(gòu),從而對小模型的特定行為進行調(diào)查。Transformer Debugger將“稀疏自動編碼器”結(jié)合進“用大模型解釋小模型”的技術(shù)線路中,再將之前OpenAI在可解釋性研究中用GPT-4解釋小模型的過程零代碼化,從而大幅降低了研究人員上手的門檻。OpenAI自動可解釋性研究的思路是讓GPT-4對神經(jīng)元的行為進行自然語言解釋,然后把這個過程應用到GPT-2中,其像大腦一樣由“神經(jīng)元”組成,并通過觀察文本中的特定模式來決定整個模型接下來要說什么。如給出“哪些漫威超級英雄擁有最有用的超能力?”的prompt,“漫威超級英雄神經(jīng)元”可能就會增加模型命名漫威電影中特定超級英雄的概率。 Transformer Debugger通過識別對行為有貢獻的特定組件(神經(jīng)元、注意力頭、自動編碼器latents),顯示自動生成的解釋來分析導致這些組件最強烈激活的原因,并跟蹤組件之間的連接以幫助用戶發(fā)現(xiàn)聯(lián)系,以此來幫助用戶進行Transformer的debug工作。Etna的問世意味著現(xiàn)有國產(chǎn)文生視頻技術(shù)的再一次突破,有望顛覆短視頻創(chuàng)作模式。在大語言模型百花齊放階段,我們認為國內(nèi)大廠持續(xù)投入大語言模型,有望打造出更適合中國的AI生產(chǎn)力工具。目前AIGC行情已有所分化,未來主題性機會有望逐步切換向案例兌現(xiàn)、甚至基本面兌現(xiàn),龍頭及龍頭板塊需重點關注,持續(xù)推薦具備基本面優(yōu)勢的【游戲】板塊。 投資建議 基于我們“大模型+小模型+應用及內(nèi)容”的研究框架,我們認為從基本面受益的角度上看,需沿著目前成熟大模型模態(tài)輸出的范圍選擇標的,重點關注AI+文本/虛擬人板塊,其次關注AI+圖片(大模型+小模型);從價值重估的角度上看,需沿著掌握優(yōu)質(zhì)數(shù)據(jù)或內(nèi)容(多模態(tài)數(shù)據(jù))的范圍選擇標的,重點關注AI+內(nèi)容/IP/版權(quán)板塊。 AI行情分化趨勢下,建議重點關注基本面優(yōu)異的【游戲】及【出版】板塊: 1、AI:關注【匯納科技】、【昆侖萬維】;推薦【創(chuàng)業(yè)黑馬】。 2、MR:推薦【風語筑】;關注【寶通科技】、【凡拓數(shù)創(chuàng)】。 3、游戲新模式:推薦【盛天網(wǎng)絡】、【完美世界】、【三七互娛】;關注【名臣健康】。 4、影視新模式:關注【中文在線】、【上海電影】、【光線傳媒】、【華策影視】。 風險提示 政策邊際優(yōu)化的程度不及預期、疫情致企業(yè)經(jīng)營情況不及預期、AI推進進度不及預期、AIGC商業(yè)模式或落地場景效果不及預期、內(nèi)容監(jiān)管趨嚴。
|
|