久久一日本道色综合久久_国产最爽的av片在线观看_精品成人Av一区二区三区_94久久国产乱子伦精品免费_国产三级网站在线观看_和女邻居做爰在线观看_wymfw最新免费_国产强奷在线免费阅读_95在线观看视频

人工智能系列之67：多任務(wù)學(xué)習(xí)初探
　　本研究介紹多目標學(xué)習(xí)基本概念，將多目標學(xué)習(xí)應(yīng)用于量化選股場景。采用基礎(chǔ)的硬參數(shù)共享機制，訓(xùn)練全連接神經(jīng)網(wǎng)絡(luò)同時預(yù)測未來10日和20日收益率排序，兩項任務(wù)的損失函數(shù)采用uncertainty weight或dynamicweight average方式加權(quán)。結(jié)果表明：多任務(wù)學(xué)習(xí)的合成因子測試和指增組合回測指標均優(yōu)于單任務(wù)學(xué)習(xí)；模型規(guī)模擴大，多任務(wù)學(xué)習(xí)的優(yōu)勢隨之?dāng)U大；從子任務(wù)預(yù)測集成模型看，多任務(wù)相比單任務(wù)學(xué)習(xí)的優(yōu)勢在時序上較穩(wěn)定。
　　直觀理解多任務(wù)學(xué)習(xí)：“通才”勝過“專才”
　　傳統(tǒng)AI預(yù)測問題對模型的定位是“專才”，每個模型對應(yīng)唯一的預(yù)測目標，執(zhí)行某項特定功能，這種學(xué)習(xí)機制稱為單任務(wù)學(xué)習(xí)。然而無論人類還是AI，“通才”更符合人們對智能的期待。例如我們面對人臉可以同時識別性別和年齡，大語言模型既可以對話又可以寫代碼。多任務(wù)學(xué)習(xí)正是為訓(xùn)練通才這一目標提出的學(xué)習(xí)機制，每個模型對應(yīng)多個預(yù)測目標，同時學(xué)習(xí)多項任務(wù)。多任務(wù)學(xué)習(xí)機制符合直觀理解，例如識別性別和年齡的任務(wù)，可能基于相近的臉部特征，可以使用相同網(wǎng)絡(luò)參數(shù)；學(xué)習(xí)英語的同時學(xué)習(xí)德語，由于歸屬相同語系，可能“觸類旁通”，學(xué)習(xí)效率更高。
　　基礎(chǔ)概念：兩種參數(shù)共享架構(gòu)，有效原因分析，常用損失加權(quán)方式
　　多任務(wù)學(xué)習(xí)利用任務(wù)間的關(guān)聯(lián)性，共享信息表征，實現(xiàn)知識遷移，提高泛化能力。有兩種常用架構(gòu)：(1)硬參數(shù)共享，各任務(wù)底部層共享，頂部層獨立；(2)軟參數(shù)共享，各任務(wù)有獨立的模型和參數(shù)，通過正則化提高參數(shù)相似性。多任務(wù)學(xué)習(xí)有效的原因：(1)知識遷移增強特征學(xué)習(xí)；(2)輔助任務(wù)對主任務(wù)進行正則化，幫助主任務(wù)聚焦于真正重要的特征，減少無關(guān)信息干擾；(3)可視作隱式的數(shù)據(jù)增強，有效增加樣本數(shù)量，避免過擬合。各任務(wù)損失加權(quán)方式是決定模型表現(xiàn)的關(guān)鍵因素，常用方法如uw、dwa、gls、rw等。
　　測試方法：預(yù)測10日和20日收益率，采用uw或dwa方式加權(quán)
　　我們在現(xiàn)有周頻中證500指增模型基礎(chǔ)上，引入多任務(wù)學(xué)習(xí)機制，測試改進效果?；€模型為MLP網(wǎng)絡(luò)，特征為常規(guī)的基本面和量價因子。多任務(wù)學(xué)習(xí)網(wǎng)絡(luò)前兩層為任務(wù)共享層，第三層為任務(wù)特異層，采用傳統(tǒng)的硬參數(shù)共享，使用uw或dwa方式進行損失函數(shù)加權(quán)。同時設(shè)置單任務(wù)學(xué)習(xí)對照組。單任務(wù)學(xué)習(xí)和多任務(wù)學(xué)習(xí)均給出兩組收益預(yù)測，分別對應(yīng)未來10或20個交易日收益率。組合優(yōu)化采用(1)10日預(yù)測、(2)20日預(yù)測、(3)10日預(yù)測和20日預(yù)測等權(quán)集成，分別構(gòu)建中證500指數(shù)增強組合。
　　測試結(jié)果：多任務(wù)學(xué)習(xí)優(yōu)于單任務(wù)學(xué)習(xí)，模型規(guī)模較大時優(yōu)勢體現(xiàn)更充分
　　測試結(jié)果表明：隱單元數(shù)為256時，多任務(wù)學(xué)習(xí)的加權(quán)RankIC均值和信息比率均優(yōu)于單任務(wù)學(xué)習(xí)，優(yōu)勢既分別體現(xiàn)在10日預(yù)測和20日預(yù)測兩個子任務(wù)上，又體現(xiàn)在兩者預(yù)測值集成上，集成多任務(wù)預(yù)測值整體優(yōu)于單獨使用子任務(wù)預(yù)測值。對比不同隱單元數(shù)的模型表現(xiàn)，隨著模型規(guī)模擴大，多任務(wù)相比單任務(wù)學(xué)習(xí)的優(yōu)勢體現(xiàn)更充分，多任務(wù)相互兼容或需要以相對大的網(wǎng)絡(luò)規(guī)模為前提。多任務(wù)學(xué)習(xí)中10日和20日收益率預(yù)測兩個子任務(wù)協(xié)同訓(xùn)練，兩者相關(guān)性較單任務(wù)學(xué)習(xí)更高。
　　風(fēng)險提示：人工智能挖掘市場規(guī)律是對歷史的總結(jié)，市場規(guī)律在未來可能失效。人工智能技術(shù)存在過擬合風(fēng)險。深度學(xué)習(xí)模型受隨機數(shù)影響較大。本文測試的選股模型調(diào)倉頻率較高，假定以vwap價格成交，忽略其他交易層面因素影響。