>> 中信期貨-商品量化專題報告:時序預測系列(二),如何利用Transformer~based模型對價格進行“天氣預報”-230411
| 上傳日期: |
2023/4/11 |
大?。?/td>
| 2342KB |
| 格式: |
pdf 共31頁 |
來源: |
中信期貨 |
| 評級: |
-- |
作者: |
蔣可欣 |
| 下載權限: |
無限制-登錄即可下載 |
|
|
在上一篇報告中,介紹了如何利用RNN系列算法對價格進行單元單步預測,本文圍繞多元長序列預測展開,嘗試實現(xiàn)類似于天氣預報的預測效果。RNN系列算法具有較強長期依賴性不適用于長序列預測,因此本文選擇具有超強信息提取能力的Transformer模型為落腳點展開討論。然而由于Transformer模型存在過高計算復雜度這一瓶頸,因此本文從近兩年頂會論文中挑選出三個基于Transformer的改良模型(Informer、Autoformer和FEDformer)分別進行了介紹和測試對比。 為測試模型的有效性和泛化能力,本文在CU、IF和T三個期貨品種的主力合約上進行了測試。在測試中分別利用過去20/40/60個交易日的交易數(shù)據(jù)(開盤價、最低價、最高價、成交量和收盤價)對三個合約接下來5/10/20/40/60個交易日的收盤價進行預測。經(jīng)預測發(fā)現(xiàn),F(xiàn)EDformer模型的預測結果幾乎在所有情況中都是最優(yōu)的,MSE和MAE最低達到0.028和0.129,價格時序信噪比較低,利用傅里葉變換將價格從時域轉換到頻域進行預測不僅能更好地捕捉全局信息,還能過濾掉信號中的噪音。同時,使用小波增強模塊能捕捉到頻率出現(xiàn)的時間信息,再次加強FEDformer模型對短序列的預測能力 此外,我們還發(fā)現(xiàn)在輸入信息和輸出信息較短的情況下,過高計算復雜度對Transformer模型的負面影響并不大,在很多測試中,Transformer的預測精度甚至高于Autoformer和Informer模型,但在穩(wěn)定性和普適性上還是遜于FEDformer模型。 風險提示:本報告中所涉及的算法和模型應用僅為回溯舉例,并不構成推薦建議。
|
|