>> 長(zhǎng)江證券-軟件與服務(wù)行業(yè)大模型技術(shù)探索系列二：微調(diào)調(diào)參或成行業(yè)應(yīng)用“孵化器”，如何落地最后一公里？-230808
| 上傳日期： |
2023/8/9 |
大?。?/td>
| 2368KB |
| 格式： |
pdf 共16頁(yè) |
來源： |
長(zhǎng)江證券 |
| 評(píng)級(jí)： |
看好 |
作者： |
宗建樹 |
| 下載權(quán)限： |
此報(bào)告為加密報(bào)告，僅限高級(jí)會(huì)員查看 |
|
|
大模型時(shí)代，調(diào)參為王
調(diào)參是指通過輸入數(shù)據(jù)集對(duì)訓(xùn)練模型進(jìn)行優(yōu)化，達(dá)到提升模型效果的方法。預(yù)訓(xùn)練和微調(diào)兩大階段都涉及到參數(shù)的調(diào)整，大語言模型訓(xùn)練范式為“兩步走戰(zhàn)略”：先通過預(yù)訓(xùn)練獲得通用大模型能力，再經(jīng)過模型微調(diào)掌握專項(xiàng)任務(wù)或細(xì)分領(lǐng)域的能力，通過對(duì)參數(shù)的不斷調(diào)整，使其抓取文本重點(diǎn)、理解文本、輸出文本可以更加精確。同時(shí)兩者也存在根本上的差異：預(yù)訓(xùn)練階段，核心是找到最優(yōu)的數(shù)據(jù)配比與最優(yōu)的架構(gòu)設(shè)計(jì)從而得到最有效的參數(shù)數(shù)值，通過向模型喂入大量的無標(biāo)注數(shù)據(jù)進(jìn)行無監(jiān)督訓(xùn)練，大力出奇跡，使模型涌現(xiàn)出更好的基礎(chǔ)能力，使其在不同任務(wù)上都獲得較好效果；而模型微調(diào)階段，是在預(yù)訓(xùn)練模型參數(shù)的基礎(chǔ)上，通過提供少量高質(zhì)量、有標(biāo)注的數(shù)據(jù)進(jìn)行有監(jiān)督訓(xùn)練，微調(diào)的核心是找到調(diào)整哪些參數(shù)、如何調(diào)整能夠使得模型呈現(xiàn)在特定領(lǐng)域更加優(yōu)異的表現(xiàn)。
大模型調(diào)參技術(shù)壁壘有望降低，“強(qiáng)力基座+專向調(diào)參”或?qū)⒊蔀樯虡I(yè)范式
高效微調(diào)工具有望打破模型微調(diào)過程中的調(diào)參困境，加速中小型應(yīng)用廠商商業(yè)化落地。當(dāng)前時(shí)點(diǎn)，基座模型仍在逐步優(yōu)化的階段，為了實(shí)現(xiàn)模型整體的優(yōu)化，互聯(lián)網(wǎng)巨頭廠商及行業(yè)龍頭廠商仍舊優(yōu)先選擇全參數(shù)微調(diào)的方式來力求模型的高質(zhì)量表現(xiàn)。但由于全參微調(diào)成本高昂，調(diào)參時(shí)間單次耗時(shí)較長(zhǎng)，以及技術(shù)壁壘較高，使其成為中小型廠商應(yīng)用進(jìn)一步鋪開的限制因素，使其無法通過“強(qiáng)力基座+全參數(shù)微調(diào)”實(shí)現(xiàn)應(yīng)用高效高質(zhì)量落地。隨著行業(yè)逐步發(fā)展，行業(yè)巨頭逐步摸索出調(diào)參更優(yōu)范式，逐漸涌現(xiàn)以LoRA為代表的高效微調(diào)工具，通過微調(diào)少量額外參數(shù)即可獲得強(qiáng)大的性能，實(shí)現(xiàn)了低成本高性能的有效平衡。伴隨高效微調(diào)工具應(yīng)用范圍的逐漸擴(kuò)大與優(yōu)化，其有望打破大模型在中小型應(yīng)用廠商落地的困境，進(jìn)一步驅(qū)動(dòng)應(yīng)用擴(kuò)容。
如何做好調(diào)參？算力決定下限，數(shù)據(jù)拉高上限
微調(diào)過程中的調(diào)參是一項(xiàng)工程性項(xiàng)目。擁有高算力的廠商能夠在更短的時(shí)間內(nèi)通過經(jīng)驗(yàn)的不斷積累得到調(diào)參的合理配方，以更好地調(diào)參能力來彌補(bǔ)由于數(shù)據(jù)質(zhì)量或者其他因素造成的對(duì)模型性能的影響。同時(shí)可以繼續(xù)加碼模型的參數(shù)量規(guī)模以爭(zhēng)取實(shí)現(xiàn)模型能夠達(dá)到更好的質(zhì)變效果。換句話說，當(dāng)調(diào)參還沒有完全形成高效可用的范式工具時(shí)，大廠商會(huì)由于資源優(yōu)勢(shì)、技術(shù)優(yōu)勢(shì)具備更強(qiáng)的護(hù)城河壁壘。但是當(dāng)調(diào)參具備范式，調(diào)參工具不斷優(yōu)化，真正開始得到有效應(yīng)用的時(shí)候，數(shù)據(jù)的稀缺性、數(shù)據(jù)質(zhì)量、數(shù)據(jù)配方才是最終決定模型性能天花板的核心競(jìng)爭(zhēng)力。對(duì)比國(guó)內(nèi)外大模型可以發(fā)現(xiàn)，在幾乎同等參數(shù)規(guī)模下，GPT-4以及GPT-3.5在大部分任務(wù)的表現(xiàn)上要優(yōu)于國(guó)內(nèi)諸多自研模型。其核心原因在于微調(diào)過程中如何調(diào)參的經(jīng)驗(yàn)值的差距，以及微調(diào)過程中使用數(shù)據(jù)的質(zhì)量和最優(yōu)配方的差距，因此算力在一定程度上決定著模型的下限，而數(shù)據(jù)仍是影響模型性能天花板的頂梁柱。
風(fēng)險(xiǎn)提示
1、AI技術(shù)發(fā)展不及預(yù)期；
2、下游應(yīng)用需求不及預(yù)期。
|
|
