>> 長江證券-信息技術行業(yè)：Databricks發(fā)布Dolly-2指令遵循模型，降低自主構(gòu)建小模型門檻-230417
| 上傳日期： |
2023/4/17 |
大小： |
976KB |
| 格式： |
pdf 共4頁 |
來源： |
長江證券 |
| 評級： |
看好 |
作者： |
宗建樹,余庚宗 |
| 下載權(quán)限： |
此報告為加密報告，僅限高級會員查看 |
|
|
事件描述
2023年4月12日，Databricks發(fā)布了120億參數(shù)的Dolly-2指令遵循模型，是業(yè)內(nèi)第一個開源的類InstructGPT模型。Dolly-2建立在2023年4月3日EleutherAI公司推出的Pythia大模型基礎上，并通過1.5萬條人工標注prompt對其進行了微調(diào)。Databricks開源了Dolly-2指令遵循模型，允許其被用于商業(yè)目的。因此Dolly-2模型可用于構(gòu)建商業(yè)應用程序，使用者無需支付API訪問費用或與大模型開發(fā)公司共享數(shù)據(jù)。
事件評論
當前指令遵循模型的使用權(quán)受到了限制。訓練大語言模型需要通過人工反饋強化學習（RLHF）來提升性能，而RLHF需要用到類InstructGPT模型來生成足夠的調(diào)參數(shù)據(jù)。在當前階段，所有的類InstructGPT指令遵循模型（Alpaca、Koala、GPT4All、Vicuna）都只能用于學術領域，禁止商業(yè)使用。所以，在人工反饋強化學習階段，大模型廠商必須要訓練出自己的InstructGPT。
Dolly-2打破了指令遵循模型不可用于商業(yè)限制。Databricks將Dolly-2開源，允許用戶將Dolly-2作為類InstructGPT模型，構(gòu)建商業(yè)應用程序，無需支付API訪問費用或與第三方共享數(shù)據(jù)。這意味著Dolly-2打破了指令遵循模型的限制，用戶通過Dolly-2完成RLHF調(diào)參步驟。
Databricks也開放了Dolly-2的調(diào)參數(shù)據(jù)。Dolly-2的1.5萬條調(diào)參數(shù)據(jù)來源于Databricks公司約5000名員工的人工標注，調(diào)參數(shù)據(jù)完全來自原創(chuàng)。數(shù)據(jù)包含了從頭腦風暴和內(nèi)容生成到信息提取和總結(jié)等多種任務形式。許可條款允許出于任何目的使用、修改和擴展，包括學術或商業(yè)應用。
Dolly-2降低了模型調(diào)參的難度，有望加速自主小模型的構(gòu)建。對于正在研發(fā)垂類小模型的行業(yè)應用公司而言，在開源預訓練大模型的基礎上，用公司自身的業(yè)務數(shù)據(jù)調(diào)參是一條較好的路徑。但RLHF調(diào)參步驟中，訓練指令遵循模型的難度較高，也無法通過接入現(xiàn)有指令遵循模型來完成調(diào)參。Dolly-2模型的發(fā)布降低了這一難度，有望降低行業(yè)應用公司訓練垂類模型的門檻，有望加速自主小模型的構(gòu)建。
風險提示
1、大模型技術推進不及預期；
2、大模型商業(yè)化落地的過程存在風險。
|
|
