>> 平安證券-計算機行業(yè)點評：《生成式人工智能服務(wù)管理辦法》征求意見，AIGC規(guī)范發(fā)展可期-230411
| 上傳日期： |
2023/4/11 |
大?。?/td>
| 485KB |
| 格式： |
pdf 共3頁 |
來源： |
平安證券 |
| 評級： |
強于大市 |
作者： |
閆磊,付強,徐勇 |
| 行業(yè)名稱： |
計算機 |
| 下載權(quán)限： |
此報告為加密報告，僅限高級會員查看 |
|
|
事項：
4月11日，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法(征求意見稿)》（簡稱《意見稿》，下同），現(xiàn)向社會公開征求意見。
平安觀點：
新技術(shù)的“兩面性”開始凸顯，《意見稿》出臺恰逢其時。2023年以來，以ChatGPT為代表的生成式人工智能快速發(fā)展，其智能化水平實現(xiàn)了“革命性”提升，具備了向各垂直行業(yè)應(yīng)用的潛力，有希望成為未來的生產(chǎn)力生成工具。但是，生成式人工智能快速發(fā)展，也帶來了諸多信息安全方面的風(fēng)險。一方面，信息泄露風(fēng)險，大量的敏感數(shù)據(jù)和AI交互之后，可能會被應(yīng)用于迭代訓(xùn)練，造成敏感信息的泄露，尤其是國家、機構(gòu)和個人信息，都面臨著潛在風(fēng)險；另一方面，AIGC被惡意應(yīng)用的風(fēng)險也在上升，可能被應(yīng)用于惡意代碼生成，發(fā)展智能化網(wǎng)絡(luò)攻擊武器，加大了網(wǎng)絡(luò)安全防護難度。此外，由于大模型基于概率統(tǒng)計原理發(fā)展而來，其訓(xùn)練、調(diào)優(yōu)、內(nèi)容生成等環(huán)節(jié)的可靠性還需要持續(xù)觀察，其大范圍應(yīng)用可能帶來嚴(yán)重的社會問題。我們認為，《意見稿》的及時出臺，恰在國內(nèi)AIGC發(fā)展的早期，初期就做好合規(guī)工作，可以為AIGC的后續(xù)穩(wěn)健發(fā)展保駕護航。
《意見稿》對生成內(nèi)容、主體責(zé)任、數(shù)據(jù)源和數(shù)據(jù)處理等方面均做出了規(guī)定。1）內(nèi)容方面：要求不得危害國家和社會，傳遞虛假、造謠和有害信息；在算法設(shè)計、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，不得出現(xiàn)歧視；尊重知識產(chǎn)權(quán)，保證生成內(nèi)容的準(zhǔn)確性；不得侵犯他人的合法權(quán)益。2）明確主體責(zé)任：利用生成式人工智能產(chǎn)品提供服務(wù)的組織和個人，承擔(dān)內(nèi)容生產(chǎn)者責(zé)任，履行信息保護的義務(wù)。3）數(shù)據(jù)源：要求合法、不侵權(quán)，個人信息使用需要得到個人信息主體授權(quán)；人工標(biāo)注要核驗以確保標(biāo)注內(nèi)容的準(zhǔn)確性。4）數(shù)據(jù)處理：提供者在提供服務(wù)過程中，對用戶的輸入信息和使用記錄承擔(dān)保護義務(wù)；不得生成歧視性、侵權(quán)內(nèi)容，保證服務(wù)的持續(xù)運營；制止用戶違規(guī)使用生成式AI的功能。
新技術(shù)發(fā)展和監(jiān)管合規(guī)是相輔相成的關(guān)系。近年來，移動互聯(lián)網(wǎng)、云計算、大數(shù)據(jù)、區(qū)塊鏈等技術(shù)快速涌現(xiàn)，而且都實現(xiàn)了有序、蓬勃的發(fā)展，背后離不開監(jiān)管在網(wǎng)絡(luò)安全機制體制建設(shè)上的完善，以及產(chǎn)業(yè)政策引導(dǎo)，真正實現(xiàn)了“技術(shù)向善”。同時，監(jiān)管政策也正在積極適應(yīng)信息技術(shù)的革新。尤其AIGC面世以來，監(jiān)管機構(gòu)對數(shù)據(jù)處理主體、數(shù)據(jù)處理過程以及伴隨的國家安全和信息安全的認識也在逐步清晰。我們預(yù)計，隨著更多AIGC技術(shù)的應(yīng)用落地，一些潛在的風(fēng)險將更多的被認識和暴露，監(jiān)管側(cè)的監(jiān)管措施也會更“對癥”，《意見稿》只是第一步。
投資建議：監(jiān)管政策的出臺，對AIGC本身的成長以及相關(guān)安全產(chǎn)業(yè)的培育都是有積極意義的。AIGC方面，國內(nèi)龍頭科技企業(yè)均在考慮或已經(jīng)推出大模型，算法、算力和應(yīng)用均將受益，推薦科大訊飛、金山辦公、浪潮信息、紫光股份、中科曙光、海光信息、龍芯中科，關(guān)注景嘉微和寒武紀(jì)。安全方面，監(jiān)管趨嚴(yán)，AIGC服務(wù)提供商在信息安全尤其數(shù)據(jù)安全領(lǐng)域的投入將加大，國內(nèi)安全廠商在AI安全領(lǐng)域的研發(fā)投入也在加大，強烈推薦啟明星辰，推薦深信服、安恒信息和綠盟科技。
風(fēng)險提示：1）合規(guī)風(fēng)險上升。部分國家對ChatGPT較為嚴(yán)格，應(yīng)用落地出現(xiàn)困難，如果后續(xù)國內(nèi)采取類似措施，AIGC行業(yè)國內(nèi)應(yīng)用將存在較大挑戰(zhàn)。2）國內(nèi)大模型發(fā)展可能不及預(yù)期。雖然龍頭企業(yè)持續(xù)在推出或規(guī)劃推出大模型產(chǎn)品，但大規(guī)模應(yīng)用落地還需要市場檢驗。3）供應(yīng)鏈風(fēng)險可能上升。AIGC在算力領(lǐng)域?qū)Ｍ夤?yīng)商依賴比較嚴(yán)重，國產(chǎn)替代還需要時間，如果海外限制趨嚴(yán)，國內(nèi)AIGC發(fā)展可能遭到遲滯。
|
|
