>> 中信證券-計(jì)算機(jī)行業(yè)信息安全專題7：關(guān)注生成式AI應(yīng)用帶來的安全需求-230407
| 上傳日期： |
2023/4/7 |
大小： |
423KB |
| 格式： |
pdf 共5頁 |
來源： |
中信證券 |
| 評(píng)級(jí)： |
強(qiáng)于大市 |
作者： |
楊澤原,丁奇,潘儒琛 |
| 行業(yè)名稱： |
計(jì)算機(jī) |
| 下載權(quán)限： |
此報(bào)告為加密報(bào)告 |
|
|
近期多國關(guān)注以ChatGPT為代表的生成式AI應(yīng)用的數(shù)據(jù)安全問題。針對(duì)大模型訓(xùn)練、調(diào)優(yōu)所使用數(shù)據(jù)的安全問題，我們認(rèn)為，應(yīng)結(jié)合數(shù)據(jù)采集、傳輸、存儲(chǔ)等全生命周期，通過加密、數(shù)據(jù)水印等技術(shù)手段保護(hù)用戶數(shù)據(jù)特別是隱私；針對(duì)大模型生成內(nèi)容的可靠性、使用方式，我們認(rèn)為，應(yīng)對(duì)AI生成內(nèi)容進(jìn)行標(biāo)記，同時(shí)對(duì)AI生成內(nèi)容的可靠性及傳播鏈路進(jìn)行把關(guān)。推薦數(shù)據(jù)安全解決方案提供廠商、內(nèi)容監(jiān)管能力提供廠商、密碼技術(shù)提供廠商。
▍ChatGPT快速出圈，多國開始關(guān)注生成式AI潛在數(shù)據(jù)安全問題。今年以來，以ChatGPT為代表的生成式AI應(yīng)用成為全球熱點(diǎn)，科技企業(yè)圍繞大模型正在展開競賽，但生成式AI所涉及的數(shù)據(jù)安全問題開始成為各國政府或隱私監(jiān)管機(jī)構(gòu)所關(guān)注的重點(diǎn)問題。梳理近期意大利、美國等國表態(tài)，我們認(rèn)為主要體現(xiàn)在兩方面：1）大模型訓(xùn)練、調(diào)優(yōu)所使用數(shù)據(jù)的安全問題。如意大利個(gè)人數(shù)據(jù)保護(hù)局因年齡審核、數(shù)據(jù)和隱私安全等問題，宣布限制ChatGPT運(yùn)營；加拿大聯(lián)邦隱私監(jiān)管機(jī)構(gòu)宣布，OpenAI涉嫌“未經(jīng)同意收集、使用和披露個(gè)人信息”。2）大模型生成內(nèi)容的可靠性、使用方式。如美國總統(tǒng)拜登近期與其科技顧問會(huì)面，討論人工智能對(duì)個(gè)人用戶、社會(huì)和國家安全帶來的風(fēng)險(xiǎn)和機(jī)遇。
▍ChatGPT疑似數(shù)據(jù)泄露事件多發(fā)，數(shù)據(jù)全生命周期保護(hù)重要性強(qiáng)化。根據(jù)韓國媒體《Economist》報(bào)道（轉(zhuǎn)引自澎湃新聞），近日三星電子的半導(dǎo)體暨裝置解決方案部門發(fā)生三起涉及ChatGPT誤用與濫用案例，包括“設(shè)備信息泄露”和“會(huì)議內(nèi)容泄露”；公司正在制定保護(hù)措施，防止通過ChatGPT發(fā)生信息泄露事件。此外，英國廣播電視公司報(bào)道稱，有ChatGPT用戶看到其他用戶的對(duì)話標(biāo)題。由于大模型在訓(xùn)練、調(diào)優(yōu)數(shù)據(jù)過程中涉及用戶數(shù)據(jù)調(diào)用，我們認(rèn)為，伴隨生成式AI技術(shù)熱潮掀起，在數(shù)據(jù)采集、傳輸、存儲(chǔ)、處理、共享、銷毀等數(shù)據(jù)生命周期各階段，通過加密、數(shù)據(jù)水印等技術(shù)手段保護(hù)用戶數(shù)據(jù)特別是隱私成為當(dāng)務(wù)之急。
▍AI生成內(nèi)容或涉及可靠性、使用方式等問題，內(nèi)容監(jiān)管逐步提上日程。由于大模型在生成內(nèi)容上的基于概率統(tǒng)計(jì)的原理，其內(nèi)容可靠性可能存在問題，如引用的客觀數(shù)據(jù)是否是最新且來源可靠的，AI生成的內(nèi)容也可能反映社會(huì)上的偏見或成見，或引發(fā)事件爭議。此外，AI生成內(nèi)容怎樣被合理使用也是近期的熱點(diǎn)。例如，由AI生成的新聞圖片出現(xiàn)在互聯(lián)網(wǎng)中，真假難辨，或引發(fā)傳播風(fēng)險(xiǎn)；歐洲刑警組織提示稱，ChatGPT可能被濫用于網(wǎng)絡(luò)釣魚、虛假信息和網(wǎng)絡(luò)犯罪。基于此，我們認(rèn)為，針對(duì)AI生成內(nèi)容的監(jiān)管應(yīng)逐步提上日程，具體包括對(duì)AI生成內(nèi)容的明確標(biāo)記或提示，對(duì)AI生成內(nèi)容可靠性的把關(guān)及其傳播鏈路的跟蹤等。
▍風(fēng)險(xiǎn)因素：AI生成內(nèi)容遭到濫用；網(wǎng)絡(luò)安全技術(shù)演進(jìn)不及預(yù)期；監(jiān)管政策落地進(jìn)度不及預(yù)期；市場競爭進(jìn)一步加劇。
▍投資策略：生成式AI帶動(dòng)外界對(duì)數(shù)據(jù)安全問題的關(guān)注，包括大模型訓(xùn)練、調(diào)優(yōu)所使用數(shù)據(jù)的安全問題，以及大模型生成內(nèi)容的可靠性、使用方式。近年來，我國數(shù)據(jù)安全政策體系逐步完善并開始落地執(zhí)行，基于安全與發(fā)展并重這一核心原則，我們預(yù)計(jì)大模型在國內(nèi)落地應(yīng)用，應(yīng)前置考慮數(shù)據(jù)安全技術(shù)儲(chǔ)備。推薦：1）數(shù)據(jù)安全解決方案提供廠商，包括奇安信、啟明星辰、安恒信息等；2）內(nèi)容監(jiān)管能力提供廠商，包括中新賽克、美亞柏科、恒為科技等；3）密碼技術(shù)提供廠商，包括信安世紀(jì)、三未信安、電科網(wǎng)安、格爾軟件等。
|
|
