>> 國盛證券-計算機行業(yè)點評：AIGC監(jiān)管推進，加速產業(yè)規(guī)范健康發(fā)展-230412
| 上傳日期： |
2023/4/12 |
大?。?/td>
| 296KB |
| 格式： |
pdf 共2頁 |
來源： |
國盛證券 |
| 評級： |
增持 |
作者： |
劉高暢 |
| 行業(yè)名稱： |
計算機 |
| 下載權限： |
無限制-登錄即可下載 |
|
|
事件：2023年4月11日，國家互聯(lián)網信息辦公室發(fā)布《生成式人工智能服務管理辦法（征求意見稿）》（后稱“辦法”），對生成式AI的生成內容、主體責任、數(shù)據使用等提供管理方法，實現(xiàn)了監(jiān)管與技術發(fā)展和應用態(tài)勢的同步推動。
強調信息與數(shù)據安全、生成內容合規(guī)等，促進產業(yè)規(guī)范健康發(fā)展。辦法強調：1）生成內容或服務應遵守法律法規(guī)，尊重社會公德、公序良俗；2）提供者承擔產品生成內容生產者責任，涉及個人信息則需依法履行個人信息保護義務。3）提供者對預訓練數(shù)據、優(yōu)化訓練數(shù)據來源的合法性負責。4）提供者應依法要求用戶提供真實身份信息，且需對用戶輸入信息和使用記錄承擔保護義務。5）提供者應按《互聯(lián)網信息服務深度合成管理規(guī)定》對生成的圖片、視頻等進行標識。6）違反規(guī)定的，按相關法律、行政法規(guī)予以處罰。法律、行政法規(guī)沒有規(guī)定的，由網信部門等依據職責給予警告、通報批評，責令限期改正；拒不改正或者情節(jié)嚴重的，責令暫?；蚪K止其利用生成式人工智能提供服務，并處1萬元以上10萬元以下罰款。構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。
AI廠商可通過多種途徑實現(xiàn)安全與合規(guī)要求。AI廠商可通過下列途徑保障AI安全性：1）首先要保障數(shù)據隱私，包括訓練數(shù)據來源應公開合法，使用下游應用提供的數(shù)據做微調時應限定數(shù)據使用范圍。2）通過人類反饋強化學習等手段讓AI與人類價值觀對齊，遵循人類意圖。3）還可向用戶提供內容審查工具如OpenAI的moderation endpoint等，幫助用戶判斷內容是否違規(guī)。
技術手段反制AI濫用，保障數(shù)據隱私。監(jiān)管與審核需要安全技術保障：AIGC的發(fā)展可能帶來大量惡意生成的虛假信息，需要類似換臉甄別的技術來鑒別圖像等信息是否由AI生成；在數(shù)據隱私方面，隱私計算可在不暴露數(shù)據的情況下進行計算和分析，以實現(xiàn)數(shù)據隱私的保護。我們認為，在人工智能帶來巨大想象空間的同時，安全問題值得進一步關注，看好AI安全行業(yè)的發(fā)展?jié)摿Α?br> 建議關注：電科網安、人民網、安恒信息、奇安信、深信服、美亞柏科、啟明星辰、格爾軟件。
風險提示：AI技術迭代不及預期；經濟下行超預期；行業(yè)競爭加劇。
|
|
