>> 國盛證券-計算機行業(yè)：真正的AI安全如何實現(xiàn)？-230407
| 上傳日期： |
2023/4/7 |
大?。?/td>
| 939KB |
| 格式： |
pdf 共10頁 |
來源： |
國盛證券 |
| 評級： |
增持 |
作者： |
劉高暢 |
| 行業(yè)名稱： |
計算機 |
| 下載權(quán)限： |
無限制-登錄即可下載 |
|
|
OpenAI發(fā)文介紹AI安全方法。4月5日，OpenAI在官網(wǎng)發(fā)布《Ourapproach to AI safety》，介紹其在AI安全方面做的努力。主要內(nèi)容包括：1）嚴(yán)格的安全評估，GPT-4完成訓(xùn)練后，OpenAI花了6個多月來使其在公開發(fā)布之前更安全。2）從實際使用中學(xué)習(xí)并改進安全措施。3）保護兒童，設(shè)置年齡限制以及且禁止生成仇恨、騷擾、暴力或成人內(nèi)容等。4）尊重隱私，數(shù)據(jù)只用于訓(xùn)練。5）提高事實準(zhǔn)確性，GPT-4產(chǎn)生事實內(nèi)容的可能性比GPT-3.5高40%，但還要繼續(xù)降低錯誤可能性。6）AI安全需要持續(xù)的研究和參與，AI安全性的提高和能力提高應(yīng)該齊頭并進，并且還需要所有利益相關(guān)方廣泛的辯論、實驗和參與。
AI技術(shù)供應(yīng)商需自律肩負(fù)安全責(zé)任。借鑒OpenAI的做法，廠商可以通過下列途徑來保障AI安全性：首先要保障數(shù)據(jù)隱私，包括訓(xùn)練數(shù)據(jù)來源應(yīng)公開合法，使用下游應(yīng)用提供的數(shù)據(jù)做微調(diào)時應(yīng)協(xié)定數(shù)據(jù)使用范圍。通過人類反饋強化學(xué)習(xí)等手段讓AI與人類價值觀對齊，遵循人類意圖。還可以向用戶提供內(nèi)容審查工具如OpenAI的moderation endpoint等，幫助用戶判斷內(nèi)容是否違規(guī)。
外部政策監(jiān)管持續(xù)跟進。安全問題不能僅靠AI廠商自律解決，還需要外部力量監(jiān)督。全球AI監(jiān)管處于探索階段，歐盟、英國、美國相關(guān)法律法規(guī)與指導(dǎo)意見逐步推進，2022年9月，中國國家網(wǎng)信辦也修訂網(wǎng)安法，對嚴(yán)重的違法行為按照上限5000萬元，或者上一年度營業(yè)額5%罰款。人工智能趨勢不可逆轉(zhuǎn)，與科學(xué)技術(shù)的高速發(fā)展相比，現(xiàn)有法律和倫理仍處于不斷起步探索的階段。
技術(shù)手段反制AI濫用，保障數(shù)據(jù)隱私。監(jiān)管與審核需要安全技術(shù)保障：AIGC的發(fā)展可能帶來大量惡意生成的虛假信息，需要類似換臉甄別的技術(shù)來鑒別圖像等信息是否由AI生成；在數(shù)據(jù)隱私方面，隱私計算可以在不暴露數(shù)據(jù)的情況下進行計算和分析，以實現(xiàn)數(shù)據(jù)隱私的保護。我們認(rèn)為，在人工智能帶來巨大想象空間的同時，安全問題值得進一步關(guān)注，看好大模型及AI安全行業(yè)的發(fā)展?jié)摿Α?br> 建議關(guān)注：
大模型：360、科大訊飛、云從科技、昆侖萬維。
外部審核：電科網(wǎng)安、人民網(wǎng)、安恒信息、奇安信、深信服、美亞柏科、啟明星辰、格爾軟件。
風(fēng)險提示：AI技術(shù)迭代不及預(yù)期；經(jīng)濟下行超預(yù)期；行業(yè)競爭加劇。
|
|
