久久一日本道色综合久久_国产最爽的av片在线观看_精品成人Av一区二区三区_94久久国产乱子伦精品免费_国产三级网站在线观看_和女邻居做爰在线观看_wymfw最新免费_国产强奷在线免费阅读_95在线观看视频

報(bào)告摘要
　　生成式AI快速發(fā)展帶來更多潛在安全威脅
　　繼CHATGPT發(fā)布以來，百度“文心一言”、谷歌Bard、阿里“通義千問”陸續(xù)面世。CHATGPT從根據(jù)要求生成文本、圖片、視頻，優(yōu)化到能根據(jù)任務(wù)自主提出計(jì)劃并實(shí)施的AUTOGPT。亞馬遜推出Amazon Bedrock，意味著通過API (應(yīng)用程序編程接口)即可訪問來自AI21 Labs、Anthropic、Stability AI和亞馬遜的基礎(chǔ)模型，并由此構(gòu)建生成式AI驅(qū)動的應(yīng)用程序。生成式AI技術(shù)不斷進(jìn)步,可以適配行業(yè)細(xì)分應(yīng)用場景，賦能更多行業(yè)及企業(yè)降本增效，市場應(yīng)用前景廣闊。神經(jīng)網(wǎng)絡(luò)訓(xùn)練時使用的算法經(jīng)常涉及到隱私數(shù)據(jù)，許多情況下，來自公共監(jiān)控、人臉識別和指紋生物識別、以及財(cái)務(wù)和醫(yī)療應(yīng)用的大量訓(xùn)練數(shù)據(jù)集都是隱私的，包含個人可識別信息。攻擊者，無論是有組織的犯罪集團(tuán)還是商業(yè)競爭對手，很可能出于經(jīng)濟(jì)原因或其他利益原因來利用這些信息。此外，AI系統(tǒng)還面臨著被注入惡意發(fā)送的偽造數(shù)據(jù)、以破壞神經(jīng)網(wǎng)絡(luò)功能的風(fēng)險(xiǎn)(例如，因面部識別圖像的分類錯誤而導(dǎo)致攻擊者逃脫檢測)。生成式AI的潛在安全風(fēng)險(xiǎn)應(yīng)引起重視，安全保護(hù)需從概念生成階段即融入到產(chǎn)品之中，并貫穿產(chǎn)品的整個生命周期。
　　全球多個國家開始對生成式AI加強(qiáng)監(jiān)管
　　生成式AI持續(xù)快速發(fā)展的同時，在信息安全、數(shù)據(jù)合規(guī)、版權(quán)保護(hù)等方面也引發(fā)了社會的關(guān)注與熱議。美國商務(wù)部4月11日就人工智能問責(zé)措施正式公開征求意見，包括有潛在風(fēng)險(xiǎn)的新人工智能模型在發(fā)布前是否應(yīng)該通過認(rèn)證程序。英國政府于3月發(fā)布了第一份人工智能白皮書，概述了人工智能治理的5項(xiàng)原則。此外，3月底，意大利政府宣布禁止使用一款人工智能聊天機(jī)器人，并限制相關(guān)公司處理意大利用戶信息數(shù)據(jù)，同時對其隱私安全問題立案調(diào)查。加拿大廣播公司4月4日報(bào)道稱，加拿大聯(lián)邦隱私監(jiān)管機(jī)構(gòu)宣布，已對美國人工智能研究公司OpenAI展開調(diào)查，因該公司涉嫌“未經(jīng)同意收集、使用和披露個人信息”。生成式AI潛在安全威脅較多，如信息惡意獲取、纂改、偽造和亂用、數(shù)據(jù)泄漏等。安全保護(hù)在AI流程中不可或缺，強(qiáng)化AI監(jiān)管是大勢所趨。
　　生成式AI監(jiān)管意見稿發(fā)布，強(qiáng)監(jiān)管趨勢下網(wǎng)絡(luò)安全迎市場發(fā)展新契機(jī)
　　4月11日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見稿)》，向社會公開征求意見。該意見稿聚焦生成式人工智能，在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)、生成內(nèi)容、個人信息和隱私保護(hù)方面均做出了限制。意見稿第五條指出“利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個人，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任;涉及個人信息的,承擔(dān)個人信息處理者的法定責(zé)任，履行個人信息保護(hù)義務(wù)”，對人工智能產(chǎn)品使用過程中可能出現(xiàn)的問題的責(zé)任歸屬進(jìn)行了確定。新的監(jiān)管政策面對發(fā)展勢頭迅猛的生成式AI，在生成內(nèi)容、隱私保護(hù)、知識產(chǎn)權(quán)保護(hù)等方面都做出了限制。意見稿指出“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息”,“利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)按照《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》向國家網(wǎng)信部門申報(bào)安全評估”，為生成式人工智能的產(chǎn)品推出設(shè)立了門檻?！墩髑笠庖姼濉窂?qiáng)調(diào)了安全評估和算法備案的前提性和必要性;強(qiáng)調(diào)了確保數(shù)據(jù)安全和個人信息保護(hù)合規(guī)，尤其是隱私保護(hù);夯實(shí)了違規(guī)責(zé)任的處罰措施，包含追究刑事責(zé)任。
　　投資建議:生成式AI快速發(fā)展帶來更多潛在安全威脅，加強(qiáng)監(jiān)管是大勢所趨。網(wǎng)信辦發(fā)布生成式AI監(jiān)管意見稿，網(wǎng)絡(luò)安全市場迎來發(fā)展新契機(jī)。建議關(guān)注:奇安信、天融信、綠盟科技、啟明星辰、安恒信息、美亞柏科、三未信安。
　　風(fēng)險(xiǎn)提示:需求釋放不及預(yù)期;競爭加劇;技術(shù)進(jìn)展不及預(yù)期。