AI時(shí)代開(kāi)啟 數(shù)字安全呼喚新范式

IDC數(shù)據(jù)顯示，2022年中國(guó)網(wǎng)絡(luò)安全軟件市場(chǎng)規(guī)模達(dá)39.2億美元，同比增長(zhǎng)12.5%。

　　12.5%

　　8月9日，以“安全即服務(wù) 開(kāi)啟人工智能時(shí)代數(shù)字安全新范式”為主題的“ISC 2023第十一屆互聯(lián)網(wǎng)安全大會(huì)”在北京開(kāi)幕。與會(huì)嘉賓表示，人工智能時(shí)代的數(shù)據(jù)安全問(wèn)題尤為突出，解決AI大模型安全問(wèn)題需要技術(shù)、監(jiān)管共同發(fā)力；應(yīng)前瞻布局人工智能與網(wǎng)絡(luò)安全技術(shù)融合創(chuàng)新，增強(qiáng)產(chǎn)業(yè)鏈、供應(yīng)鏈韌性和安全水平。

　　AI大模型安全成熱點(diǎn)

　　當(dāng)前，AI大模型安全問(wèn)題成為影響AI行業(yè)深入發(fā)展的熱點(diǎn)話題。中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局副局長(zhǎng)羅鋒盈表示，生成式人工智能大力推動(dòng)我國(guó)經(jīng)濟(jì)社會(huì)發(fā)展，同時(shí)存在生成信息準(zhǔn)確性、真實(shí)性等亟需解決的問(wèn)題。中國(guó)工程院院士鄔江興表示，AI大模型存在“三不可”內(nèi)生安全個(gè)性問(wèn)題，以及漏洞、后門(mén)等內(nèi)生安全共性問(wèn)題。

　　“人工智能的應(yīng)用系統(tǒng)由基礎(chǔ)軟硬件、數(shù)據(jù)系統(tǒng)和人工智能算法、模型和上層應(yīng)用組成，自身存在內(nèi)生安全問(wèn)題?！编w江興介紹，深度學(xué)習(xí)AI模型存在“三不可”內(nèi)生安全個(gè)性問(wèn)題，這也是AI技術(shù)的基因缺陷。一是神經(jīng)網(wǎng)絡(luò)“黑箱”特點(diǎn)導(dǎo)致人工智能存在不可解釋性；二是深度學(xué)習(xí)對(duì)訓(xùn)練樣本過(guò)度依賴(lài)，導(dǎo)致學(xué)習(xí)結(jié)果的不可判定性；三是神經(jīng)網(wǎng)絡(luò)前向推進(jìn)過(guò)程的不可逆，導(dǎo)致結(jié)果不可推論性。

　　此外，內(nèi)生安全共性問(wèn)題不可忽視?！癆I應(yīng)用系統(tǒng)硬件環(huán)境總要放在服務(wù)器上，有操作系統(tǒng)、CPU、存儲(chǔ)器等，這些數(shù)據(jù)軟硬件環(huán)節(jié)存在漏洞、后門(mén)等內(nèi)生安全共性問(wèn)題。內(nèi)生安全個(gè)性和共性問(wèn)題往往是交織存在的，使得AI應(yīng)用系統(tǒng)的安全問(wèn)題變得極其復(fù)雜，給政府、企業(yè)使用和維護(hù)應(yīng)用帶來(lái)前所未有的挑戰(zhàn)?！编w江興表示。

　　“人工智能時(shí)代的數(shù)據(jù)安全問(wèn)題尤為突出?！敝袊?guó)工程院院士、ISC名譽(yù)主席鄔賀銓認(rèn)為，大模型訓(xùn)練依托海量數(shù)據(jù)，開(kāi)源數(shù)據(jù)集、互聯(lián)網(wǎng)數(shù)據(jù)容易得到，但數(shù)據(jù)集的質(zhì)量值得推敲。如果拿這些數(shù)據(jù)來(lái)訓(xùn)練，內(nèi)容風(fēng)險(xiǎn)程度可想而知。如果用企業(yè)自有數(shù)據(jù)進(jìn)行大模型訓(xùn)練，就要考慮數(shù)據(jù)泄露的安全風(fēng)險(xiǎn)。

　　羅鋒盈表示，要把數(shù)據(jù)資源真正轉(zhuǎn)換成數(shù)字經(jīng)濟(jì)的發(fā)展動(dòng)力，不僅要看地區(qū)總量上存儲(chǔ)的數(shù)據(jù)規(guī)模有多大，還要看真正可提供、可共享給企業(yè)、機(jī)構(gòu)、個(gè)人的數(shù)據(jù)有多少。

　　鄔賀銓稱(chēng)，當(dāng)前AI安全評(píng)估工作主要由企業(yè)自己負(fù)責(zé)，不少互聯(lián)網(wǎng)公司有安全評(píng)估資質(zhì)，國(guó)家也有安全評(píng)估中心，但仍有很多安全問(wèn)題沒(méi)有被評(píng)估出來(lái)?！叭斯ぶ悄芗夹g(shù)發(fā)展和它帶來(lái)的安全問(wèn)題，我們認(rèn)識(shí)還不夠?！编w賀銓坦言。

　　堅(jiān)持協(xié)同創(chuàng)新

　　業(yè)內(nèi)人士表示，AI大模型安全問(wèn)題需要企業(yè)、監(jiān)管部門(mén)共同發(fā)力。

　　從技術(shù)解決辦法來(lái)看，網(wǎng)絡(luò)安全企業(yè)、參與AI大模型技術(shù)研發(fā)和產(chǎn)品開(kāi)發(fā)的企業(yè)是解決安全問(wèn)題的主力軍。

　　“AI大模型安全超越許多傳統(tǒng)安全經(jīng)驗(yàn)，不能用解決網(wǎng)絡(luò)安全的思想解決數(shù)據(jù)安全問(wèn)題，不能簡(jiǎn)單利用解決數(shù)據(jù)安全的思路解決人工智能安全?！?60集團(tuán)創(chuàng)始人周鴻祎表示，解決AI大模型安全問(wèn)題需要技術(shù)跨界，讓具備AI大模型研發(fā)能力和網(wǎng)絡(luò)安全建設(shè)能力的企業(yè)在其中發(fā)揮作用。越了解AI大模型工作原理，越有能力解決它的安全風(fēng)險(xiǎn)。

　　鄔江興提出了一個(gè)新思路，即利用內(nèi)生安全理論中的動(dòng)態(tài)異構(gòu)冗余（DHR）構(gòu)造方法，賦能AI應(yīng)用系統(tǒng)內(nèi)生安全實(shí)驗(yàn)。

　　鄔江興表示，紫金山實(shí)驗(yàn)室將在今年四季度舉辦第六屆國(guó)際精英挑戰(zhàn)賽，并新設(shè)AI應(yīng)用系統(tǒng)安全賽道，這是世界上首次針對(duì)AI應(yīng)用系統(tǒng)內(nèi)生安全問(wèn)題進(jìn)行人機(jī)對(duì)抗的比賽。他呼吁更多的專(zhuān)家學(xué)者和企業(yè)界人士參與到AI應(yīng)用系統(tǒng)內(nèi)生安全研究和實(shí)踐中來(lái)，共同推動(dòng)AI時(shí)代的網(wǎng)絡(luò)空間安全發(fā)展。

　　安全監(jiān)管方面，羅鋒盈表示，在AI大模型安全問(wèn)題受到廣泛重視的背景下，中央網(wǎng)信辦會(huì)同相關(guān)部門(mén)起草并發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》，辦法將于8月15日正式施行。

　　“在起草過(guò)程中，我們始終把推進(jìn)人工智能等新技術(shù)發(fā)展應(yīng)用作為工作的重要出發(fā)點(diǎn)和落腳點(diǎn)，支持和促進(jìn)人工智能產(chǎn)業(yè)發(fā)展。將規(guī)范的范圍限制在生成式人工智能，自動(dòng)駕駛等其他人工智能應(yīng)用不受影響，并且只規(guī)范向公眾提供服務(wù)的情形，企業(yè)、科研機(jī)構(gòu)、高校等開(kāi)展科研攻關(guān)不在監(jiān)管之列?！绷_鋒盈稱(chēng)。

　　中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)理事長(zhǎng)尚冰建議，解決生成式人工智能帶來(lái)的網(wǎng)絡(luò)安全新挑戰(zhàn)，要堅(jiān)持協(xié)同創(chuàng)新?；ヂ?lián)網(wǎng)龍頭企業(yè)要積極開(kāi)展原創(chuàng)性、引領(lǐng)性、基礎(chǔ)性安全技術(shù)攻關(guān)，延伸技術(shù)領(lǐng)域拓展產(chǎn)品服務(wù)范圍，完善產(chǎn)品矩陣?；ヂ?lián)網(wǎng)初創(chuàng)企業(yè)要發(fā)揮快速靈活、資源集中的特點(diǎn)，以創(chuàng)新技術(shù)和產(chǎn)品切入細(xì)分領(lǐng)域，推動(dòng)產(chǎn)品服務(wù)和行業(yè)發(fā)展緊密結(jié)合。堅(jiān)持合規(guī)發(fā)展，提升安全治理水平?；ヂ?lián)網(wǎng)企業(yè)應(yīng)嚴(yán)格落實(shí)網(wǎng)絡(luò)安全相關(guān)法律法規(guī)和政策文件要求，加強(qiáng)自身安全能力建設(shè)，構(gòu)建全流程、全環(huán)節(jié)隱私合規(guī)體系。

　　網(wǎng)絡(luò)安全市場(chǎng)逐步擴(kuò)容

　　中國(guó)網(wǎng)絡(luò)安全市場(chǎng)規(guī)模穩(wěn)步擴(kuò)大。IDC數(shù)據(jù)顯示，2022年中國(guó)網(wǎng)絡(luò)安全軟件市場(chǎng)規(guī)模達(dá)39.2億美元，同比增長(zhǎng)12.5%。

　　尚冰表示，我國(guó)網(wǎng)絡(luò)安全產(chǎn)業(yè)發(fā)展動(dòng)能強(qiáng)勁。數(shù)據(jù)顯示，2022年，我國(guó)網(wǎng)絡(luò)安全產(chǎn)業(yè)規(guī)模近2200億元。網(wǎng)絡(luò)安全企業(yè)主體日益壯大。截至2022年底，中國(guó)已有21家網(wǎng)絡(luò)安全企業(yè)上市，越來(lái)越多的互聯(lián)網(wǎng)企業(yè)、設(shè)備廠商、電信運(yùn)營(yíng)商成為網(wǎng)絡(luò)安全領(lǐng)域新生力量。

　　AI大模型浪潮為網(wǎng)絡(luò)安全產(chǎn)業(yè)帶來(lái)發(fā)展新機(jī)遇。據(jù)中國(guó)證券報(bào)記者統(tǒng)計(jì)，360集團(tuán)、安恒信息、綠盟科技、啟明星辰、中國(guó)移動(dòng)等A股上市公司，阿里巴巴、騰訊、百度等互聯(lián)網(wǎng)企業(yè)深度參與AI安全市場(chǎng)。

　　同時(shí)，AI大模型也為網(wǎng)絡(luò)安全產(chǎn)業(yè)發(fā)展賦能。周鴻祎表示，360集團(tuán)正在研發(fā)安全大模型。360有全球最大的網(wǎng)絡(luò)安全攻擊樣本庫(kù)和攻擊過(guò)程全記錄知識(shí)庫(kù)，通過(guò)訓(xùn)練安全知識(shí)集，360旨在打造“安全萬(wàn)事通”和安全垂直領(lǐng)域?qū)＜摇！爱?dāng)系統(tǒng)遇到攻擊報(bào)警時(shí)，不再由人做判斷，而是由大模型來(lái)判斷這是一次攻擊還是誤報(bào)。目前，判斷準(zhǔn)確率已經(jīng)提升到超96%，待超99%的時(shí)候便可投入使用。”

　　工業(yè)和信息化部網(wǎng)絡(luò)安全管理局局長(zhǎng)隋靜表示，創(chuàng)新是網(wǎng)絡(luò)安全保障能力提升的根本動(dòng)力。要健全科技創(chuàng)新體系，強(qiáng)化企業(yè)創(chuàng)新主體地位，全面激發(fā)企業(yè)創(chuàng)新活力。前瞻布局人工智能與網(wǎng)絡(luò)安全技術(shù)融合創(chuàng)新，增強(qiáng)產(chǎn)業(yè)鏈、供應(yīng)鏈韌性和安全水平。要完善支持產(chǎn)業(yè)發(fā)展的政策措施，引導(dǎo)供給不斷提升，需求充分釋放，構(gòu)建供需雙向發(fā)力，產(chǎn)業(yè)鏈協(xié)同聯(lián)動(dòng)的高水平動(dòng)態(tài)平衡。要?jiǎng)?chuàng)新網(wǎng)絡(luò)安全服務(wù)模式，引導(dǎo)資本加大對(duì)產(chǎn)業(yè)的支持力度，加快培育一批網(wǎng)絡(luò)安全“專(zhuān)精特新”企業(yè)。要充分發(fā)揮聯(lián)盟協(xié)會(huì)紐帶作用，培育壯大產(chǎn)業(yè)生態(tài)，推動(dòng)網(wǎng)絡(luò)安全產(chǎn)業(yè)高質(zhì)量發(fā)展。

● 本報(bào)記者 彭思雨