要更加重視人工智能安全防御技術(shù)創(chuàng)新 筑牢智能時代網(wǎng)絡(luò)安全基石

　　記者從在北京召開的2024全球數(shù)字經(jīng)濟大會數(shù)字安全高層論壇暨北京網(wǎng)絡(luò)安全大會產(chǎn)業(yè)峰會（以下簡稱“BCS產(chǎn)業(yè)峰會”）上獲悉，人工智能極大提升了工作學(xué)習(xí)效率，但也帶來風險和監(jiān)管問題。人工智能和機器學(xué)習(xí)越來越多地應(yīng)用于威脅檢測、自動化響應(yīng)、預(yù)測分析等網(wǎng)絡(luò)安全防護工作。要更加重視人工智能安全防御技術(shù)創(chuàng)新，筑牢智能時代網(wǎng)絡(luò)安全基石。

　　聯(lián)合國副秘書長李軍華

　　聯(lián)合國副秘書長李軍華在開幕致辭中說，“不斷發(fā)展的數(shù)字世界是一個矛盾體?！卑査颉鯛枴だ章榷辔粚＜椰F(xiàn)場分享了智能時代網(wǎng)絡(luò)安全威脅的種類以及典型的網(wǎng)絡(luò)攻擊方式，介紹了當前利用人工智能助力網(wǎng)絡(luò)安全躍升的前沿研究和實踐，為構(gòu)建更加安全穩(wěn)固的數(shù)字安全體系建言獻策。

　　開幕式上，全國工商聯(lián)網(wǎng)絡(luò)與數(shù)據(jù)安全委員會召集奇安信集團、聯(lián)想集團、中科曙光、中興通訊、中國軟件、長城科技、神州信息、東軟集團、東華軟件、瀾起科技、軟通動力、中國電子云等60家數(shù)字經(jīng)濟產(chǎn)業(yè)鏈領(lǐng)軍企業(yè)，共同發(fā)起《打造“人工智能+安全”新質(zhì)生產(chǎn)力》倡議，呼吁社會各界攜手合作，凝聚各方智慧和力量，推動人工智能與安全的深度融合，為中國數(shù)字經(jīng)濟保駕護航。
　　AI助力實現(xiàn)四大躍升
　　2024年政府工作報告明確，開展“人工智能+”行動。在BCS產(chǎn)業(yè)峰會上，演講嘉賓們認為，人工智能有利于筑牢可信可控的數(shù)字安全屏障，至少能夠助力網(wǎng)絡(luò)安全實現(xiàn)四大能力躍升。
　　第一，網(wǎng)絡(luò)威脅發(fā)現(xiàn)能力躍升。通過應(yīng)用人工智能，可以提升威脅判定的準確度，從海量噪聲中快速、準確地洞察和判定真正的風險。據(jù)吳云坤透露，1個安全大模型處理安全告警的能力相當于50～60個網(wǎng)絡(luò)安全工程人員。
　　利用大模型進行威脅研判已投入多個應(yīng)用場景。據(jù)苗守野透露，中國聯(lián)通基于元景大模型體系，實現(xiàn)檢測+分析+運營的端到端網(wǎng)絡(luò)安全能力智能化升級，大模型智能研判平均時間達到秒級，研判準確性達到95%以上，有效助力基礎(chǔ)網(wǎng)絡(luò)安全底座的智能化變革。

　　中國聯(lián)通集團網(wǎng)絡(luò)與信息安全部總經(jīng)理苗守野

　　第二，病毒檢測效率和精度躍升。人工智能可以增強識別準確度和研判效率，幫助快速準確地從海量樣本中識別出真正的惡意樣本和病毒。吳云坤說，奇安信利用人工智能病毒引擎QDE對132萬多個樣本的檢測結(jié)果顯示，QDE的檢出率為97.9%，比傳統(tǒng)病毒引擎高出4.13%，誤報率僅0.009%，遠低于傳統(tǒng)引擎誤報率0.04%。

　　奇安信集團總裁吳云坤

　　第三，安全運營能力提質(zhì)躍升。人工智能可以替代人工，解放安全專家，突破網(wǎng)絡(luò)安全的人力資源邊界，大幅度提升運營能力。吳云坤講到，安全專家每天能夠研判約480條信息，安全機器人每天能夠智能研判30240條信息，“從這個角度看，一臺機器人相當于60位安全專家”。
　　第四，攻防實戰(zhàn)水平躍升。網(wǎng)絡(luò)安全領(lǐng)域的創(chuàng)新核心是使用新技術(shù)實現(xiàn)網(wǎng)絡(luò)空間安全檢測、分析、研判、指揮、響應(yīng)、處置形成閉環(huán)，并不斷提升攻擊方和防守方的實戰(zhàn)水平和工作效率。在吳云坤看來，人工智能能有效的縮短閉環(huán)時間，AI加持攻守雙方完成閉環(huán)后，可以實現(xiàn)知識經(jīng)驗再積累，持續(xù)提升作戰(zhàn)水平。
　　AI成為安全領(lǐng)域創(chuàng)新熱點
　　“AI驅(qū)動安全已經(jīng)成為網(wǎng)絡(luò)安全領(lǐng)域的重要創(chuàng)新熱點?！?吳云坤舉例說，上個月在美國舉行的全球最大網(wǎng)絡(luò)安全年度大會（RSAC 2024）發(fā)布的新產(chǎn)品中，60%與AI相關(guān)，其中創(chuàng)新沙盒十強中有7家是AI方向；我國2024安全創(chuàng)客匯40強的10個創(chuàng)新賽道中，AI安全排在第二位。
　　與此同時，傳統(tǒng)網(wǎng)絡(luò)安全行業(yè)也正在快速轉(zhuǎn)型，加快擁抱AI。一些綜合性大型安全企業(yè)通過收購、自我研發(fā)或生態(tài)建設(shè)補齊短板，用AI不斷發(fā)展完善產(chǎn)品和服務(wù)體系，加速建立對抗威脅的閉環(huán)，提升安全事件處置的能力和效率。例如，Crowdstrike在推出Charlotte AI之后，把過去分布在不同終端的所有數(shù)據(jù)整合進AI網(wǎng)絡(luò)安全分析工具Charlotte AI，將安全事件響應(yīng)時間從過去的8小時縮短為幾分鐘。
　　國內(nèi)頭部科技企業(yè)已在同步推進AI在網(wǎng)絡(luò)安全領(lǐng)域落地生根。作為網(wǎng)絡(luò)安全原創(chuàng)技術(shù)策源地總體單位，奇安信以科技創(chuàng)新推動產(chǎn)業(yè)創(chuàng)新，于今年3月對外正式發(fā)售了“AI驅(qū)動安全”的代表性產(chǎn)品：QAX-GPT安全機器人。QAX-GPT安全機器人對真實網(wǎng)絡(luò)風險事件研判準確率達到100%，可以消除80%以上無效告警，助力企業(yè)網(wǎng)絡(luò)安全運營效率提升逾60倍。
　　BCS產(chǎn)業(yè)峰會嘉賓一致認為，國家相關(guān)政策正在進一步推動AI在網(wǎng)絡(luò)安全產(chǎn)業(yè)加速布局。
　　“數(shù)據(jù)是人工智能三要素之一，人工智能模型的訓(xùn)練需要大量且高質(zhì)量的數(shù)據(jù)。”蔣楠說，發(fā)展人工智能，需要更加注重數(shù)據(jù)的收集、清洗、標注和存儲，以確保模型訓(xùn)練的有效性和科學(xué)性。當前，國家發(fā)力促進數(shù)據(jù)要素流通，通過流通實現(xiàn)數(shù)據(jù)價值，將支撐包括網(wǎng)絡(luò)安全在內(nèi)的人工智能新應(yīng)用快速發(fā)展。

　　中石化集團信息和數(shù)字化管理部副總經(jīng)理蔣楠

　　AI時代呼喚體系安全
　　在BCS產(chǎn)業(yè)峰會上，與會嘉賓們提醒，目前的網(wǎng)絡(luò)攻擊者不僅利用人工智能技術(shù)編寫程序、制造病毒、發(fā)起飽和式攻擊，也在針對人工智能防護模型本身的弱點進行“投毒”或“滲透”。與會專家建議，AI時代的網(wǎng)絡(luò)安全防護同樣需要突破單點思維，推進體系建設(shè)。
　　一方面，網(wǎng)絡(luò)攻擊開始面向AI“對癥下藥”。蔣楠舉例說，攻擊者可能進行藥餌攻擊，即針對AI收集日常運營數(shù)據(jù)自我學(xué)習(xí)訓(xùn)練以檢測出新的攻擊這一特性，攻擊者注入精心設(shè)計的數(shù)據(jù)樣本（即藥餌），使訓(xùn)練數(shù)據(jù)被污染，給AI“洗腦”，最終危及整個系統(tǒng)的正常功能。
　　要更加重視人工智能安全防御技術(shù)創(chuàng)新。具體而言，在AI系統(tǒng)收集數(shù)據(jù)、訓(xùn)練模型階段，可以采用網(wǎng)絡(luò)蒸餾、對抗訓(xùn)練、對抗樣本檢測、輸入重構(gòu)、模型剪枝等多種防御性技術(shù)，以防止針對AI的數(shù)據(jù)投毒式攻擊。
　　當前國內(nèi)網(wǎng)絡(luò)安全防護還沒有真正普及體系化建設(shè)。例如，國內(nèi)安全設(shè)備和產(chǎn)品的互操作性標準和規(guī)范一度長期缺位，不同網(wǎng)絡(luò)安全廠商各自為戰(zhàn)，無法形成協(xié)同效應(yīng)，無法真正落實“AI驅(qū)動安全”帶來的威脅檢測能力和安全運營能力提升
　　“AI是知識工程，需要多維數(shù)據(jù)、多維場景，綜合性廠商比單點技術(shù)廠商更具優(yōu)勢?！眳窃评ふJ為，綜合性廠商基于內(nèi)生安全建立體系，使單點技術(shù)通過體系協(xié)同在對抗威脅時發(fā)揮最大效能。
　　與會專家們呼吁，網(wǎng)絡(luò)安全行業(yè)應(yīng)建立體系化思維，不僅是在企業(yè)內(nèi)部推廣建立協(xié)同高效的安全體系，全行業(yè)也需要建立更多通用、互認、開源的標準規(guī)范和操作體系，實現(xiàn)產(chǎn)品互操作、數(shù)據(jù)共分享、安全同治理，提升全行業(yè)體系安全能力，真正助力數(shù)字經(jīng)濟發(fā)展。