隨著人工智能技術(shù)的快速發(fā)展，數(shù)據(jù)安全復(fù)雜性和傳統(tǒng)網(wǎng)絡(luò)安全治理局限性之間的矛盾日益凸顯，數(shù)字安全面臨前所未有的挑戰(zhàn)，通過(guò)AI賦能安全運(yùn)營(yíng)被視為發(fā)展新質(zhì)生產(chǎn)力的關(guān)鍵一環(huán)。

國(guó)家行政學(xué)院電子政務(wù)專(zhuān)家委員會(huì)原副主任、全國(guó)數(shù)字經(jīng)濟(jì)聯(lián)盟學(xué)術(shù)委員汪玉凱提出，數(shù)字經(jīng)濟(jì)在新質(zhì)生產(chǎn)力發(fā)展的結(jié)構(gòu)中起全局性、戰(zhàn)略性的意義，數(shù)字經(jīng)濟(jì)有可能成為新質(zhì)生產(chǎn)力中最關(guān)鍵的一個(gè)領(lǐng)域。

中國(guó)科學(xué)院院士吳世忠表示，近30年來(lái)，網(wǎng)絡(luò)安全大致可分為三個(gè)階段，前20年左右是IT驅(qū)動(dòng)階段，是一個(gè)萬(wàn)物互聯(lián)時(shí)代;后10年是DT，即數(shù)據(jù)驅(qū)動(dòng)階段，以大數(shù)據(jù)、云計(jì)算為特征，追求數(shù)據(jù)流動(dòng);如今則已進(jìn)入AI驅(qū)動(dòng)時(shí)代，人工智能的巨浪極大地改變了安全問(wèn)題的內(nèi)涵和外延。

AI安全行業(yè)發(fā)展現(xiàn)狀

據(jù)工業(yè)和信息化部網(wǎng)絡(luò)安全管理局?jǐn)?shù)據(jù)顯示，2023年我國(guó)網(wǎng)絡(luò)安全產(chǎn)業(yè)規(guī)模已達(dá)約2200億元，上市企業(yè)達(dá)28家，產(chǎn)業(yè)綜合實(shí)力顯著增強(qiáng)。

另?yè)?jù)業(yè)內(nèi)人士分析，AI將全面賦能網(wǎng)絡(luò)安全行業(yè)。以360集團(tuán)為例，其推出的360安全大模型由攻擊檢測(cè)、運(yùn)營(yíng)處置、追蹤溯源、知識(shí)管理、數(shù)據(jù)保護(hù)、代碼安全等六大專(zhuān)家子模型組成，幫助某國(guó)有大型企業(yè)用戶(hù)實(shí)現(xiàn)告警降噪效率提升900%，事件研判時(shí)間縮短96%。

事實(shí)上，隨著人工智能的深入發(fā)展，大模型在賦能網(wǎng)絡(luò)安全防護(hù)的同時(shí)，網(wǎng)絡(luò)攻擊的方式和手段也在不斷演變，傳統(tǒng)的安全防護(hù)手段已難以有效應(yīng)對(duì)日益復(fù)雜的網(wǎng)絡(luò)威脅。相關(guān)數(shù)據(jù)顯示，2023年受供應(yīng)鏈安全威脅和風(fēng)險(xiǎn)攻擊的比例高達(dá)所有網(wǎng)絡(luò)攻擊的一半，同比增長(zhǎng)78%。

有業(yè)內(nèi)人士表示，AI大模型可以更快速地篡改企業(yè)數(shù)據(jù)、攻擊企業(yè)核心系統(tǒng)。

“AI時(shí)代是標(biāo)志人類(lèi)數(shù)字化更充分的時(shí)代，網(wǎng)絡(luò)安全攻擊對(duì)人身安全、對(duì)社會(huì)都有更大影響，而微軟此次藍(lán)屏事件提醒公眾，數(shù)字化、智能化導(dǎo)致互聯(lián)網(wǎng)世界變得特別脆弱，網(wǎng)絡(luò)攻擊已從點(diǎn)上升到面。

據(jù)中研產(chǎn)業(yè)研究院《2024-2029年中國(guó)AI安全行業(yè)市場(chǎng)全景調(diào)研與發(fā)展前景預(yù)測(cè)報(bào)告》分析：

安全運(yùn)營(yíng)是安全行業(yè)自動(dòng)化程度最低的領(lǐng)域：在一個(gè)網(wǎng)絡(luò)安全系統(tǒng)的各個(gè)組成中，防火墻、端點(diǎn)安全等單點(diǎn)的安全產(chǎn)品已經(jīng)具備了較高的自動(dòng)化水平，而安全運(yùn)營(yíng)本是自動(dòng)化程度最低的一環(huán)。這是由安全的復(fù)雜性決定的。安全運(yùn)營(yíng)是安全行業(yè)最需要AI深度改造的環(huán)節(jié)：1)傳統(tǒng)安全設(shè)備是第三方的，多且雜，數(shù)據(jù)混亂，導(dǎo)致誤報(bào)率高，變成了真實(shí)風(fēng)險(xiǎn)看不到，出現(xiàn)威脅防不了;2)安全運(yùn)營(yíng)工作壓力太大，上萬(wàn)威脅，且90%非真實(shí)威脅，效率低下。

微軟3月發(fā)布的Security Copilot是全球首個(gè)生成式AI安全工具，底層模型由ChatGPT-4驅(qū)動(dòng)，并結(jié)合了微軟的安全專(zhuān)用模型。模型每天持續(xù)學(xué)習(xí)微軟在其威脅情報(bào)中收集的超過(guò)65萬(wàn)億個(gè)信號(hào)數(shù)據(jù)，為SecurityCopilot幕后的安全專(zhuān)業(yè)人員提供支持。 Security Copilot擁有一個(gè)極其簡(jiǎn)潔的界面，能夠接受自然語(yǔ)言輸入，用戶(hù)只需向其發(fā)送提示——可以是問(wèn)題和請(qǐng)求，也可以是文件、URL、代碼片段或威脅指標(biāo)——Security Copilot會(huì)動(dòng)用安全模型的全部功能來(lái)分析事件或執(zhí)行任務(wù)。

AI安全行業(yè)前景趨勢(shì)研究分析

未來(lái)，人工智能的安全與治理問(wèn)題，關(guān)乎產(chǎn)業(yè)發(fā)展方向與速度，關(guān)乎供給雙方權(quán)利與義務(wù)，更關(guān)乎國(guó)際競(jìng)爭(zhēng)中的優(yōu)勢(shì)與主動(dòng)。

人工智能領(lǐng)域的專(zhuān)門(mén)法也在逐步推進(jìn)中。今年，在十四屆全國(guó)人大二次會(huì)議新聞發(fā)布會(huì)上，大會(huì)發(fā)言人婁勤儉表示，下一步將研究推進(jìn)科技創(chuàng)新方面的立法，特別是深入研究人工智能、生物技術(shù)等前沿科技領(lǐng)域有關(guān)倫理、道德、安全等重要問(wèn)題，不斷完善科技法律體系。

……

如果企業(yè)想抓住機(jī)遇，并在合適的時(shí)間和地點(diǎn)發(fā)揮最佳作用，那么我們推薦您閱讀我們的報(bào)告《2024-2029年中國(guó)AI安全行業(yè)市場(chǎng)全景調(diào)研與發(fā)展前景預(yù)測(cè)報(bào)告》。我們的報(bào)告包含大量的數(shù)據(jù)、深入分析、專(zhuān)業(yè)方法和價(jià)值洞察，可以幫助您更好地了解行業(yè)的趨勢(shì)、風(fēng)險(xiǎn)和機(jī)遇。在未來(lái)的競(jìng)爭(zhēng)中擁有正確的洞察力，就有可能在適當(dāng)?shù)臅r(shí)間和地點(diǎn)獲得領(lǐng)先優(yōu)勢(shì)。