AI安全行業(yè)分析2024：AI安全風(fēng)險陡增迅速成全球業(yè)界共識

• 陳觀秋 2024年1月19日 來源：北京商報 中新網(wǎng) 百度 1437 95
• 繁體

近年來，隨著數(shù)字化智能化的深入，新的技術(shù)不斷衍生出新的安全風(fēng)險，數(shù)字安全風(fēng)險進入了快迭代、高智能、全覆蓋的新階段。尤其是2022年末AI大模型橫空出世，AI安全風(fēng)險陡增迅速成為全球業(yè)界的一致共識，AI安全成為主流的安全關(guān)切，并逐漸形成了一個新的安全技術(shù)研究領(lǐng)域

人臉識別、語音識別、智能算法推送……當(dāng)前，人工智能(AI)技術(shù)加速融入社會生活，2023年年初，ChatGPT更是以其豐富的知識與出色的自然語言交互能力，引起了現(xiàn)象級的關(guān)注。伴隨著智能產(chǎn)業(yè)的蓬勃發(fā)展，各式各樣的海量數(shù)據(jù)也在人們的生活中被大量收集、存儲和利用。數(shù)據(jù)安全和隱私保護問題由此成為人工智能系統(tǒng)在開發(fā)和應(yīng)用中面臨的嚴(yán)峻挑戰(zhàn)。

AI安全風(fēng)險陡增迅速成全球業(yè)界共識

近年來，隨著數(shù)字化智能化的深入，新的技術(shù)不斷衍生出新的安全風(fēng)險，數(shù)字安全風(fēng)險進入了快迭代、高智能、全覆蓋的新階段。尤其是2022年末AI大模型橫空出世，AI安全風(fēng)險陡增迅速成為全球業(yè)界的一致共識，AI安全成為主流的安全關(guān)切，并逐漸形成了一個新的安全技術(shù)研究領(lǐng)域。

隨著人工智能發(fā)展加速，由此引發(fā)的問題逐漸擺上臺面。

AI技術(shù)的應(yīng)用給我們帶來了許多便利，但同時也引來了一系列的安全隱患。AI安全工作組的成立加強對AI技術(shù)安全的研究和防護，保障人們在使用AI技術(shù)時的安全和隱私。

2023年6月，歐洲議會通過了《AI法案》授權(quán)草案，草案內(nèi)容包括用于監(jiān)督人工智能基礎(chǔ)模型的分級管理辦法。

2023年10月，由中國全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會組織，面向社會公開征求《生成式人工智能服務(wù)安全基本要求》意見。同月，日本首相岸田文雄在日本京都發(fā)表演講，公布面向生成式人工智能的監(jiān)管計劃。

2023年11月，英國全球第一屆人工智能安全峰會在英國召開，與會各國討論了當(dāng)下全球人工智能治理的問題。中國科技部副部長吳朝暉率團參會并在峰會開幕式上發(fā)表講話，并在會后聯(lián)合發(fā)布《宣言》，該《宣言》成為“第一份關(guān)于有必要監(jiān)管AI發(fā)展的全球聲明”。

斯坦福大學(xué)發(fā)布的《2023年人工智能指數(shù)報告》中提到，對127個國家的立法記錄調(diào)研的結(jié)果顯示，包含“人工智能”的法案被通過成為法律的數(shù)量，從2016年的僅1個增長到2022年的37個。該報告對自2016年以來81個國家的人工智能法律法規(guī)記錄的分析也同樣表明，全球立法程序中提及人工智能的次數(shù)增加了近6.5倍。

據(jù)中研產(chǎn)業(yè)研究院《2024-2029年中國AI安全行業(yè)市場全景調(diào)研與發(fā)展前景預(yù)測報告》分析：

事實上，為了應(yīng)對AI安全風(fēng)險，我國從業(yè)機構(gòu)已經(jīng)開始探索安全科技以加強AI技術(shù)的潛在風(fēng)險研判和防范。例如，2023年9月，螞蟻集團推出了“蟻天鑒”大模型安全一體化方案，其中包括大模型安全檢測平臺“蟻鑒2.0”和大模型風(fēng)險防御平臺“天鑒”，為大規(guī)模AI模型的安全保障帶來了全新的突破。

談及安全科技在防范AI風(fēng)險方面的實際價值，螞蟻集團副總裁、大安全事業(yè)群總裁趙聞飆指出，安全科技具有“壓艙石”與“助燃劑”的兩重價值?！皦号撌敝傅氖鞘刈〖夹g(shù)的安全底線，防御外部風(fēng)險隱患，讓技術(shù)“難作惡”，支撐數(shù)字社會穩(wěn)步運行;“助燃劑”則體現(xiàn)在提高技術(shù)的安全上限，降低技術(shù)運行的成本，讓產(chǎn)業(yè)煥發(fā)新機，讓更多人受益。

呂鵬認(rèn)為，人工智能和安全科技將是未來有且只有的兩項通用技術(shù)，人工智能作為最具顛覆性和戰(zhàn)略性的核心關(guān)鍵技術(shù)，能夠幫助各行各業(yè)在數(shù)字化的基礎(chǔ)上進一步實現(xiàn)智能化，成為未來的“發(fā)動機”;而安全科技將作為“方向盤”，始終將各種新興科技控制在向善的道路。

我國安全科技市場處于爆發(fā)式增長階段

近年來，我國安全科技市場處于爆發(fā)式增長階段，涌現(xiàn)出了一大批新的安全技術(shù)，包括了區(qū)塊鏈、隱私計算、對抗智能、量子計算等前沿技術(shù)。根據(jù)2023年7月IPRdaily發(fā)布的《安全科技專利報告》顯示，中國是全球安全科技發(fā)明專利最大布局國家，專利申請數(shù)為第二名美國的2.23倍;安全科技專利申請數(shù)前十名的申請主體中，中國企業(yè)占七席，螞蟻集團、華為公司、騰訊集團位居前三。

1月18日，中國社會科學(xué)院大學(xué)數(shù)字中國研究院聯(lián)合螞蟻集團在京對外發(fā)布《數(shù)字時代安全科技價值報告》。

中國社會科學(xué)院大學(xué)數(shù)字中國研究院執(zhí)行院長呂鵬在發(fā)布報告時表示，數(shù)字化安全風(fēng)險進入了快迭代、高智能、全覆蓋的新格局。尤其2022年底AI大模型橫空出世，大大推進了深度智能時代的到來，對安全局面的影響也是顛覆性的。在這樣的大背景下，提高社會對于安全科技的認(rèn)知、重視與參與，非常有必要，這也是報告的核心議題。

報告提出，未來，安全科技將成為社會的“公共品”，是技術(shù)向善的關(guān)鍵保障，盡早對它進行投入，將有助于掌握新興技術(shù)發(fā)展與產(chǎn)業(yè)迭代的主動權(quán)。

報告對中國AI安全行業(yè)的內(nèi)外部環(huán)境、行業(yè)發(fā)展現(xiàn)狀、產(chǎn)業(yè)鏈發(fā)展?fàn)顩r、市場供需、競爭格局、標(biāo)桿企業(yè)、發(fā)展趨勢、機會風(fēng)險、發(fā)展策略與投資建議等進行了分析，并重點分析了我國AI安全行業(yè)將面臨的機遇與挑戰(zhàn)。

想要了解更多AI安全行業(yè)詳情分析，可以點擊查看中研普華研究報告《2024-2029年中國AI安全行業(yè)市場全景調(diào)研與發(fā)展前景預(yù)測報告》。

• 相關(guān)深度報告REPORTS

  

  2024-2029年中國AI安全行業(yè)市場全景調(diào)研與發(fā)展前景預(yù)測報告

  隨著AI安全行業(yè)競爭的不斷加劇，大型企業(yè)間并購整合與資本運作日趨頻繁，國內(nèi)外優(yōu)秀的AI安全企業(yè)愈來愈重視對行業(yè)市場的分析研究，特別是對當(dāng)前市場環(huán)境和客戶需求趨勢變化的深入研究，以期提前...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡