通用人工智能正在開創(chuàng)下一個黃金十年，我國人工智能（AI）產業(yè)生機盎然，百余個大模型競相出世，但由此引發(fā)的安全問題也越來越多。8月9日，在第十一屆互聯(lián)網安全大會上，數字安全與人工智能技術融合發(fā)展成為關鍵議題。

數據安全是AI產業(yè)發(fā)展的前提

(資料圖)

如中國工程院院士鄔江興所言，人工智能是引領新一輪產業(yè)變革的核心技術引擎，為各領域提供了信息化、數字化、智能化的解決方案，正在引發(fā)經濟結構重大變革、促進社會生產力的整體躍升。

中國互聯(lián)網協(xié)會理事長尚冰指出，生成式人工智能正在引發(fā)新一輪智能化浪潮。生成式人工智能在為互聯(lián)網行業(yè)注入強勁發(fā)展動力的同時，也帶來了數據泄露、虛假信息、算法歧視等網絡和信息安全新挑戰(zhàn)。

面對生成式人工智能發(fā)展亟待解決的問題，中央網信辦網絡安全協(xié)調局副局長羅鋒盈表示，要提升新技術新應用安全風險防范能力。此外，要善于把數據資源轉化為數據優(yōu)勢，并構建網絡安全、教育、技術和產業(yè)融合發(fā)展的良性生態(tài)。

“推動人工智能產業(yè)快速發(fā)展，必須要把保障數據安全放在突出位置?！睂Υ耍谑龑萌珖f(xié)經濟委員會副主任蘇波提出三點建議。

加快人工智能數據資源的建設。要在發(fā)展中解決安全問題，建立適合我國國情的數據流通共享機制，培育并規(guī)范數據交易市場，鼓勵不同主體安全地進行數據交換。構建支撐我國人工智能產業(yè)發(fā)展的優(yōu)質數據資源，加強對人工智能應用場景下數據安全防護技術的研究，促進人工智能技術在數據安全治理與網絡攻防對抗等領域中的應用。

創(chuàng)新人工智能技術手段，用技術進步解決安全風險難題，加強人工智能數據安全保護基礎理論研究和技術研發(fā)。發(fā)展負責任、可信任、能受控的通用人工智能。鼓勵企業(yè)建設完善人工智能開源學習框架，增強框架內置學習數據和基礎設施，并通過我國巨大的市場優(yōu)勢，加快培育人工智能開源平臺生態(tài)圈和產業(yè)鏈。

完善人工智能數據安全監(jiān)管體系，用規(guī)范監(jiān)管保障安全發(fā)展，加快完善人工智能健康發(fā)展的監(jiān)管規(guī)則和法律法規(guī)，明確人工智能數據安全法律原則，確立不同參與主體在人工智能生命周期各階段所享有的數據權利與所承擔的安全責任。制定人工智能產品應用服務的數據安全服務產品體系，通過檢測驗證提升人工智能產品安全性和成熟度，降低人工智能數據安全風險。

利用AI技術防范數字安全風險

當前網絡威脅不斷升級，“小毛賊”“小黑客”已經成為歷史，有組織的網絡犯罪、高級持續(xù)性威脅已經成為當今網絡安全最大的隱患。傳統(tǒng)的安全防護在戰(zhàn)略上缺乏統(tǒng)籌規(guī)劃，難以形成協(xié)同配合，已經不足以應對持續(xù)變化的安全問題。用數字化思維重塑安全，建設體系化、實戰(zhàn)化、智能化的數字安全能力勢在必行。

怎么建設這種數字安全能力？“數字安全需要探索新的模式，以適應復雜的數字化場景?！敝袊こ淘涸菏苦w賀銓建議，要摒棄硬件式、碎片化、弱協(xié)同的傳統(tǒng)安全防護手段，向云化、服務化升級。

數字安全企業(yè)是建設數字安全能力的重要一環(huán)。人工智能時代下，數字安全企業(yè)需要建立體系化的安全運營服務框架和面向各行各業(yè)輸出數字安全能力，幫助其他企業(yè)構建安全防御體系，保護數據安全與商業(yè)秘密。而人工智能恰恰可以協(xié)助數字安全企業(yè)防范數字風險。正如尚冰所言：“人工智能等技術既是數字安全防御的重點，也是保障數字安全的有力手段。要推動大數據、人工智能等技術的融合，提升網絡安全保障能力?！?/p>

360集團創(chuàng)始人周鴻祎透露，目前360集團有全球最大的網絡安全攻擊樣本庫和攻擊整個過程全記錄的知識庫，記錄了數以億計的網絡攻擊知識。他們現(xiàn)在也在做試驗，把這些知識加入到專門的垂直大模型里面去，爭取在下次遇到攻擊的時候，由大模型判斷這是否是一次真實的攻擊?！澳壳?，大模型判斷的準確率已達97%。相比之下，人類判斷一次網絡攻擊的準確率超過80%就不錯了?！彼硎?，當大模型判斷準確率達99%時就可投入使用。

關鍵詞：