近兩年，各行業大模型如雨後春筍般快速發展，人工智慧技術、産業、應用各環節迎來快速迭代和探索突破時期。在日前舉行的2024第十二屆西湖論劍·數字安全大會上，各界人士就如何應用人工智慧技術賦能數字網路安全進行討論和交流。與會人士認為，網路安全已進入人工智慧階段，“AI+安全”是網安行業未來發展的方向，同時AI技術的雙刃劍效應以及行業發展環境需多方共同破解完善。
網安進入人工智慧階段
隨著人工智慧技術的快速發展，數據安全複雜性和傳統網路安全治理局限性之間的矛盾日益凸顯，數字安全面臨前所未有的挑戰，通過AI賦能安全運營被視為發展新質生産力的關鍵一環。
國家行政學院電子政務專家委員會原副主任、全國數字經濟聯盟學術委員汪玉凱提出，數字經濟在新質生産力發展的結構中起全局性、戰略性的意義，數字經濟有可能成為新質生産力中最關鍵的一個領域。
中國科學院院士吳世忠表示，近30年來，網路安全大致可分為三個階段，前20年左右是IT驅動階段，是一個萬物互聯時代；後10年是DT，即數據驅動階段，以大數據、雲計算為特徵，追求數據流動；如今則已進入AI驅動時代，人工智慧的巨浪極大地改變了安全問題的內涵和外延。
國家資訊技術安全研究中心金融安全處處長曹岳認為，未來的攻擊，也就是智慧化的攻擊，將加強攻擊的頻度，AI的擴展會提升攻防的對抗維度，AI還將升級網路攻防對抗的強度。
參加過多次重大項目網路安全工作的安恒資訊，將2008年以來重大活動網路安全分為單兵戰、綜合戰、立體戰和AI戰四個發展階段。單兵戰大致在2008-2015年間，早期的網路安全防護中，用單一的網路安全産品與安全服務相配合，就能為重大活動的網路和資訊系統提供基本保護；綜合戰大致在2016-2020年間，此時的賽會網路環境變得複雜，需要借助強大的網路安全態勢感知等平臺類産品，結合多區域、線上線下的安全服務，才能保證大型賽會安全無虞；立體戰大致在2021-2023年間，隨著重大活動網路環境風險的增加，需根據不同的網路安全威脅分別制定針對性策略，在防禦、監控、響應、預測等方面部署相應的安全産品服務，才能保證重大活動的順利舉行；而從2023年9月至今，重大活動網路安全工作已經進入了AI戰階段。
安恒資訊董事長范淵對《經濟參考報》記者表示，現階段的網路安保工作中，AI已經開始扮演多元化且至關重要的角色，它不僅會改變網路安全戰的方式和態勢，還將對勝敗産生深遠影響。在這一階段，首先是網路安保場景數字化程度高。人工智慧、數字孿生、物聯網等數字技術應用廣泛，傳統安全保障手段無法有效應對；其次是攻擊的自動化和防禦的自動化。AI可以被用來進行自動化網路攻擊，使得攻擊更加隱蔽、快速和難以防禦。安全垂域大模型基於機器學習和大數據分析等技術，能自動學習網路攻擊行為模式，並快速響應和應對各種新型網路威脅，因此以AI對AI、以AI管AI成為必選項。
相關探索應用取得突破
在使用AI助力網路防禦方面，國內外都已經進行了很多探索，並已經取得成果。
美國微軟公司推出的網路安全助手給用戶提供生成式、自動化網路安全人工智慧服務。經過去年一年的運作，可以將安全事件響應、評估和防禦時間從過去的數小時到數天壓縮到幾分鐘。
AI賦能極大地提升了國內網路安全防禦能力與處置效率。安恒資訊去年8月發佈的“恒腦·安全垂域大模型”，實現了國內AI安全垂域大模型在國際大型賽事的首次應用。在杭州亞運會期間，基於這一模型和MSS安全運營平臺的輔助支撐，有效解決了安全運營過程中複雜重復的工作。
據了解，安恒資訊已將AI技術應用作為一級戰略。范淵介紹，過去8個月，安恒資訊在人工智慧應用於數字安全方面進行了大量嘗試和實戰探索，公司的數字安全産品和服務正在發生翻天覆地的變化。以數據分類分級+AI為例，AI技術應用使數據分類分級的效率提升了30倍。“這不僅僅是一次簡單的效率提升，更是一次深刻的行業變革，讓我們看到了AI在數字安全領域的巨大潛力和廣闊前景。”
今年4月，安恒資訊剛剛發佈了數據分類分級解決方案、AI防火牆、天穹人工智慧安全運營平臺等八大AI産品。此次大會期間，安恒資訊攜手華為發佈昇騰-恒腦推理一體機，利用昇騰AI集群為恒腦提供底座，全流程加速大模型的創新與落地。
海亮集團積極探索“AI+安全”的建設思路。集團數字創新部部長孫雯介紹，用AI來代替人工使安全告警的分析更加智慧，效率大幅提升。海亮集團發現，在AI與數據安全結合的過程中，AI表現超乎預期，試點場景的4000多個字段自動化梳理可達到90%以上，識別準確率從50%提高到85.8%。
AI應用於網路安全的前景如何？
安永（中國）企業諮詢有限公司合夥人王堅表示，威脅監測與相應的工作、惡意軟體的檢測、用戶的行為分析、身份驗證訪問控制、網路釣魚監測、自動化情報威脅、欺詐檢測以及數據的泄密保護等方面，都是大模型應用的潛力領域。
杭州人工智慧學會副秘書長、安恒資訊研究院院長王欣認為，AI之於安全，現在真正的能力只發揮了不足5%。過去一年多時間，AI與安全之間的探索，是從原來的智慧問答發展到輔助駕駛，在不久的將來將進入半自動駕駛，未來會進入全自動駕駛。
推動“AI+安全”縱深發展
此次大會上，業界人士的一個共識是，“AI+安全”一定是網安行業未來發展的方向。同時，專業人士對於AI技術的雙刃劍效應以及行業發展環境也給予廣泛關注，對“AI+安全”的發展提出了很多積極的建議。
教育部新工科聯盟網路空間安全工委會主任委員、杭州市人工智慧協會副理事長、俄羅斯國家工程院外籍院士胡瑞敏認為，從短期與中期來講，大模型技術還存在著很多不足，必然需要通過人機協同才能真正發揮作用。從長期來看，要在做好安全準備的前提下，謹慎推動機器的自主性。
多位專家建議，面對複雜多變的國際形勢和日益增長的網路安全威脅，亟需加強關鍵資訊基礎設施安全保護工作。
“現有的漏洞補上了，新的漏洞會被發現。現有的技術出現了攻防相對平衡穩定，新的技術創新會把戰場轉移到新領域。”國際電信聯盟前秘書長趙厚麟表示，“在安全領域的攻防、互鬥會長期存在。”
對此，中國工程院院士鄔江興認為，無論是數字産業化還是産業數字化，第一要務都是網路安全。但是，網路安全防禦卻呈現出像“打鼴鼠”遊戲一樣的情況，即按下葫蘆浮起瓢，冒出一個鼴鼠就打一下。他指出，針對傳統網路安全治理的局限性，要從數字産業的源頭技術抓起，從數字産品的設計安全抓起。推動數字生態系統底層驅動範式轉型，以內生安全賦能，才能築牢網路與數據空間安全屏障。
從與會專家的討論中，記者發現，“AI+安全”行業既要滿足市場對網安技術和産品安全可靠、簡便易行的要求，還要在用戶願負擔成本和企業研發成本激增之間找出最佳平衡點，因此挑戰不小。
鄔江興針對網安人才短缺問題表示，按照中央網信辦的預測，到2027年，中國需要235萬網路安全人才，但目前全國100多所網安相關學院每年的畢業生不足3萬人。網安人才與製造漏洞或無意製造漏洞的人數相比，存在巨大的“剪刀差”。
在國際領域，吳世忠表示，人工智慧的安全治理已經成為大國博弈的一個協調議題。70多個國家在五年內已經出臺安全治理方面的戰略對策和法律文件接近100件。
趙厚麟表示，數字安全全球關注，要加強全球協作，鼓勵和加強國際合作。
(責任編輯：沈曄)