文 | 楊召奎

近日，寧夏固原彭陽縣發生的一起AI（人工智慧）換臉換聲詐騙案件引發社會關注。詐騙分子通過AI換臉和擬聲技術，佯裝成受害者親戚對其實施詐騙，導致受害者被騙1.5萬元。類似AI換臉詐騙案件已經發生多起。

當前，人工智慧技術變革加快，在賦能各行各業的同時也帶來了前所未有的安全挑戰。網路攻擊、數據洩露等安全風險日益凸顯，過度採集、歧視性演算法、濫用深度偽造等問題可能給社會經濟的運作帶來風險。

今年正值網路強國戰略提出10週年、中國接入國際網際網路30載。站在新的時代起點、迎接新的風險挑戰，亟須新的應對策略。5月18日，在以“智繪安全 乘數而上”為主題的2024第十二屆西湖論劍·數字安全大會上，與會專家深入探討了AI技術變革帶來的安全挑戰並尋求有效的應對策略。

中國工程院院士鄔江興指出，人類社會正在進入以數據為關鍵要素的數字經濟時代，傳統網路安全治理的局限性日益凸顯，急需數字生態系統底層驅動範式轉型，即建立一種可防禦且富有彈性和韌性的數字生態系統，使其更容易形成內在防禦能力，能讓攻擊方付出比防禦方更高的代價，實現防禦優勢的轉變，從而挫敗數字生態系統面臨的種種威脅。

中國工程院院士吳世忠則指出，在AI時代，安全問題不僅涵蓋了傳統的資訊安全，也包括系統運作的穩定性和可靠性，還包括倫理安全，即技術應用必須符合道德倫理標準。這三者交織融合，對個人隱私保護、社會穩定、國家發展以及國際合作等方面都提出了新的挑戰和要求。因此，構建一個安全、堅韌、可信的人工智慧發展生態至關重要，這就要求必須在推動技術發展的同時，充分考慮到安全保障，實現發展與安全統籌兼顧。

近年來，從監管層、學界到産業界，都非常關注AI帶來的潛在風險。2023年7月，國家網信辦等七部門發佈《生成式人工智慧服務管理暫行辦法》，堅持發展和安全並重，在鼓勵生成式人工智慧創新發展的同時，對生成式人工智慧服務實行包容審慎和分類分級監管。AI和大模型會帶來網路安全新的挑戰，但利用好也可以實現更智慧的安全防控。

在産業界方面，西湖論劍·數字安全大會發佈了“共建網路強國：AI時代數字安全共識”，其中就包括以AI對AI、以AI管AI，積極應用AI等數字技術，助力數字安全保障能力持續提升。目前，一些企業已發佈融合AI技術的防火牆、入侵防禦、數據防洩露等創新型産品。還有企業發佈了安全大模型，通過大量安全知識和數據的訓練，將通用大模型訓練成“安全專家”。

築牢AI時代的安全底線，人才隊伍建設是關鍵。教育部最新公佈的數據顯示，到2027年我國網路安全人員缺口將達327萬。安恒資訊首席人才官、高級副總裁苗春雨表示，培養一個複合型網路安全人才非常難，需要滿足強實戰、高技能、重協同、跨領域等條件。

目前，工信部教育與考試中心、安恒資訊已達成戰略合作協議，聯合打造“賽訓研培一體化”合作模式，共同推進數字安全領域的人才選拔、能力提升、教學研究與人才培養等相關工作。期待更多政府部門、機構、高校和企業參與進來，構建多層次、跨領域的數字安全人才培養體系和産教融合共同體，儘快打破數字安全領域人才短缺的瓶頸。