人工智慧時代呼喚網路安全治理升級

8月28日至29日舉辦的首屆網路空間安全（天津）高峰論壇上，近800位來自網路安全領域的官員、專家學者和科研機構、院校、企業代表齊聚一堂，共話網路空間安全形勢、共用網路安全理念、共商網路安全對策。

隨著人工智慧的出現，網路資訊技術迭代升級加速，網路安全領域新情況、新問題、新挑戰層出不窮，影響全球經濟格局、發展格局、安全格局，也給網路安全保障提出了更高要求。部分業內人士認為，應強化風險意識，建立有效的風險預警和應對機制。同時，各方應加強交流與合作，不斷提升網路安全水準。

人工智慧産業在規範中發展、發展中規範

今年，生成式人工智慧熱潮席捲全球。目前，國內的百度、科大訊飛等企業機構已推出自己的大模型産品。

部分專家判斷，生成式人工智慧將引發新一輪人工智慧革命，人類與機器、技術與産業、虛擬與現實之間的關係正在發生廣泛而深刻的變化，技術創新也給人類社會文明秩序帶來了挑戰。

對此，國家網信辦聯合國家發展改革委、教育部、科技部、工業和資訊化部、公安部、國家廣播電視總局公佈的《生成式人工智慧服務管理暫行辦法》（以下簡稱《辦法》）于8月15日起正式實施。這是我國首個針對生成式人工智慧産業的規範性政策。《辦法》明確鼓勵生成式人工智慧技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系。

360集團創始人周鴻祎認為，《辦法》內容表明瞭有關部門鼓勵創新，支援大模型發展的態度，為科技企業創新提供了信心和保障。《辦法》還明確了適用邊界，既能夠規範大模型的公眾服務，同時也有利於組織機構的研發和應用。

“産業數字化戰略背景下，大模型作為工業革命級的生産力工具，應當幫助傳統産業特別是製造業實現數字化轉型、智慧化升級。《辦法》對推動大模型在企業級場景的落地有積極意義。”周鴻祎説。

出席論壇的國家網信辦有關負責人表示，生成式人工智慧首先要統籌發展和安全。“我們深知人工智慧是今天技術發展方向，生成式人工智慧是人工智慧的重要內容，它必將對我們的經濟社會發展、人民群眾的生活發揮重要作用；同時，我們也要看到生成式人工智慧可能帶來的安全風險，需要法律、標準規範引領。”他説。

出席論壇的工業和資訊化部有關負責人表示，工信部系統推進網路安全的保障體系和能力建設，取得積極成效，關鍵資訊基礎設施的保護、工信領域的數據安全、新型基礎設施安全等一批標準陸續出臺，網路空間環境大幅改善，人民群眾利益得到了切實保護。

“我國針對大模型的安全管理政策是科學且務實的。”百度安全副總經理包沉浮説。

多位專家表示，加強生成式人工智慧的發展、應用、管理，目的是把技術轉變為生産力，讓人工智慧技術在經濟社會發展中發揮更大的作用。

人工智慧為網路安全治理帶來新挑戰

“人工智慧在網路安全領域給攻防雙方都帶來了變革。”殺毒軟體企業安博士中國區首席執行官沈珉奎説。公安部網路安全保衛局楊骎博士也表示，人工智慧正在降低網路犯罪的門檻。

在個人層面，人工智慧降低個人網路犯罪門檻。美國專業安全技術公司邁克菲市場總監泰勒·麥基説，“我發現暗網上有很多暗黑版的GPT，價格低廉，容易獲取，有的每個月只需花90美元就能訂閱使用。這些暗黑版GPT不但能寫釣魚郵件，還能編寫惡意程式代碼。”

技術“小白”也能通過簡單的問答方式實施駭客攻擊，這相當於給了普通人一本“武林秘籍”，讓不懂代碼、不懂技術的普通人成為駭客。此外，近期，通過AI換臉和擬聲技術獲取信任進行詐騙的案例屢見不鮮。“只需要幾秒鐘的語音樣本或者一些視頻，就可以假亂真，利用人工智慧詐騙，人們很難辨別。”泰勒·麥基説。

在社會層面，人工智慧偽造虛假資訊會誤導社會公眾。人工智慧深度偽造軟體簡單易用，能輕鬆將面部表情、技術動作和聲音三者融為一體，這種平民化和社會娛樂化的工具，使得大規模、低成本的針對個人的惡搞乃至污衊成為可能。從娛樂到工作，從新聞到科普，無處不見人工智慧的身影，它們以驚人的速度和數量回答問題、發佈文章、製作圖片，但往往缺乏真實性、準確性。楊骎舉例説，利用人工智慧技術製作虛假新聞事件，對公眾人物製作虛假視頻，容易造成不良引導，影響社會認知，甚至破壞社會信任、擾亂社會秩序。

今年6月，浙江紹興警方在網上巡查時發現“紹興上虞化工廠發生重大火災”的視頻，短時間內瀏覽量迅速攀升。警方核實後確認視頻為人工智慧技術深度合成，並很快鎖定某科技網路公司有較大作案嫌疑。經調查，5月以來，該公司為牟取利益，從網上非法收購一批視頻賬號，通過人工智慧軟體，自動生成或拼接製作虛假視頻發佈，以博取流量，並通過流量演算法返款盈利，造成了不良社會影響。

聯合國安理會7月18日就人工智慧與安全問題舉行高級別公開會。中國常駐聯合國代表張軍在會上指出，國際社會要強化風險意識，建立有效的風險預警和應對機制，確保不發生超出人類掌控的風險，確保在關鍵時刻人類有能力按下停止鍵。

呼喚網路安全治理新格局

面對人工智慧時代，網路安全領域的新情況、新問題、新挑戰，業內專家建議，首先，建立縱深化立體化防禦體系。深信服科技股份有限公司首席安全官周欣認為，針對多階段和定制化的攻擊，可以建立縱深防禦體系解決勒索病毒攻擊的行為。他建議以人工智慧技術為核心，持續對抗未知的樣本攻擊。“我們希望用‘魔法’對抗‘魔法’，用人工智慧打敗人工智慧，我們企業也在進行有益嘗試。”他説。

其次，建設一體化網路安全運營中心。奇安信科技集團董事長齊向東表示，做好安全合規不能只從簡單的産品堆砌入手，要配合安全體系從管理、技術、運營三個角度開展安全運營治理和防護工作，要建立“人+數據+智慧”的運營體系，讓安全能力真正活起來。

“只有這樣才能實現多元數據的匯聚，對安全風險進行整體的態勢感知，在遭到威脅和網路攻擊的時候能夠及時預警和響應，完成對安全事件的閉環處置。”齊向東説。

此外，還應深化國際交流，推進網路安全技術新發展。俄羅斯卡巴斯基實驗室創始人尤金·卡巴斯基表示，要打擊散佈全球的網路罪犯，執法部門之間的國際合作至關重要。國家電腦病毒應急處理中心主任陳玉東説，網路安全是開放的而不是封閉的，只有立足開放環境，加強交流合作，吸收借鑒先進技術，網路安全水準才會不斷提高。

“推動網路空間國際治理進程，需要發揮資訊化對經濟社會發展的引領作用，積極利用法律法規和標準規範引導新技術應用，自主創新推進網路安全技術提升，以技術創新夯實網路安全基礎。”陳玉東説。

“各方應繼續努力，進一步搭建合作交流的平臺，共同建立更加科學完善的網路安全威脅應對處置機制，攜手構建網路空間命運共同體。”天津市副市長、市公安局長衡曉帆表示。（記者李鯤王井懷張宇琪黃江林實習生金梓純）