“360AI安全實驗室已經發現多款移動APP人臉識別設備存在模型數據和人臉數據洩露的風險。這些模型本應是企業非常重要的資産，卻被輕易的破解，可見人工智慧系統本身存在很嚴重的安全問題。” 三六零集團副總裁、人工智慧研究院院長鄧亞峰對於人工智慧發展面臨的安全挑戰直言不諱。
9月16日，第四屆全球人工智慧産品與應用博覽會（AIExpo2021）——新一代人工智慧開放創新平臺高峰論壇召開，鄧亞峰發表主題演講，並被大會主辦方評為中國人工智慧年度十大風雲人物。
本次大會由新一代人工智慧産業技術創新戰略聯盟、蘇州市人工智慧協同創新中心聯合主辦。360作為唯一一家網路安全企業，360安全大腦入選科技部“國家新一代人工智慧開放創新平臺”項目，參與搭建國家級AI開放平臺。大會當天，包括華為、百度、商湯、小米、科大訊飛等多家入選企業參會，演講內容圍繞各自負責的人工智慧重點細分領域平臺建設情況展開。
AI發展造成潛在安全風險 中國AI安全領域亟需補強
當前，已經成為數字化時代的核心驅動力，技術成熟度越來越高，在圖像識別、語音識別、遊戲、醫療影像識別等眾多場景中甚至開始超越人類的表現。但是，隨之而來的風險也不可避免的産生，AI演算法和系統自身存在的安全隱患，會引入新的安全威脅，涉及到國防、經濟、民生的人工智慧設施和系統一旦遭到攻擊，甚至會威脅到國防安全、企業安全、個人安全，造成重大的損失與惡劣的影響。
作為中立性的技術，人工智慧具有硬幣的兩面性，正面推動了創新發展，背面則在被駭客利用，用於自動化網路攻擊，加劇了日益嚴峻的網路安全威脅。現有的檢測、識別、響應、保護技術，嚴重落後於智慧化發展過程中的需求，難以應對有組織的，具有政府背景的網軍的襲擊。為此，全球範圍內的網路安全公司利用人工智慧技術，為安全攻防尋求新的武器。目前，人工智慧技術在漏洞挖掘、惡意代碼檢測、惡意流量監測等方面已經得到了廣泛的應用。
Research And Markets報告顯示，2030年網路安全中人工智慧産值將突破千億美元，在2020至2030十年間將達到25.7%的年複合增長率，市場潛力巨大。然而，我國的人工智慧安全領域的發展卻嚴重不足，主要表現在三個方面：一是安全評價體系不完善；二是人工智慧安全應用存在較大差距；三是人工智慧安全創新意識和環境相對滯後，在CB Insights評選的全球100家最具前景的人工智慧創業公司中，人工智慧安全公司24家，佔比靠前，卻無一家中國公司上榜。
全面開放安全能力 360七方面構建人工智慧安全生態
基於此，360所承擔建設的安全大腦人工智慧開放創新平臺對於中國人工智慧安全領域的發展，具有重要的生態建設意義。據鄧亞峰介紹，安全大腦開放創新平臺建設主要包括七部分內容，分別是多源異構安全大數據融合與治理、AI賦能安全、AI自身安全、開放與共用、開源社區與APP STORE、安全大數據攻防競賽與科研項目。
360正在AI基礎安全方面發力，努力建造AI安全的基石，只有根基穩固，才能保障上層應用的安全性。“AI的框架本身有很多的安全問題，但是行業裏對這方面的關注是比較少”，鄧亞峰表示。目前，360AI安全實驗室所開發的AI框架安全監測平臺，已累計發現Tensorflow、Caffe、Pytorch等主流機器學習框架及供應鏈漏洞200多個，其中提交給谷歌Tensorflow的漏洞數98個，包括24個高危、嚴重漏洞，在全球各大廠商中排名第一，成果於今年4月入選了中央網信辦“人工智慧企業典型應用案例”。
除了框架的安全，AI演算法模型本身和數據也存在安全風險，360AI安全實驗室已經發現多款移動APP人臉識別設備存在模型數據和人臉數據洩露的風險。“這些模型本應是企業非常重要的資産，卻被輕易的破解，可見人工智慧系統本身存在很嚴重的安全問題。” 鄧亞峰表示。為此，360構建了演算法模型安全攻防平臺，用於攻防的手段來檢測模型，保障開放平臺企業的演算法模型的安全性。不僅如此，360還將面向企業內部的安全分析系統、防護軟體、測試系統等轉化成能力進行封裝，面向平台中的企業開放。
生態共建 360建立協同交互機制賦能平臺企業
生態共建是360構建開放創新平臺的戰略思路，目前360已經與清華大學、中科院自動化所、中科院工所、北京瑞萊智慧科技有限公司（RealAI）、浙江大學機構等開展共建合作。為了進一步打造開放生態，360還聯合中國電腦學會，以舉辦數字安全公開賽的方式，開放自身安全大數據，將産學研力量聯合起來，集中推動網路安全的創新，其成果也將最終沉澱於安全大腦人工智慧創新開放平臺的建設。
目前，360安全大腦開放平臺的能力已經落地于工業網際網路、物聯網、智慧網聯汽車、智慧城市等場景，賦能了教育、運營商、信創等諸多行業。鄧亞峰表示，安全大腦國家開放創新平臺建設的目標是，通過平臺運營，建立人工智慧與安全開放創新體系，建立平臺化機制，實現核心研究成果的對接與轉化，賦能人工智慧與安全相關的中小微企業、高校、科研院所，賦能中小初創安全企業、垂直行業、人工智慧産業，共用技術成果，推動産業健康快速發展，提升國家人工智慧安全整體防禦能力。
“安全一直是攻防的思想，有人去攻，有人去防，從AI的角度，AI系統也是一個不斷的自主學習的系統，實際上也是一種攻防的概念。360作為AI開放創新平台中唯一的一家網路安全公司，希望促進行業和産業的協同交互機制，進而推進人工智慧的整體發展。”鄧亞峰説。
