4月8日，孵化自清華AI研究院的創業團隊RealAI(瑞萊智慧)正式推出國內首個針對演算法模型本身安全的檢測平臺——RealSafe人工智慧安全平臺。作為人工智慧時代的“殺毒軟體”，RealSafe提供從測評到防禦完整的解決方案，快速緩解對抗樣本攻擊威脅。

　　作為引領新一輪科技革命和産業變革的顛覆性技術，人工智慧是利用人為製造來實現智慧機器或者機器上的智慧系統，模擬、延伸和擴展人類智慧，感知環境，獲取知識並使用知識獲得最佳結果的理論、方法和技術。目前已經滲透到了社會生活的方方面面，隨之而來的安全風險也將越來越多樣化。

　　由於人工智慧可以模擬人類智慧，實現對人腦的替代，因此， 在每一輪人工智慧發展浪潮中，尤其是技術興起時，人們都非常關注人工智慧的安全問題和倫理影響。

　　尤其因數據泄漏、演算法偏見、演算法漏洞等一系列安全問題逐漸暴露，並對國家經濟和社會安全帶來諸多風險和挑戰，引起社會各界的日益關注。安全是發展的前提，確保人工智慧安全、可靠、可控，才是守衛人工智慧穩健發展的根本。

“賦能安全”和“技術風險”，人工智慧的技術短板不容忽視

　　目前，人工智慧領域針對“人工智慧安全”的定義主要來源於“賦能安全應用”和“防範技術風險”兩個層面，前者的應用場景有：人工智慧能夠提高網路空間各類威脅的響應和應對速度，全面提高風險防範的預見性和準確性;或是電腦視覺、圖像識別等技術走向産業化，落地到交通監控、身份認證、犯罪偵查等公共安全場景;後者則是對現階段由於人工智慧技術不成熟以及惡意應用所導致的安全風險，包括模型缺陷、演算法不可解釋性、數據強依賴性等的防範。

　　事實上，後者的安全風險本質上由人工智慧“技術短板”所導致，是限制人工智慧發展最明顯的“軟肋”。隨著數據量、算力的大幅提升，未來人工智慧技術的應用場景會日益增多，並且將從語音識別、人臉識別等受限領域逐步延伸向金融決策、工業生産運營、醫療診斷、自動駕駛等更高價值的應用領域，這背後將對人工智慧技術本身的安全性、可靠性提出更高要求，提升演算法安全性成為新一輪人工智慧智慧産業升級下的新方向。

“對抗樣本”成“AI病毒”，莫讓演算法漏洞成發展瓶頸

　　作為人工智慧三大要素之一，演算法突破是人工智慧的基石和行業熱點。其中，在2018年中國資訊通信研究院安全研究編制的《人工智慧安全白皮書》中，“演算法安全”是人工智慧六大安全風險之一，並著重指出了“對抗樣本攻擊誘使演算法識別出現誤判漏判“這一演算法模型缺陷為演算法安全的重要風險項。

　　據RealAI介紹，對抗樣本原本是機器學習模型的一個有趣現象，通過在源數據上增加人類難以通過感官辨識到的細微改變，可以讓機器學習模型接受並做出錯誤的分類決定。典型場景就是圖像分類模型的對抗樣本，比如下圖的案例，在左圖“阿爾卑斯山峰”的圖片上添加人眼無法察覺的噪音，正常情況下肉眼仍然能判斷這張圖顯示的是山峰，但是圖像分類模型會將它錯誤識別為狗，並且置信度高達99.99%。

　　經過不斷的升級演化，對抗樣本攻擊已經不僅僅停留在數字世界，針對物理世界的攻擊也開始出現：在路面上粘貼對抗樣本貼紙模倣合併條帶誤導特斯拉自動駕駛汽車拐進逆行車道、佩戴對抗樣本生成的眼鏡輕易破解手機面部解鎖、胸前張貼對抗樣本貼紙即可實現隱身……

　　對抗樣本會導致人工智慧系統被攻擊和惡意侵擾，成為威脅到人工智慧系統的“AI病毒”，誤導系統産生與預期不符乃至危害性結果，對於人臉識別、自動駕駛等特定領域，可能造成難以挽回的人員和財産損失。

打造人工智慧時代的“殺毒軟體”，，RealSafe幫助政企用戶規避風險

　　作為新興領域，業界對於如何評價演算法模型的安全性並沒有清楚的定義。而隨著攻防相互的發展，對抗樣本等攻擊手段變得愈發複雜，尤其在開源社區、工具包的加持下，高級複雜攻擊方法快速增長，但是相關防禦手段的升級卻難以跟上。

　　此外，對抗樣本等演算法漏洞檢測存在較高的技術壁壘，目前市面上缺乏自動化檢測評估工具，而大部分企業與組織不具備該領域的專業技能來妥善應對日益增長的惡意攻擊。因此，在潛在層面上，隨著人工智慧的大規模應用，演算法安全漏洞帶來的安全威脅將持續升級。

　　就如網路安全時代，網路攻擊的大規模滲透倒逼殺毒軟體的誕生，針對演算法漏洞這一“新型病毒”，同樣需要開展安全評估評測能力建設，構建人工智慧安全檢測評估平臺，打造人工智慧時代的“殺毒軟體”，以技術手段為支撐，切實規避人工智慧演算法缺陷可能帶來安全風險。

　　RealSafe人工智慧安全平臺，是依託于RealAI與清華人工智慧研究院多年來的技術積累，內置領先的攻防演算法模型，為政企用戶提供行業一流的AI安全評測與安全防護，助力高效應對演算法威脅。

　　據了解，相較于目前常見的開源工具需要自行部署、編寫代碼，RealSafe支援零編碼線上測評，用戶只需提供相應的數據即可線上完成評估，極大降低了演算法評測的技術難度，學習成本低、使用更加便捷，無需擁有專業演算法能力也可以上手操作;同時，為了幫助用戶提高對模型安全性的概念，RealSafe平臺採用可量化的形式對安全評測結果進行展示，根據模型在對抗樣本攻擊下的表現進行評分，滿分為100分，評分越高則模型安全性越高。

　　此外RealSafe平臺還提供模型安全性升級服務，支援五種去除對抗噪聲的通用防禦方法，可實現對輸入數據的自動去噪處理，破壞攻擊者惡意添加的對抗噪聲，用戶可自行選擇合適的防禦方案，一鍵提升模型安全性。另外針對防禦效果，部分第三方的人臉比對API通過使用RealSafe平臺的防禦方案加固後，安全性可提高40%以上。

　　RealAI是來自清華大學人工智慧研究院的官方團隊，團隊曾率先提出多項攻防演算法，相關研究成果曾被圖靈獎得主作為代表性方法大幅引用，被主流開源軟體FoolBox、Cleverhans等收錄為標準的對抗攻擊演算法。在人工智慧領域多項國際大賽中，RealAI與清華聯合組成的戰隊曾斬獲多項世界冠軍。

　　“推出安全檢測平臺是規避風險的一條路徑，未來還需要聯合各界力量共同推動人工智慧安全相關的國家標準、行業標準、聯盟標準的制定，為人工智慧産品安全評估評測的統一參考。 ”RealAI CEO田天表示。

來源：中國網    | 撰稿：辛文    | 責編：田燕    審核：張淵

新聞投稿：184042016@qq.com    新聞熱線：13157110107    

來源：中國網    | 撰稿：辛文    | 責編：田燕    審核：張淵