當前，人工智慧産業正迎來新的發展高潮，但新技術也帶來了特有的新風險，在發展與産業落地過程中催生出了對抗樣本攻擊、模型後門、模型竊取等專門針對人工智慧系統的新型安全問題。隨著産業進程的深入，這些安全風險的邊界迅速擴散，逐步蔓延至金融、網際網路、安防、城市和社會治理各個領域，危害到社會安全與國家安全。
為有效應對人工智慧新型安全風險，瑞萊智慧依託在人工智慧演算法安全攻防領域的頂尖技術能力和豐富的實踐經驗，率先發佈人工智慧安全靶場RealRange，提供實戰化、體系化的一站式人工智慧攻防演練服務支撐，通過預設訓練場景模型、對抗攻防實戰競演，幫助政企機構開展安全能力體系檢驗評估、培育新型安全人才，建設新型人工智慧安全防禦體系，全面提升人工智慧時代新型安全威脅的應對能力。
圖片由北京瑞萊智慧科技有限公司授權發佈
聚焦新時代安全防禦體系建設
“以戰促防”成核心需求
新安全問題需要新解決方案，為應對人工智慧新型安全風險需構建新一代安全體系。7月12日，工信部官網發佈《網路安全産業高品質發展三年行動計劃（2021-2023年）（徵求意見稿）》，提出人工智慧安全作為面向新設施新要素的安全技術，需加快構建分類體系、制定檢測與評估標準體系等，其中“構建人工智慧安全靶場”也被列為重點投入方向。
自2008年美國籌建國家網路空間靶場（NCR）以來，靶場已經證明了對國家和社會各層面的安全保障均具有重大推進作用。人工智慧時代下，伴隨智慧産業的縱深發展，一系列前所未有的新型安全威脅正逐步影響到軍事、政企、金融等關鍵領域，研製針對人工智慧場景的模擬實戰靶場也因此成為行業重點探索的方向。
瑞萊智慧副總裁唐家渝表示，隨著人工智慧安全態勢不斷演化，新型攻擊手段不斷出現，單點産品只能解決滯後問題，對於未知威脅無法進行風險預判和策略調整，同時作為新興領域，行業普遍面臨專業人才不足與實戰經驗匱乏的雙重困境。鋻於此，打造動態演化、科學調整的安全防禦體系成為核心需求，也促使人工智慧攻防靶場成為一項重要的新型基礎設施。
唐家渝介紹道，類似于“演兵場”，安全靶場通過攻防實戰演練將風險暴露前置，提前發現和適應不斷升級、瞬息萬變的新型攻擊和高級威脅，動態提升團隊軟實力，快速彌補技術水準與經驗的不足，實現“讓風險發生在靶場，讓有效防禦構建在安全事件之前”。
人工智慧攻防靶場重磅發佈
“學練一體”夯實基礎建設
作為人工智慧安全領域的領軍企業，瑞萊智慧聚焦于演算法攻防場景，率先推出人工智慧安全靶場RealRange，用於構建真實網路環境的人工智慧實戰攻防演練，通過“實戰化、模組化”的平臺服務，幫助企業實現精準挖掘薄弱環節、驗證攻防能力、敏捷迭代防禦體系等全方位能力。
據介紹，該平臺集“學、練”為一體，包含攻擊靶場、防禦靶場、攻防演練三大功能模組。“攻防靶場”內置不同維度、不同難度的攻防靶標與最新的攻防演算法；“攻防演練模組”支援針對人臉識別、圖像分類等不同應用場景開展攻防演練，同時平臺可自動化評估攻防兩端能力，以攻防態勢的可視化功能直觀反饋實時戰況。
圖片由北京瑞萊智慧科技有限公司授權發佈
瑞萊智慧人工智慧安全靶場RealRange
具體來看，該靶場平臺具備三大特點：場景豐富：整合多種典型應用場景、攻防靶標、攻防工具，有效支撐各類業務場景下的攻防演練；容易上手：內置難度由低到高的分階靶場體系，進階式學練體系，無需具備專業AI安全知識也能快速上手；擴展靈活：模組化設計支援靈活構建各類演練場景，級聯設計支援靈活擴展各種演練規模。
唐家渝介紹道，該靶場平臺基於瑞萊智慧在模型攻防領域深厚的技術積累，包括白盒攻擊、黑盒遷移攻擊等前沿對抗技術以及與清華大學、阿裏安全聯合研發的AI對抗攻防基準，將團隊長期在攻防、競賽、實戰過程中形成的實踐經驗內化于平臺之中。他透露，平台下一步將基於橫向的通用電腦視覺任務，打造身份驗證、自動駕駛等縱向細分領域的個性化定制方案。
作為全球領先的安全可控人工智慧基礎設施平臺和解決方案提供商，瑞萊智慧曾多次參與承擔科技部、工信部、公安部等部委發起的國家級重大項目建設任務，深度參與多項人工智慧安全技術産品的標準制定與項目研究工作，是演算法安全領域首個國標《機器學習演算法安全評估規範》的核心起草單位。技術能力方面，團隊曾榮獲2017NIPS對抗攻防競賽、2018世界頂級駭客大會DEFCON的CAAD CTF對抗攻防邀請賽、2019國際安全極客安全大賽GeekPwn“CAAD CTF圖像對抗樣本挑戰賽”及“CAAD隱身挑戰賽”等在內的多項世界級AI安全大賽冠軍。
人工智慧安全靶場的建立，標誌著瑞萊智慧在安全可控人工智慧基礎設施建設方面邁出的至關重要的一步。未來，瑞萊智慧將積極與更多機構開展合作，面向政府、金融、國家基礎設施等行業領域開放能力，提高國家人工智慧安全攻防演練水準，推動人工智慧産業健康高速發展。
