人工智慧帶來的顛覆性安全挑戰正在加快凝聚人們的共識。

　　11月8日，習近平主席向2023年世界網際網路大會烏鎮峰會開幕式發表視頻致辭指出，“我們倡導安危與共，構建更加和平安全的網路空間”“深化網路安全務實合作，有力打擊網路違法犯罪行為，加強數據安全和個人資訊保護”，在全球引發熱烈反響。

　　兩天后，2022年度浙江省科學技術獎揭曉，由螞蟻集團聯合清華大學攻克的安全科技領域研究成果《面向海量交易的分佈式協同風險防禦關鍵技術與系統》（以下簡稱，分佈式風險防禦技術），獲得了浙江省科學技術進步一等獎。

　　眾所週知，中國科學院區域創新能力報告前10的科創大省的“一等獎”，歷來是國家科技大獎的重要“候選人”。今年浙江這個一等獎，又因切中時代痛點，而更加備受矚目。它究竟練成了什麼“獨門秘技”扛住了愈加嚴峻的安全風險與挑戰？又預示著平臺經濟乃至浙江省在國際最前沿科技探索活動中，具備多強的實力、怎樣的擔當？

　　日前，記者採訪了該項目的主要專家團隊：螞蟻集團副總裁、大安全事業群總裁趙聞飆，清華大學電腦係副主任徐恪，螞蟻集團研究員、大安全事業群首席科學家王維強。他們的回答是：用AI之“道”，對抗AI之“魔”。

　　“絕頂功夫”：左右互搏，練成“金剛不壞“的AI之身

　　先來看看由多位院士組成的鑒定委員會是如何評價的——

　　總體評價：該項目系統複雜度高、問題難度大，技術創新性強；

　　對“一個系統”和三項核心技術的評價：其端邊雲分佈式協同風險防禦體系為國際首創，基於對抗學習的人工智慧模型抗噪防禦技術、可擴展的線上動態圖表徵對比學習技術、知識驅動的自適應多維主動詢問風險分析技術達到國際領先水準。

　　“院士們的鑒定有兩層含義。”徐恪向記者解釋——

　　其一是“國際首創”，指的是端邊雲分佈式協同技術，比如中國的移動支付技術和需求全球領先，需要協同移動端、雲計算等技術，還要保障各方的隱私數據安全，這種協同端、邊、雲的分佈式協同風險防禦體系，在國際上此前還沒有出現過。

　　其二是“國際領先”，指的是針對人工智慧驅動的對海量數據的攻擊，人工防禦已經不再現實，只有通過採用人工智慧抗噪防禦、線上動態圖表徵對比學習等手段，對風險漏洞進行智慧化的自動檢測，堵住隨生隨滅的漏洞。

　　由人工智慧驅動的“魔”，在大模型時代，更是對傳統防禦技術形成了“降維打擊”。不僅可能引發技術崩潰，更帶來一系列社會、倫理、道德、法律等全新挑戰，“如果不加以有效應對，網際網路的風險敞口會像決堤一樣。”趙聞飆這樣形容。

　　會有內生安全問題。比如“過分依賴數據”、“數據偏見”等。如果給數據庫不斷投喂帶有特定價值觀的數據，那麼很容易就産生“數據偏見”、“觀點霸權”等問題。

　　前不久，某公司推出的人工智慧學習機被發現一篇課文《藺相如》的讀後感中，含有歪曲歷史等違背主流價值觀的內容。當事企業事後查明，有毒內容是第三方引入的，也就是無意或有意向數據庫中引入了有害數據，使得模型中毒，欺騙了機器學習模型，輸出含毒結果。

　　也會有衍生安全問題。比如惡意攻擊者借助人工智慧技術，可以生成假照片、假護照等實現AI偽造，還可以模倣人臉、聲音等進行詐騙，甚至逼真模倣身份騙過安全管理員，取得頂級密鑰。“人工智慧技術脆弱性被惡意利用，就會讓安全問題變得更加棘手。”趙聞飆説。

　　這樣的事件時有發生。今年，就有杭州市民借助ChatGPT杜撰限行取消新聞，鬧得滿城風雨。此外，據業內不完全統計，僅2022年，我國AI詐騙案件就達到了50萬件，涉及金額超過100億元。

　　用AI對抗AI來實現“邪不壓正”，首要任務是抗得住來自四面八方倣真度極高的智慧攻擊，練就“金剛不壞”之身。專家們從《射雕英雄傳》的周伯通“左右互搏”功夫中受到啟發。

　　在螞蟻集團的技術中，也實踐了左右手互搏術：一邊模擬攻擊、一邊自衛防守。“我們在開發和迭代分佈式風險防禦技術時，每天都會模擬各種各樣的攻擊。”王維強説，假設一個真實的人，一天能模擬200次針對AI模型的攻擊，那麼螞蟻集團現有的技術力量已經可以實現2500個人每天模擬發起50萬次攻擊。

　　在海量的一攻一防之中，螞蟻集團練就了風險防禦的“絕頂功夫”，支撐風險防禦技術與系統歷經了六次迭代，最終升級為可信AI+大數據驅動的智慧安全防禦系統，在網路安全這條賽道上，跑到了全球領先的位置。

　　厚積薄發：打造數實融合的安全基石

　　幾個月前，徐恪在首屆國際基礎科學大會上，有了一個新發現：這個大會把理論電腦與資訊科學也列入了基礎科學的範疇。他説：“的確，從工程到制藥，千行百業都在利用大數據、雲計算提升生産力。”

　　基於中國數字經濟的領先優勢、製造業雄厚的實力，“數實融合”成為當前數字經濟發展的“必選項”，而新型的網路安全風險給數實融合帶來了前所未有的挑戰。螞蟻集團和清華大學聯手取得這個“一等獎”的巨大價值就此凸顯。

　　“以前AI只是一個工具，現在AI正在引領加強原創性、引領性科技攻關，它不僅僅只是一項新技術，更是開啟一個新世界的密鑰，最終將會嵌入整個經濟運作體系中，而我們開發的分佈式風險防禦技術就是為了打造一座‘數實融合’的安全基石。”趙聞飆説。

　　“安全科技是數字技術的重要組成，同樣要做到頂天又立地。”在趙聞飆看來，就像一個硬幣的兩面，安全科技的突破和經濟效益的提升，就是矛盾統一的，安全不僅僅是防禦，更能促進發展和創新。加速基礎科學研究以尋求顛覆性突破，探索人工智慧與安全技術深度融合，是應對當前安全挑戰的華山一條路。

　　新型網路安全風險已經存在於數據要素流轉的所有環節中。螞蟻集團從最初因為海量交易數據的安全而涉足安全領域，一步步從專家經驗，到淺層機器學習、深度學習、預訓練模型，走到今天的基礎大模型的演變和應用，歷經6次迭代，步入了“國際首創”的無人區。自身也從企業需求出發，自覺扛起了引領性科技創新的國家戰略擔當。螞蟻集團已與全球30多所知名院校科研合作，並組建了九大安全實驗室，開展前沿安全科技研究。

　　在數據流傳的各個關鍵節點，螞蟻集團安全科技都有出色的獨創性成果。

　　比如，能夠自動挖掘關鍵數字化基礎設施及供應鏈中潛在未知漏洞的“天穹實驗室”，獲得了國家網路安全優秀創新成果大賽、天府杯國際網路安全大賽等多個獎項；

　　再如，用獨特的隱私演算法實現數據“可用不可見、可算不可識”的“隱語”系統，已經廣泛運用到了金融、醫療等領域，有效防範金融詐騙事件發生。

　　“數字時代，技術變革太快了，沒有一招鮮的解決方案了。”王維強説，尤其是大模型面世後，在訓練過程中需要安全監控，在流入市場時需要質檢，在進入市場後仍然需要可控的使用方式。

　　針對大模型時代的機遇與挑戰，螞蟻集團正通過大模型的涌現能力探索下一代安全科技：一是用大模型保障安全，比如基於安全基座模型能力，持續升級全方位全鏈路的智慧風險防禦體系；二是保障大模型技術本身的安全，螞蟻集團自主研發了大模型安全一體化方案“蟻天鑒”，同時也在今年世界人工智慧大會上獲得了鎮館之寶。

　　所謂“蟻鑒”，就是大模型安全測評方案，通過誘導式對抗生成技術，對大模型進行誘導式問答，找出弱點和漏洞。所謂“天鑒”，就是大模型風險防禦方案，基於智慧風控技術，幫助大模型擋住惡意提問。

　　“一旦大模型在細分領域大規模應用，那麼‘蟻天鑒’就有可能成為另一塊基石。”趙聞飆認為，安全科技研究需要長期堅持、久久為功。面對生成式人工智慧正在帶來的深度智慧時代，安全科技需要隨著人工智慧的對抗升級而不斷迭代、不斷完善，螞蟻集團與清華大學等專家學者要做的還遠未窮盡。

　　向實而生：面向應用和生態，高效産業協作

　　剛剛過去的雙十一，一些中小企業也許會有這樣的困擾：在網路平臺投放的行銷成本，都被薅羊毛群體薅走，投放效果如泥牛入海。還有流量造假、數據欺詐等等諸多痛點。

　　“我國有幾千萬中小微商家和企業，都需要提升數字化經營的安全能力。”王維強説，螞蟻集團一直在堅持向實而生，最典型的是通過免費服務的方式，將諸多安全能力給到生態小微企業，幫助他們解決數字化轉型中“不敢”和“不會”的問題。

　　在王維強看來，數字科技企業向實而生，有助於增強實體經濟的韌性和活力，也有助於充分激活數字技術的價值。因為單打獨鬥已經不適應這一時代的科技創新和産業變革，安全更需要面向應用和生態，高效技術和産業協作是抓住技術變革機遇的關鍵。

　　向實而生，就能在整個生態中，找到更多數實融合的結合點。

　　近一兩年，不少手機廠商與螞蟻集團合作研發了一項名叫“可信隱私沙盒”的技術，這個沙盒部署了用於支付寶科技反詐的技術能力。這些沙盒當中，只要部署“電信詐騙可疑感知模型”，就能使得風險感知、電詐定性均可在用戶個人的手機上完成，從而實現更有效的源頭上風險治理。

　　這種向實而生的拓展性，是可以預見的無限廣闊。單單這款“可信隱私沙盒”，通過“科技創新+産業聯防”的方式，可以通過手機系統進一步賦能各類應用，提高整體風控水準，未來還會運用到更多場景、更多産業中去。

　　“向實而生的數字技術，確實正在成為實體經濟的基礎設施。”徐恪介紹，他曾創作《賽博新經濟》一書，重點闡述了網際網路産生以來對經濟系統帶來的重要影響，由螞蟻集團所代表的數字經濟中堅力量，已經成為經濟運作體系中的基礎性支撐，在許多領域向世界輸出了合作範例。

　　事實上，螞蟻集團就在發揮這樣的作用。

　　橫版、豎版、圓形、三角形，工作證、學生證……在擁有30多種官方證件的菲律賓，如何讓市民用上安全的電子錢包？

　　“針對菲律賓證件繁多的情況，我們設計了一套通用開發框架，來適配不同版式的證件，把註冊時間由原來的最快5天縮短到3分鐘左右的時間。”趙聞飆所舉的案例，是螞蟻集團利用技術優勢幫助東南亞地區進入移動支付時代的一個縮影。

　　為了響應共建“一帶一路”，螞蟻集團輸出身份安全、業務安全、産業風控、合規安全等全鏈路的安全風控産品與服務，支撐印尼、馬來西亞、菲律賓等14個國家和地區的移動支付安全保障及數字金融普惠。

　　“走出去”背後的技術支撐，則是以人像目標為核心的視覺智慧研究。今年，由螞蟻集團與清華大學共同完成的“無約束人像目標智慧感知與理解”，獲得了“吳文俊人工智慧自然科學獎”一等獎。這項研究揭示了人臉目標“不變性特徵學習”的重要性等三大重要科學發現，向行業開放的人臉識別平臺，在實現把人臉身份識別精度大幅提升的同時，還可將誤報率降低4倍。目前，螞蟻集團通過這項技術成果研發的可信身份認證産品與服務，已經成為多國網際網路APP的第一道“門禁”，並且覆蓋了電信、金融、公眾服務等10多個行業及領域。

　　更有想像的向實而生正在發生。隨著東南亞地區移動支付能力的建設，螞蟻集團在中國與東南亞、東南亞與東南亞之間，打開了一條資源要素流動的通道，這是提升開放能級的關鍵基礎設施，甚至可能將中國的企業、中國的産業帶去更廣闊的天地。

來源：潮新聞    | 撰稿：謝曄 張留    | 責編：俞舒珺    審核：張淵

新聞投稿：184042016@qq.com    新聞熱線：135 8189 2583