7月5日,在2024世界人工智慧大會“邁向AGI:大模型煥新與産業賦能論壇”上,螞蟻集團聯合清華大學發佈大模型安全一體化解決方案“蟻天鑒”2.0版。蟻天鑒2.0新增AI鑒真功能,支援圖像、視頻等多模態內容真實性及深度偽造檢測;並在測評功能上持續升級,打造了大模型安全測評“智慧體”,並新增大模型X光、大模型基礎設施測評兩大測評功能。至此,蟻天鑒2.0形成了包括大模型基礎設施測評、大模型X光測評、應用安全測評、AIGC濫用檢測、證件偽造檢測、圍欄防禦等在內的完整技術鏈條,面向行業提供全方位智慧化的大模型安全測評和防禦解決方案。
(圖:螞蟻集團聯合清華大學發佈“蟻天鑒2.0”)
螞蟻集團副總裁、大安全技術部總裁李俊奎現場發佈了這一升級産品,並介紹道,大模型和Agent智慧體正帶給我們前所未見的智慧體驗,同時也帶來了模型內部幻覺、安全漏洞和深度生成內容濫用等新的挑戰。蟻天鑒旨在打造AI大模型的安全鎧甲,確保大模型技術在安全可靠的環境中發揮效能。
記者從現場了解到,蟻天鑒2.0有兩大特色,一是在測評端研發了業內首個“測評智慧體”。該測評智慧體提供全流程自動化的安全測評工具,支援各種形式模型和深度學習框架,可擴展測評垂類大模型、多模態大模型及Agent智慧體,並能根據被測大模型的安全水位動態調整攻擊策略和出具測試用例,保障測評效果和效率。目前,蟻天鑒2.0有超300萬高品質測評題庫,支援最高50萬/日的飽和式攻擊和逐級誘導深度攻擊,並實現了1工作日內完成測評,全流程自動化率>99%。
與此同時,該智慧體也增加了兩項新功能。一是“大模型X-ray”。即大模型X光,可針對大模型的內在神經元進行X光掃描來做探查和判斷,讓研究人員了解大模型內部在發生什麼、定位可能引發風險的神經元、並進行編輯修正,從而在模型內部治理幻覺,實現從源頭識別和抑制風險。二是“大模型基礎設施測評”。此前蟻天鑒的測評能力主要集中于大模型生成的內容安全、合規風險等檢測。蟻天鑒2.0從攻擊者全鏈路視角出發,深入掃描模型演算法組件及軟體系統,可及時準確發現大模型供應鏈及運作環境安全問題,保障雲到端的應用安全可控。
同時,蟻天鑒2.0防禦端新增“AI鑒真”功能。支援多模態內容真實性及深度偽造檢測,可快速精準鑒別圖像、視頻、音頻、文本內容的真偽,圖像識別準確率99.9%達到行業最高優秀級(信通院測評)。目前,蟻天鑒2.0依託生成模型自建百萬量級音視圖多模態合成數據集,覆蓋主流生成方案,有效應對AI換臉、聲音模擬、證件偽造等各類深度偽造風險場景。
(圖:蟻天鑒2.0大模型安全一體化解決方案全景圖)
據了解,螞蟻集團是國內較早佈局大模型安全的廠商。蟻天鑒去年7月首次對外發佈,1.0版本即被評為2023年世界人工智慧大會“鎮館之寶”。歷時1年升級到2.0版,蟻天鑒2.0構建了雙重防禦護欄,內置防護關注訓練階段的數據清洗和風險抑制;外置護欄融合智慧風控技術,精準攔截輸入和輸出的風險內容,保障其應用安全。
目前,蟻天鑒的檢測與防禦産品已開放給20家外部機構和企業使用,為通用大模型及醫療、金融、政務等垂直領域行業大模型應用安全保駕護航。例如,上海市第一人民醫院引用了蟻天鑒,有效應對醫療領域大模型應用中的資訊安全與隱私保護、雙向內容風險防控等挑戰;螞蟻AI金融助理“支小寶”結合蟻天鑒,通過大模型訓練與推理風險管控、大模型風險點全方位評測、大模型用戶交互風險管控等舉措保障大模型應用安全,確保數據的準確性和金融邏輯的嚴格性。2024年,蟻天鑒商業化邁出重要一步,通過螞蟻數科開始服務廣泛的外部客戶。
論壇現場還發佈了由清華大學、中關村實驗室、中國信通院、螞蟻集團聯合編制的《大模型安全實踐白皮書(2024)》。這也是國內首份“大模型安全實踐”研究報告,為行業打造高價值參考體系。
(圖:大模型安全實踐白皮書現場發佈)
白皮書基於當前大模型發展趨勢與挑戰,提出了大模型安全實踐總體框架。即確立了“以人為本,AI向善”為大模型安全建設的核心,確保技術進步服務於人類福祉;以“安全、可靠、可控”三個核心維度的大模型安全技術體系,涵蓋大模型安全測評與防禦的綜合技術方案;以及“端、邊、雲”為大模型安全技術的主要承載實體。作為企業撰寫方,螞蟻集團安全生態副總裁邵曉東進行了現場發佈並表示,白皮書還闡述了大模型在金融、醫療、政務等領域安全應用的案例,以及“五維一體”協同共治的治理框架,希望行業共同推動大模型安全生態發展。
本場論壇匯聚了國內外研究機構和頂尖學者以及産業人士等,從前沿技術、産業應用等不同視角分享了大模型安全的研究,探討端雲協同、端側應用等最新趨勢以及大模型安全最新體系與實踐。這些深入的討論,也將為大模型如何安全可靠地助力産業轉型升級、推進數字經濟發展提供更加明確的前進方向。
(責任編輯:張紫祎)