7月9日,2024(第二十三屆)中國網際網路大會在北京國際會議中心開幕。360智腦總裁張向徵受邀出席,並就大模型安全的重要性以及在落地應用過程中的四大原則和“以模制模”理念進行了全面分享。
會上,張向徵明確指出,大模型不僅是數智化時代的重要基礎設施,安全是大模型應用的基石,大模型的發展要遵循的“安全、向善、可信、可控”四大原則。此外,360集團在實踐中也提出“以模制模”的理念,用專業知識訓練的大模型做大模型的安全識別、評估和管控。
具體而言,大模型生態鏈安全檢測系統,可以確保模型環境安全。值得一提的是AISE人工智慧系統安全檢測平臺,作為國內首個支援系統化安全檢測、首個支援提示注入風險檢測的平臺,不僅支援針對多種安全風險測評,更能覆蓋圖像識別、人臉識別、目標檢測、生成式AI等多場景,輸出安全評分及分析報告,並提供相應的安全加固方案。智腦風控引擎,為大模型內容安全保駕護航。在使用安全工具的輔助下,大模型風控能力的迭代效率也將提升。基於安全工具增強,360紅藍對抗團隊僅需輸入風險主題和目標大模型,即可對線上大模型的風險自動巡查。而微調和強化學習技術的引入,也有效提升大模型回復安全。另外,基於幻覺檢測Agent,大模型輸出可信度也得到進一步的提升。這一套完善的大模型安全方案支援SaaS、私有化、混合雲、公有雲多種部署或交付方式,滿足企業對便捷、成本、安全等多種因素的個性化需求。
在大模型安全解決方案上,360集團從未停歇。從技術創新到舉辦大模型攻防競賽,再到參與大模型國家標準的編寫,360集團始終致力於為AI大模型的安全發展貢獻力量,護航大模型應用,助力數智化轉型。
(責任編輯:譚夢桐)