周鴻祎發起大模型安全聯盟：聯合大模型生態 推動産業發展

　　作為打造新質生産力的核心引擎，人工智慧大模型對傳統産業數轉智改、數實融合發揮出巨大的推動作用，與此同時，大模型面臨的惡意操控、內容合規、演算法與隱私安全攻擊等問題也日漸凸顯，帶來新的安全風險與挑戰。在這一背景之下，12月17日，360集團集結産業上下游合作夥伴、科研機構及最終用戶共同在北京成立大模型安全聯盟，旨在構建開放協作的大模型安全産業新模式，推進産業生態的全面融合。

　　關注大模型存在的安全風險已成為當下各界的重要共識。中國網路空間安全協會秘書長郝曉偉、中國電子資訊産業發展研究院黨委副書記胡國棟、360集團創始人周鴻祎、360集團首席運營官葉健，以及生態夥伴代表，聯想集團副總裁、中國區首席戰略官、聯想中國技術管理委員會執行主席阿不力克木·阿不力米提、騰訊雲高級副總裁徐翊鳴、中國載人航太工程軟體和數字化中心主任程勝、MiniMax合夥人魏偉、百度智慧雲泛科技行業解決方案總監栗偉、清華大學教授黃永峰、北京大學(臨港)大模型對齊中心執行主任、北京阿萊門科技有限公司首席執行官徐驊、隱拓智安創始人、CEO張天鑫等出席成立儀式。

　　郝曉偉在致辭中指出，當前人工智慧安全風險日益凸顯，期待基於此次契機，打造協會與企業的創新合作模式，共用技術創新與産業融合的最新成果，聯合應對人工智慧安全的新問題、新挑戰。360集團作為中國網路安全空間協會的理事單位，始終積極參與並推動協會相關工作。此次在協會與企業的緊密協作下，各方將持續發揮自身優勢，為打造人工智慧先鋒産業生態貢獻更多力量。

　　周鴻祎在發言時表示，人工智慧技術是一把“雙刃劍”，在帶來自動化和先進工作生活方式的同時也帶來很多安全問題，甚至不亞於核武器，是人類有史以來面臨“最大的安全挑戰之一”，遠超過傳統數字安全。尤其是包括其他國家的網路軍隊、黑産、灰産的組織者甚至犯罪分子等也可以利用大模型，提升找漏洞、寫攻擊代碼的能力，因此未來網路安全可能會從人與人的對抗，變成機器與人的對抗，再發展為機器與機器的對抗。

　　在周鴻祎看來，人工智慧在提升生産力的同時，也帶來了包括幻覺、深度偽造、注入攻擊、數據污染或投毒等前所未有的安全新挑戰。而隨著大模型在無人駕駛汽車、無人機、智慧機器人等領域的應用日漸廣泛，一旦産生幻覺等安全問題，可能對個人、社會甚至國家安全形成重大隱患。如果安全問題得不到有效的控制和解決，又可能會讓政府監管機構對人工智慧充滿顧慮和疑慮，從而出臺更多的限制政策，這對産業發展同樣形成挑戰。

　　據了解，作為兼具數字安全和AI雙重能力的科技企業，360很早開始關注大模型安全風險，並推出一系列有針對性的創新技術，包括開發了國內首個安全大模型，通過“以模制模”理念，利用AI大模型來檢測和防範大模型可能出現的安全風險，既解決傳統網路安全問題，又為攻克AI安全新挑戰提供了可行性方案。

　　除宣佈聯盟成立外，360也在成立儀式上推出了一系列大模型安全産品，包括大模型系統安全檢測平臺“360智鑒”；大模型內容安全護欄“360智盾”；大模型可信增強工具“360智搜”；以及基於“內聚知識，外聯情報”理念專為企業打造的智慧知識管理與應用平臺360智慧文檔雲3.0，和針對情報監測與分析提供一站式解決方案的360輿情衛士。

　　值得一提的是，成立大模型安全聯盟並非周鴻祎首度發起行業大聯合行動。去年，360發起成立大模型産業聯盟，經過一年發展，成員已突破千家，核心夥伴超400家，覆蓋十幾個行業；今年360開放了安全衛士、安全瀏覽器、搜索、智慧硬體四大AI應用場景，聯合國內16家主流大模型廠商，共同開啟國內最強“大模型聯盟”，打造了360AI助手，在多項打分上全面超過GPT-4o。

　　周鴻祎在發佈儀式上表示，組建大模型安全聯盟的意義在於要解決大模型發展過程中出現的安全問題，這既需要像360這樣的網路安全專家，也需要對大模型有深入研究的同行。

　　周鴻祎對聯盟提出三個期望：第一，開放性，隨時歡迎更多的大模型從業者加入；第二，技術上互通有無，形成真正保護大模型的應用成果；第三，希望聯盟能發出自己的聲音，讓公眾在重視安全的同時，對大模型可能犯的一些小錯能夠寬容和理解。周鴻祎認為，通過大模型安全聯盟的組建，如果能提出解決大模型安全問題的中國方案，那麼對全世界的大模型應用安全都有意義。