文 ｜ 朱步樓 江蘇省政協專家諮詢委員會副主任

人工智慧作為新一輪科技革命和産業變革的重要驅動力量，具有技術屬性與社會屬性高度融合的特點，在推動生産力發展的同時，也帶來新的風險和挑戰。習近平總書記強調：“要堅持促進發展和依法管理相統一，既大力培育人工智慧、物聯網、下一代通信網路等新技術新應用，又積極利用法律法規和標準規範引導新技術應用。”黨的二十屆三中全會《決定》提出“完善生成式人工智慧發展和管理機制”“建立人工智慧安全監管制度”。堅持發展與治理、創新與安全並重，全面提升人工智慧安全治理水準，既是保障人工智慧健康有序發展的迫切需要，也是推進國家治理體系和治理能力現代化的重要內容。

堅持以人為本和智慧向善的價值導向。發展人工智慧，根本目的是造福人類、增進人民福祉、促進人的全面發展。習近平總書記強調：“堅持以人為本、智慧向善，在聯合國框架內加強人工智慧規則治理”。堅持以人為本、智慧向善，就要讓人民群眾共用人工智慧發展紅利，不斷提升人民群眾獲得感、幸福感、安全感，防範濫用人工智慧技術給社會帶來危害，引導人工智慧向善而行。提高人工智慧安全治理水準，一方面要引導人工智慧發展以增進人類共同福祉為目標，以保障社會安全、尊重人類權益為前提，確保人工智慧始終朝著有利於人類文明進步的方向發展；另一方面要在法律、倫理等層面引導人工智慧的價值取向，確保人工智慧發展安全可控。

構建人工智慧安全治理的政策法規和制度體系。要加快人工智慧立法進程，制定具有前瞻性的人工智慧法律法規，為人工智慧安全治理提供堅實法律基礎。健全基礎設施安全保護、跨境數據安全監管、人工智慧安全服務認證等一系列制度，落實人工智慧安全治理責任制，清晰界定相關主體權利、義務和責任邊界，建立問責和追溯機制，形成人工智慧安全治理的制度體系，以良法善治實現激勵發展與合理規制的有機統一，確保人工智慧安全、可靠、可控，朝著有利於維護國家安全、促進經濟社會發展、增進人民福祉的方向發展。

完善與人工智慧技術發展相適應的科學監管方式。人工智慧迭代速度快，處於一種不斷變化的狀態中，必須完善與其發展相適應的科學監管方式。適應産學研用深度融合的人工智慧發展態勢，健全縱向有機銜接、橫向有機聯繫的監管網路，將安全治理嵌入研究開發應用的全過程。加強對潛在風險研判和防範，根據技術發展、行業領域、應用場景等因素建立並動態調整人工智慧分級分類標準，對大模型可能産生的安全風險開展合規性評估。加強安全保護基礎理論研究和前沿安全技術研究，推動人工智慧安全技術創新，開發先進加密技術、認證技術和通用大模型安全可控技術，鼓勵跨學科研究，推進人工智慧與網路安全、資訊安全等領域融合，防範數據洩露、惡意攻擊和其他安全漏洞，以高效能科學監管提升人工智慧安全治理水準。

形成共建共治共用的人工智慧安全治理格局。推動人工智慧健康發展，需要多方協同、共建共治。加強政府主導，建立人工智慧監管統籌協調機制，發揮其在戰略規劃、風險管控、規則制定、社會服務體系等方面的總體協調作用。引導行業組織、企業、教育和科研機構、網路平臺和有關專業機構強化審慎自律，支援其在人工智慧安全風險防範方面開展協作，構建多部門協調、多學科融合、多元主體參與的人工智慧安全治理框架和工作體系。同時，搭建公眾參與安全治理的線上線下平臺，建立起人人有責、人人盡責、人人享有的人工智慧安全治理體系，形成人工智慧安全治理的強大合力。