北京市人大代表李雪瑩：健全保障機制，推動北京市人工智慧創新發展

從AlphaGo戰勝人類棋手，到ChatGPT開啟的AI狂潮，在“子彈”飛過一段時間後，人工智慧技術及産業不斷加速發展，引來了更多的關注。AI應用從消費、網際網路等領域，不斷延申到製造、電力等傳統行業。

2023世界人工智慧大會上，工信部副部長徐曉蘭表示，我國人工智慧核心産業規模達到5000億元，企業數量超過4300家，智慧晶片、開發框架、通用大模型等創新成果不斷涌現。

但是，問題也隨之而來。

北京市人大代表、天融信科技集團董事長兼CEO李雪瑩介紹，“當今時代，人工智慧被廣泛應用於通信、醫療、教育、交通、安防等各個領域，改變著人們的生産生活模式。但與此同時，人工智慧帶來的安全隱患與道德爭議，也讓各界對AI技術更加重視，對其應用變得更加謹慎。”數據洩露、演算法偏見、AI技術被濫用、安全隱患、法規不完善等問題亟待解決。

新技術的應用往往蘊藏新的安全風險、帶來新的安全挑戰。今年北京市兩會期間，李雪瑩代表與記者交流時談到，目前人工智慧技術應用面臨多重風險，缺乏有效的安全評估和管理機制，同時數據安全問題成為制約人工智慧産業發展的主要因素，健全人工智慧創新發展的安全保障機制已十分必要。

根據《數字時代安全科技價值報告》顯示，人工智慧安全風險可分為三類：第一是內生安全，由軟硬體系統組成的人工智慧系統，也會存在技術本身的脆弱性和數據依賴性等缺陷；第二是衍生安全問題，即人工智慧被利用或不恰當使用而可能引發其他領域的一些重大安全事故，如深度合成偽造聲音和視頻的電信詐騙；第三是人工智慧系統面臨的外部入侵和攻擊。與此同時，人工智慧模型訓練需要海量、高品質數據，數據品質、數據規模直接影響人工智慧模型的準確性及可靠性。人工智慧安全風險與網路安全、資訊安全風險交織疊加，人工智慧應用的安全評估和管理已成為當前亟待解決的問題。

針對以上問題，李雪瑩代表提出三點建議：一是引入人工智慧産品準入機制，制定人工智慧應用安全風險評估與管理規範；二是鼓勵人工智慧安全應用技術創新，打造人工智慧數據安全最佳實踐；三是推動人工智慧在網路安全領域應用，以人工智慧技術防範人工智慧風險。