全球新一輪科技革命和産業變革方興未艾,而作為引領新一輪科技革命和産業變革的核心驅動力量之一,人工智慧近年來被廣泛應用於金融、電商、醫療等領域。

風生水起之餘,人工智慧産業也暗藏隱憂:隨著全球人工智慧規模化建設和應用的加速,人工智慧基礎設施、設計研發及融合應用面臨的安全風險正日益凸顯。由中國資訊通信研究院聯合瑞萊智慧RealAI、百度、騰訊等單位共同撰寫的《人工智慧安全框架(2020年)》顯示,隨著深度偽造技術開源代碼、APP應用增多,不法分子利用深度偽造技術製作虛假視頻侵犯個人肖像權、名譽權和隱私權的現象屢見不鮮。截至2019年12月份,全網流傳的深度偽造視頻中,虛假色情內容佔比高達96%。

而這只是問題的冰山一角。指紋和人臉識別留下的生物特徵資訊、自動駕駛留下的個人行蹤記錄、手機APP保存的個人隱私數據,醫院裏留存的診斷治療記錄……人工智慧跑步進入人們工作生活的眾多場景,用戶各種行為被記錄並作為數據保存起來,由此帶來的數據洩露、數據偽造、演算法瓶頸、隱私安全、倫理困境等問題如今正一點點浮出水面。據有關報道,今年7月份就有不法分子在電商平臺販賣人臉資訊,以5角錢一份的低價打包出售後,被盜的人臉資訊被用於虛假註冊、電信網路詐騙等違法犯罪活動。

尷尬的是,《人工智慧安全框架(2020年)》顯示,現階段人工智慧企業主要聚焦于技術研發和産品運營,在人工智慧安全方面投入相對較少、基礎薄弱。目前,人工智慧安全技術多處於學術研究和少量試驗試用階段,尚未形成適用於各類人工智慧應用的成熟安全産品和服務體系。

人工智慧産業健康有序發展,安全是重要保障,是形勢所需,也是一些技術落地不可或缺的前提。離開了安全談人工智慧,猶如無水之源、無本之木。實踐也已證明,時下人工智慧安全需求與企業安全投入不足以及人工智慧安全産品服務欠缺之間的矛盾,正成為制約人工智慧産業長遠發展的瓶頸。

站在發展困境與時代機遇重疊的關鍵時刻,業界期待産學研各界協同合作,不斷完善與升級出更安全、可信、可靠的人工智慧技術,扎牢人工智慧安全的籬笆,讓人們能安心享受這一技術紅利。