近年來，隨著人工智慧技術不斷取得迭代式發展，國際社會與各國政府也在加速推進對人工智慧技術加以有效監管的探索。在這一過程中，如何通過多方對話協調，最終實現具有包容性的全球人工智慧技術治理框架，或將在很大程度上決定，這項技術會增進人類福祉與團結，還是不幸與之相反。
一
當地時間5月21日，“人工智慧首爾峰會”在南韓首爾開幕。此次峰會作為去年11月在英國召開的全球人工智慧安全峰會的後續會議，由南韓與英國共同主辦，以“安全、創新、包容”為主題。
聯合國秘書長古特雷斯在峰會開幕式上表示，自去年英國布萊切利峰會召開以來，“我們看到了改變生活的技術進步，也看到了威脅生命的新風險”。他認為，需要就人工智慧問題制定普適的防護措施，並定期開展對話。
有媒體指出，在去年的英國會議召開期間，人工智慧技術還主要以單模態生成式人工智慧（如文本、視頻）為代表，風險與安全方面的關注點也聚焦在單模態內容方面。而此後短短數月間，多模態生成式人工智慧已經成為行業發展的新重點，這令其生成內容的真偽更難以鑒別，人工智慧技術的風險，也變得更加難以預測和難以控制。
在21日的線上峰會之後，與會各方發佈人工智慧《首爾宣言》，呼籲加強國際人工智慧治理合作以及治理框架之間的互操作性，支援啟動首個國際人工智慧安全研究所網路，促使國家間形成對人工智慧安全的共同理解，並在研究、標準和測試方面進行協調。
同日，包括微軟、亞馬遜、OpenAI等科技巨頭在內的16家全球領先的人工智慧科技公司，在峰會期間作出“前沿人工智慧安全承諾”，將努力確保其最先進的人工智慧模型的安全性，並實施負責任的治理，實現公開透明。
根據這項協議，一旦發生利用人工智慧技術實施自動網路攻擊等極端情況，且無法保證降低其風險，這些企業將打開“緊急停止開關”，叫停人工智慧模型的開發與部署進程。
二
就在首爾峰會召開的同日，歐洲理事會批准了歐盟《人工智慧法案》，這是世界上首部對人工智慧進行全面監管的法案。
該法案由歐盟委員會在2021年提出，經過多輪談判和協商後，歐洲議會於今年3月13日批准該法案。在獲得歐洲理事會批准後，該法案還需經歐洲議會和歐洲理事會主席簽署，于近日在歐盟官方公報上公佈，並在公佈20天后生效。
歐盟發佈資訊的顯示，《人工智慧法案》採用基於風險的方法，對不同風險等級的人工智慧系統實施分類監管。風險分為四類，風險等級越高，管控越嚴格。
此外，歐盟的《人工智慧法案》規定“適用於區域外”，這意味著在歐洲開展業務的各國企業都必須遵守該法案。
歐盟的目標是，在2026年內全面施行《人工智慧法案》。不過，風險級別最高的“禁止”條款預計率先於2024年底啟動適用。
除了本次通過的法案之外，此前歐盟在人工智慧監管領域還推出了一系列相關或配套的法律措施。例如，歐盟通過的《人工智慧框架公約》，提出了一個涵蓋人工智慧系統全生命週期的監管法律框架；此外，歐盟還制定了《人工智慧契約》，旨在幫助企業為剛剛通過的《人工智慧法案》實施做好準備。
有分析人士指出，從《通用數據保護條例》（GDPR）到《數字服務法案》《數字市場法案》，再到《人工智慧法案》，歐盟在數字經濟監管上的創新不僅僅體現在具體的監管措施，其規則輸出的“布魯塞爾效應”也愈發凸顯，其嚴格的人工智慧監管模式或將對全球人工智慧發展與應用産生深遠影響。
三
自2022年11月ChatGPT橫空出世以來，各類人工智慧技術進入應用爆發階段。從文生文，到文生圖（諸如 Midjourney），再到文生視頻（Sora大模型），乃至文生音樂（Suno V3大模型），人工智慧産業發展已顯現出無限想像空間。
諮詢機構麥肯錫預計，人工智慧技術將給全球經濟帶來超過7.9萬億美元價值，到2030年之前，如果生成式人工智慧技術應用於各行業，每年總經濟效益高達6.1萬億美元至7.9萬億美元。
然而，就在首爾人工智慧安全峰會召開之際，《科學》雜誌發表了一篇由全球25位人工智慧領域科學家撰寫的專家共識論文。文章認為，當今全球在保護人類免受人工智慧技術可能滋生的風險方面做得還不夠。文章建議，對於未來異常強大的人工智慧系統，全球各國政府必須準備好在監管方面發揮帶頭作用。
更早些時候，一份由30多個國家的專家支援的全球人工智慧安全報告顯示，如果人工智慧技術的應用得不到有效監管，勞動力市場遭受大規模衝擊，利用人工智慧技術實施的駭客攻擊或生物攻擊，以及社會對人工智慧失去控制等風險可能會出現。
在人工智慧技術提速發展，以及與之相伴的越來越多的安全預警面前，全球人工智慧技術監管與治理體系的完善，也愈加成為迫在眉睫的嚴肅課題。
今年5月30日至31日，負責資訊通信事務的聯合國專門機構國際電信聯盟，將主辦人工智慧向善峰會，邀請各國相關領域的領軍人物共商今後人工智慧善治之道；今年9月，聯合國未來峰會也計劃通過《全球數字契約》作為峰會成果之一。
(責任編輯：沈曄)