中國不斷規範生成式人工智慧發展

受訪專家：中國人民大學法學院副教授、未來法治研究院執行院長張吉豫

據美國消費者新聞與商業頻道網站近日報道，中國國家網際網路信息辦公室表示，該辦公室聯合其他幾個監管機構公佈了《生成式人工智慧服務管理暫行辦法》，自2023年8月15日起施行。報道稱，生成式人工智慧是一個快速發展的技術領域，能夠生成文本或圖像等內容。美國開放人工智慧研究中心開發的聊天生成預訓練轉換器（ChatGPT）是最廣為人知的一個例子。ChatGPT的成功引發了競爭對手的涌現，也引起全球各地監管機構對這一技術領域潛在風險的擔憂。報道説，中國國家網信辦公佈的暫行辦法為科技巨頭在技術方面提供了一個業務規範。 

生成式人工智慧服務主要基於大規模語言模型，幫助用戶生成文本、圖片、音頻、視頻等內容。目前，中國開發的大規模語言模型（下稱：大模型）有80余個。參與模型開發的主要有大型科技公司、高校以及電信設備製造商等。截至今年5月，據不完全統計，中國國內已有超過40家公司、機構發佈了生成式模型産品或公佈了生成式模型研發計劃。大模型項目數量井噴式增長，凸顯生成式人工智慧服務在中國迅猛發展的態勢。

自3月14日GPT—4正式發佈以來，生成式模型開始具備同時處理圖片和文字的多模態能力，應用場景也隨之多元化。目前，生成式的大模型可用於電商客服、法律服務、日常辦公、平面設計等多個領域，在自動化寫作與內容生成、智慧客服與線上客戶支援、生成插圖和設計物料以及代碼編寫等方面有出色表現。

技術發展對法律規定提出更高要求。近年來，中國相關部門十分重視人工智慧領域發展，不斷推出相關規定完善監督體系。2021年，國家網信辦等四部門出臺《網際網路資訊服務演算法推薦管理規定》；2022年，國家網信辦等三部門聯合發佈《網際網路資訊服務深度合成管理規定》，該文件主要針對應用深度合成技術提供網際網路資訊服務進行監管。今年6月20日，國家網信辦發佈《境內深度合成服務演算法備案清單》，美團線上智慧客服演算法、快手短視頻生成合成演算法、百度文生圖內容生成演算法、百度PLATO大模型演算法、火山引擎智慧美化特效演算法、騰訊會議虛擬背景演算法、天貓小蜜智慧客服演算法、訊飛語音識別演算法等41款深度合成技術服務演算法獲得備案，其中文本對話、智慧客服等是主要應用場景。有機構認為，該清單的發佈體現了中國科技企業對演算法備案等合規義務的認真態度，標誌著國家對推動前沿人工智慧技術規範化發展的決心，人工智慧産業化落地有望加速開啟。自2022年底ChatGPT發佈後，全鏈條視角看待生成式人工智慧秩序的維護和監管加速提上日程。

接下來，需要密切關注大模型的迅速發展。業內不少聲音指出，未來大模型將成為數字空間或網際網路空間新層次，向用戶提供所謂“模型即服務”。這類服務能夠根據用戶不同需求進行擴展和定制，使應用更加靈活及個性化。用戶也可通過應用程式介面等方式與模型進行交互，利用人工智慧解決實際問題。

人工智慧技術普及在為人類生活帶來便利的同時，也帶來很多挑戰。比如，大規模語言模型存在本身固有問題。雖然生成式人工智慧技術日趨成熟，但大模型內部結構複雜，很難精確控制其輸出。目前，大模型已知風險主要表現為産生不當內容，如虛假消息、帶有歧視性言論、侵犯個人隱私和個人資訊以及侵犯商業秘密等。儘管現有技術能夠在一定程度上減少此類問題發生，但實際效果不盡人意。此次《生成式人工智慧服務管理暫行辦法》（以下簡稱《辦法》）出臺將促進人工智慧良性發展。人工智慧産業是經濟發展新引擎，《辦法》鼓勵生成式人工智慧服務創造新的經濟增長點。《辦法》旨在維護國家安全、社會公共利益、公民合法權益等的同時，用科學合理的措施進行監管，推動人工智慧産業朝著健康積極的方向前進。

未來，生成式人工智慧服務要實現良性發展，必須把好安全關：一是積極推動科技向善。將科技的創新力與以人民為中心的發展理念相結合，保護用戶個人隱私及數據安全，在法律引導下使科技應用符合社會公眾期待，做到科技産業為民服務。二是在規避大模型已知風險方面發力。人工智慧服務提供者在研發以及對外提供服務過程中，需依照有關規定採取必要的措施，改進演算法、合規化數據，完善模型架構。三是營造可信的人工智慧發展環境。提升人工智慧演算法透明度，加強技術研發和創新，提高人工智慧産品的安全性和穩定性。與此同時，應當推進生成式人工智慧發展所需的算力基礎設施、優質數據集等建設，更好地促進産業發展。

（王曼曼採訪整理）