徒法不能以自行！給AI參與內容生産“立規矩”

熱點事件發生後，有人利用AI生成的假“照片”引流吸睛；網路直播間裏，有人利用AI生成的假“名人”瘋狂帶貨；現實社會中，有人利用“AI換臉”實施詐騙……

不時曝出的此類案例，讓不少人“破防”，更引發人們對AI濫用的擔憂。近日，國家網際網路信息辦公室、工業和資訊化部等多個部門聯合製定的《人工智慧生成合成內容標識辦法》正式施行。辦法聚焦人工智慧生成合成內容標識的關鍵點，從服務提供、內容製作、産品傳播等各個環節，對AI參與內容生産提出具體要求。

辦法的頒布實施，將對規範AI參與內容生産、防範AI被濫用立規矩、畫方圓。

近年來，生成式人工智慧取得長足發展，廣泛應用於人們日常生活的許多場景。新技術的運用，為經濟社會發展注入強勁動能，也帶來一系列濫用的新問題。

此前，“廣州限制外賣配送”“河南信陽市中心體育館驚險崩塌”……諸如此類“有圖有視有真相”的重磅“消息”，曾在網上廣泛傳播，引起大量網民關注。警方隨後調查發現，這些聳人聽聞的“消息”，是不法分子使用AI製作的網路謠言。

“名人效應”也是不法分子利用AI造假的重要動機。比如，一些不法商家盯上多位奧運冠軍，通過AI“盜聲”等方式，虛構奧運冠軍為自己帶貨。

人工智慧就像一柄雙刃劍，利用得好，能夠為工作、學習增添助力；AI被濫用，就會損害個人權益、搞亂網路環境、帶偏社會風氣。

利用AI生成的內容常常生動逼真，又沒有相關的標識説明，一些不法分子甚至專門針對網民“量身打造”行騙內容，普通民眾很難辨別真假。

相關部門推出的《網際網路資訊服務深度合成管理規定》明確提出，“任何組織和個人不得利用深度合成服務製作、複製、發佈、傳播法律、行政法規禁止的資訊，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動。”這為利用AI進行內容生産劃定了底線和紅線。

該規定第十七條提出，深度合成服務提供者提供服務，“可能導致公眾混淆或者誤認的，應當在生成或者編輯的資訊內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況”，從而給AI生成合成內容需要標注提出了法治化要求。

這次實施的《人工智慧生成合成內容標識辦法》，是《網際網路資訊服務深度合成管理規定》的配套制度要求。辦法第四條明確規定，服務提供者提供的生成合成服務，屬於《網際網路資訊服務深度合成管理規定》第十七條相關情形的，“應當”按照相應要求對合成內容添加顯著的提示標識。

辦法從AI生産內容的製作源頭開始全鏈條發力，對AI生成內容服務的提供者、使用者、發佈者、平臺等多角色開展約束，全方位完善制度體系，為防止AI濫用樹起了制度圍欄。

徒善不足以為政，徒法不能以自行。

從今年3月印發到9月正式施行，《人工智慧生成合成內容標識辦法》給相關單位留出了相對充分的準備時間。全面開展宣傳普及，讓辦法貫徹實施下去，為防範AI濫用發揮出應有效用，需要全社會合力推進。

生成合成內容服務提供者，要為落實標注要求提供堅實的技術支援，讓使用者開展標注可用、好用、易用。

相關企業和個人需要仔細掂量自己利用AI生産的內容，是否會損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益，做到知法、守法。對於違法行為，應當嚴厲查處，以儆效尤。

傳播平臺同樣要承擔起把關責任，既要“技防”也要“人防”，多管齊下，嚴防應該標注卻沒有標注的AI生産內容違規發佈。

治理AI濫用難題，還需要健全處置機制，強化執法協同，用好群眾力量，提升違規問題的發現能力和懲處效率。

為技術使用立好規矩，使用者、傳播者各司其職守好內容真實的底線，AI這項未來可能越來越深入、越來越廣泛影響我們日常生活的強大技術，才能趨利避害，不斷催生新場景、新業態，賦能千行百業，服務千家萬戶。

策劃：令偉家

統籌：朱斯哲、李代祥、劉雅萱

記者：尹思源

題圖漫畫：潘紅宇