人工智慧合成內容新規落地 AI生成內容不得“隱身”傳播

　　AI生成內容不得“隱身”傳播。昨天，國家網信辦等四部門聯合發佈的《人工智慧生成合成內容標識辦法》(以下簡稱《標識辦法》)正式施行，所有AI生成的文字、圖片、視頻等內容均須“亮明身份”。新規落地之際，多家網際網路平臺響應，相關用戶協議已修改升級，將嚴打對AI生成技術的濫用行為。

　　各社交平臺更新用戶協議

　　“AI‘假孫子’總算現原形了。”昨天，市民劉先生打開一家短視頻平臺，發現之前奶奶愛看的“萌娃”短視頻下面多了一行小字：“作者提示：內容為AI技術製作，虛構內容請謹慎甄別”，“這下老人總該相信，這些一兩歲的孩子洗菜燒火都是假的了。”

　　提示小字的上線，與《標識辦法》密切相關。據規定，利用人工智慧技術生成的文本、圖片、音頻、視頻、虛擬場景等資訊，必須添加顯式和隱式兩種標識。顯式標識指可以被用戶明顯感知到的標識，隱式標識指在生成內容的數據中添加的標識。

　　“哪些內容是生成的”“內容從哪生成的”“誰生成的這些內容”……《標識辦法》明確了生成合成內容製作傳播各主體的責任義務。比如服務提供者應在內容生成、傳播、下載等環節確保標識完整；網際網路應用程式分發平臺應審核應用是否具備添加標識功能；個人用戶發佈生成內容時應主動聲明。

　　新規落地後，記者注意到，各社交媒體平臺相關用戶協議已有所更新。微信、視頻號、抖音、B站、微網志、小紅書等平臺，要求內容發佈者以顯著方式主動標識AI生成內容。對於不主動標識AI生成內容的行為，部分平臺表示會採取限流、下架、封號等措施。同時，部分社交平臺表示，還將對可能是AI生成合成的內容進行相應提示，以便用戶清晰識別。

　　完善標識防範AI以假亂真

　　給AI生成合成內容加上標識，為何需要單獨出臺文件加以規制？據悉，標識制度的獨特製度價值已經成為國際共識。日前，美國、新加坡、歐盟、英國等國家和地區紛紛採取措施推進生成式人工智慧標識制度的建立。

　　“標識制度的主要目標是實現大規模、高可靠性和低成本的監管。”中國科學院科技戰略諮詢研究院研究員肖尤丹表示，此次新規雖然切口小，但可以用較小的合規成本，較好地解決當前AI技術快速發展帶來的新問題。標識制度對利用AI技術抄襲、搬運內容的新媒體行銷號無疑是一次沉重打擊。同時，平臺方可以追溯到服務提供者，明確其是否履行了標識義務。

　　作為我國人工智慧領域首部“辦法+強制性國家標準”的“組合拳”，配套的強制性國家標準《網路安全技術人工智慧生成合成內容標識方法》也于昨天同步施行。該標準針對人工智慧生成合成標識的技術實現方式給出了更加細緻、精準的指引，並配以具體的實現範例。例如視頻內容顯式標識要求，文字提示高度不低於畫面最短邊的5%，持續時間不少於2秒等。

　　“這有助於相關行業各主體採取相應的技術措施、全面準確落實內容標識義務，並實現標識技術的標準化，提高互認程度，降低由於標準不統一帶來的合規成本。”中國社會科學院大學網際網路法治研究中心主任劉曉春表示。

　　整治AI濫用也需防誤傷

　　AI生成內容，已成當下熱門內容賽道，百度、B站、字節跳動、快手等，都曾針對生成式AI的創作者提供流量資源扶持、現金補貼等活動。與此同時，AI生成的違規內容資訊也紛至遝來，不少社交賬號利用AI技術造假、博眼球快速“吸粉”起號，批量製造虛假人設，大量推送獵奇、養生、情感等內容，並可通過引流帶貨、賬號轉賣等方式變現。

　　針對這一新形勢，今年4月開始，中央網信辦開展了為期3個月的“清朗·整治AI技術濫用”專項行動，共攔截清理相關違法違規資訊82萬餘條，處置違規賬號1400余個，下線違規智慧體2700余個。

　　除了要求以顯著方式主動標識AI生成內容外，多個平臺也發佈公告，重點整治AI生成濫用，其中，利用AI生成低俗獵奇視頻、AI生成虛擬外國幼兒教育專家教授育兒內容、AI生成國際軍事虛假內容等，正成為重點整治對象。

　　值得注意的是，目前有網路用戶表示，自己發佈畫作、文章、視頻被“誤傷”，明明是原創內容，卻被平臺誤判為“疑似AI合成”，面臨作品被限流、下架的問題。據悉，目前業內在AI低質內容治理方面，佔比九成以上的審核工作由機器來完成，機器審核準確率難以達到100%，仍需人工不斷校準。

　　對此，業內專家建議，未來平臺應完善復核機制，建立便捷、有效的申訴渠道，如有條件，還可在演算法識別基礎上引入專家評估機制，綜合判斷內容是否為AI生成。