據中國網信網消息,近日,國家網際網路信息辦公室、工業和資訊化部、公安部聯合發佈《網際網路資訊服務深度合成管理規定》(以下簡稱《規定》),自2023年1月10日起施行。其中提出,深度合成服務提供者和技術支援者提供智慧對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變資訊內容功能的服務的,應當進行顯著標識,避免公眾混淆或者誤認。
據了解,深度合成技術,是指利用深度學習、虛擬現實等生成合成類演算法製作文本、圖像、音頻、視頻、虛擬場景等網路資訊的技術,包括但不限于“篇章生成、文本風格轉換、問答對話等生成或者編輯文本內容的技術”“文本轉語音、語音轉換、語音屬性編輯等生成或者編輯語音內容的技術”“音樂生成、場景聲編輯等生成或者編輯非語音內容的技術”“人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態操控等生成或者編輯圖像、視頻內容中生物特徵的技術”“圖像生成、圖像增強、圖像修復等生成或者編輯圖像、視頻內容中非生物特徵的技術”“三維重建、數字倣真等生成或者編輯數字人物、虛擬場景的技術”等。
近年來,深度合成技術快速發展,在服務用戶需求、改進用戶體驗的同時,也被一些不法人員用於製作、複製、發佈、傳播違法和不良資訊,詆毀、貶損他人名譽、榮譽,倣冒他人身份實施詐騙等,影響傳播秩序和社會秩序,損害人民群眾合法權益,危害國家安全和社會穩定。出臺《規定》,是防範化解安全風險的需要,也是促進深度合成服務健康發展、提升監管能力水準的需要。國家網際網路信息辦公室有關負責人表示,出臺《規定》,旨在加強網際網路資訊服務深度合成管理,弘揚社會主義核心價值觀,維護國家安全和社會公共利益,保護公民、法人和其他組織的合法權益。
《規定》明確了制定目的依據、適用範圍、部門職責和導向要求。明確在中華人民共和國境內應用深度合成技術提供網際網路資訊服務,適用本規定。明確國家和地方網信部門統籌協調深度合成服務的治理和相關監督管理職責,國務院電信主管部門、公安部門以及地方相關部門的監督管理職責。明確提供深度合成服務的總體要求。鼓勵相關行業組織加強行業自律。
《規定》明確了深度合成服務的一般規定。強調不得利用深度合成服務從事法律、行政法規禁止的活動。要求深度合成服務提供者落實資訊安全主體責任,建立健全管理制度和技術保障措施,制定公開管理規則、平臺公約,對使用者進行真實身份資訊認證,加強深度合成內容管理,建立健全辟謠機制和申訴、投訴、舉報機制。明確應用程式分發平臺應當落實安全管理責任,核驗深度合成類應用程式相關情況。
《規定》明確了深度合成數據和技術管理規範。要求深度合成服務提供者和技術支援者加強訓練數據管理和技術管理,保障數據安全,不得非法處理個人資訊,定期審核、評估、驗證演算法機制機理。深度合成服務提供者對使用其服務生成或編輯的資訊內容,應當添加不影響使用的標識。提供智慧對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變資訊內容功能的服務的,應當進行顯著標識,避免公眾混淆或者誤認。要求任何組織和個人不得採用技術手段刪除、篡改、隱匿相關標識。
《規定》明確了監督檢查與法律責任。明確具有輿論屬性或者社會動員能力的深度合成服務提供者、技術支援者應當履行備案和變更、登出備案手續。上線具有輿論屬性或者社會動員能力的新産品、新應用、新功能的,應當開展安全評估。深度合成服務提供者、技術支援者應當依法配合網信部門和有關主管部門開展的監督檢查,並提供必要的支援和協助。發現存在較大資訊安全風險的,網信部門和有關主管部門可以按照職責依法要求其採取暫停資訊更新、用戶賬號註冊或者其他服務等措施。明確違反規定的法律責任。
《規定》明確了相關用語的含義。要求深度合成服務提供者和技術支援者從事網路出版服務、網路文化活動、網路視聽節目服務的,應當同時符合有關主管部門的規定。
國家網際網路信息辦公室有關負責人指出,深度合成服務治理需要政府、企業、社會、網民等多方主體共同參與,推動深度合成技術的依法、合理、有效使用,積極防範化解深度合成技術帶來的風險,促進網際網路資訊服務健康發展,維護網路空間良好生態。
(責任編輯:畢安吉)