分享縮略圖

分享到:
連結已複製
首頁> 智庫中國>

高艷東:防範AI復活法律風險,引導數字人安全發展

2024-03-26 13:30

來源:環球時報

分享到:
連結已複製
字體:


文 | 高艷東 浙江省新型重點專業智庫浙江數字化發展與治理研究中心研究員

近日,一些網路博主使用人工智慧(AI)技術“復活”已故明星引發廣泛關注。不僅李玟、張國榮、喬任梁等明星被“數字還原”的視頻瘋傳,還有人借機推廣收費定制服務。目前,AI復活還只是用圖像和音頻技術合成,類似于視頻數字人。隨著生成式人工智慧的發展,出現如電影中可以互動、具有一定獨立意識的智慧數字人的未來也在變成現實。

從前景來講,AI復活具有廣泛的應用價值:可以讓喪親的家屬寄託哀思,可以讓粉絲感受偶像的陪伴,可以讓英雄鼓勵年輕人前行。但任何技術都有兩面性,一旦濫用,輕則侵權,重則可能涉嫌違法犯罪。確保AI復活不侵害個人權益、不侵犯公共利益應是相關立法的底線。

第一,AI復活可能侵犯死者家屬的權益。一方面,雖然死者不是民事主體,不享有民法意義上的肖像權,但這並不意味著其肖像可以被他人隨意使用。《民法典》第994條規定:“死者的姓名、肖像、名譽、榮譽、隱私、遺體等受到侵害的,其配偶、子女、父母有權依法請求行為人承擔民事責任。”因此,死者的肖像仍然受到法律保護。另一方面,AI復活使用的是深度合成技術,《網際網路資訊服務深度合成管理規定》第14條規定:“深度合成服務提供者和技術支援者提供人臉、人聲等生物識別資訊編輯功能的,應當提示深度合成服務使用者依法告知被編輯的個人,並取得其單獨同意。”因此,該服務使用者需取得被編輯人的單獨同意,在被編輯人是死者時,應取得其近親屬的同意。雖然一些博主AI復活明星是為了獲得流量和關注,並未直接收費,但考慮到網際網路的特殊性,流量即價值,博主可通過流量獲得廣告等收益,所以“賺流量”也屬於商業使用。

第二,除了侵犯死者親屬的權益之外,AI復活也存在許多亟待解決的法律問題。一方面,AI復活可能導致社會、法律關係的混亂。工業時代的法律是以自然人為核心建立起來的,而數字人的出現,尤其未來的智慧數字人,將讓法律面臨“自然人+數字人”的雙主體困惑。例如,自然人的遺囑是把房産留給大兒子,而數字人與小兒子的感情密切,想把房産留給小兒子,如何協調兩者間的關係是一大問題。此外,數字人創作的作品權益由誰享有?在近親屬死亡後,如何解決數字人的權益問題?這些目前都是法律空白。另一方面,AI復活可能引發違法犯罪,損害公共利益。某種程度上,AI復活是深度偽造技術的應用,而深度偽造技術已經被用於電信網路詐騙,犯罪者同樣可能利用AI復活對尚不知情的公眾進行詐騙。同時,智慧數字人若在網路空間實施其他違法犯罪行為,如發佈虛假資訊、傳播恐怖主義、傳授犯罪方法,在管理者已經死亡時,如何對數字人進行追責?此外,如果AI復活了秦檜、希特勒等有爭議的歷史人物,對大眾的情感可能也是一種傷害。

第三,對於AI復活,法律應採用“不管私用、嚴管公用”的思路。從人情角度考慮,法律上不對私人領域的AI復活加以干涉,即便近親屬為了緬懷親人而AI復活死者,只要限制在個人用途,不進入公共網路空間,法律就無須干涉。而在公共網路空間,法律就必須嚴格防止AI復活的潛在風險。具體而言,一是應根據復活對象設置不同的審查標準,例如,對於AI復活英雄、烈士,應當採用事前特別審批制,嚴格管控使用用途、開發者的主體資質。而對於復活明星,則可以採用事後追責的模式,根據危害後果對相關主體進行追責。二是應建立強制標注制度。為了防止AI復活以假亂真,對於AI生成物,法律應強制要求開發者增加顯著的數字浮水印,做到可以快速識別數字人。而使用、管理數字人的平臺,必須對數字人形象作出特別標注,讓用戶清楚知道其屬性。三是建立數字人銷毀制度。數字人應當有明確的管理者,在開發者死亡且缺乏其他管理人時,應建立一套數字人銷毀機制或保存機制,以免數字人成為失控的“數字幽靈”。

總之,AI復活對現有法律體系帶來的挑戰是巨大的。鼓勵技術發展的同時防範技術風險,是法律的永恒主題。未來立法應當平衡技術創新與風險防範之間的關係,既不能因其存在風險而一禁了之,也不能無視其潛在的風險。只有採用包容審慎的監管思路,使AI復活技術既能滿足個人的情感需要,又不損害公共利益,才能讓技術成為推動數字經濟發展與社會和諧的正能量。


【責任編輯:申罡】
返回頂部