分享縮略圖

分享到:
連結已複製
首頁> 智庫中國>

對AI技術濫用風險要提高警惕

2024-04-01 14:30

來源:法治日報

分享到:
連結已複製
字體:

文 | 肖芄 杭州網際網路法院網際網路審判第一庭庭長

最近,多位已逝明星的AI視頻出現在短視頻平臺上,引發眾多關注,這些視頻同時也引起了逝者家屬的反對,有明星家屬要求立即停止侵權行為,表示嚴厲譴責並堅決抵制該行為。

從法律上看,對於未經許可利用AI技術“復活”逝者的行為,可能會造成對逝者肖像、名譽、榮譽、隱私、個人資訊等人格利益的侵害。因為AI以可視化的方式重現逝者形象,勢必會生成、使用他人的肖像、聲音。行為人如果是出於悼念目的,“復活”自己的親人原則上不構成侵權;如果未經逝者近親屬同意,擅自“復活”逝者將構成對肖像、聲音的侵害;如果以醜化、污損等方式使用他人肖像、聲音,將構成對逝者肖像、聲音的惡意侵害;如果是出於炒作、博取流量、詐騙等違法目的,則可能構成侵權甚至是刑事犯罪。

事實上,近年來利用AI技術侵犯他人合法權益的案件時有發生。比如有App運營者,為謀取利益,在網路中盜用含有他人肖像的圖片或視頻作為模板,利用AI換臉技術為用戶提供人臉替換的服務;有遊戲運營商,未經明星本人許可,提取明星的聲紋資訊,利用AI合成技術將隨意的文字內容轉化為與明星聲音高度一致的音頻內容,在遊戲中使用;有AI技術開發者非法開發所謂的“脫衣”軟體,行為人在公共場所拍攝他人照片後,利用前述軟體生成偽造他人的裸體照片傳播等等。這些案件雖然形式不同,但都明顯逾越了法律的底線,揭示了人工智慧存在被濫用惡用的風險,這些行為輕則構成民事侵權,重則構成行政違法乃至刑事犯罪。

從司法實踐看,利用AI侵害他人權益的案件往往具有侵害對象素材易於獲取、AI技術使用門檻低、侵權手段較隱蔽、侵權內容傳播速度快、受侵害主體不特定且波及面廣等特點,存在侵權行為主體難以鎖定、損害後果一旦造成難以挽回、損失賠償金額難以量化、平臺責任邊界較模糊等難點。比如筆者就曾審理過一起AI換臉的民事公益訴訟案。在該案中,行為人在國外網路論壇下載了AI換臉的開源程式,通過自學掌握了AI換臉軟體的使用方法,並向網友提供“換臉”服務。只要提供他人面部肖像照片就可以進行人臉的任意替換。這也就意味著僅憑幾張照片,任何人都可能成為受害者。鋻於這種AI技術濫用造成的普遍性風險,司法機關不僅對行為人判處了刑罰,而且要求其承擔公益損害賠償等民事責任。

此外,筆者還曾審理過多起利用AI技術將他人面部肖像製作成惡意搞笑表情包,通過微信群進行傳播,以此對他人進行侮辱的案件。在此類案件中,表情包經過多個微信群輾轉傳播,有時難以鎖定最初的製作者,使得權利人維權産生障礙。不過法院認為即便行為人不是表情包的製作者,只要在明知的情況下參與了侵權內容的傳播、擴散,就應承擔一定的侵權責任。這些案例都充分説明,利謾癆I”技術侵害他人權益必然要受到法律懲處。

當前,AI技術已經深度融入諸多領域。AI技術本身是中立無害的,技術本身也不應當直接受到法律的負面評價,但技術中立並不意味著價值中立,特別是開發、應用者的價值中立,更不等於AI的參與者不應當受到來自法律的規制、道德倫理的約束。

技術的運用是把雙刃劍,用之為善可以造福社會,不當濫用則會造成社會風險和損害。對此,需要有關方面不斷完善法律法規,進一步細化AI技術濫用的侵權類型,明確各個環節的主體責任,確立媒介平臺的技術檢測義務和過濾刪除責任,以法律為AI技術應用框定紅線;同時,引導技術開發、應用者自覺遵守法律規定和科技倫理道德,培育積極健康、向上向善的研發、應用環境,保護和鼓勵新興智慧技術的有益探索。作為社會公眾,對疑似AI生成的資訊內容應保持警惕,不要對此類生成資訊進行盲目傳播、擴散,在利用AI技術生成相關內容時要獲得權利人同意,尊重社會公德和倫理道德。


【責任編輯:申罡】
返回頂部