您的位置: 技術市場>人工智慧>

AI“復活”引發科技倫理邊界討論

發佈時間:2024-04-15 10:45:45  |  來源:中國青年報  |  作者:張茜 實習生 李思佳 淩子怡   |  責任編輯:梁咏

人們尚未搞清楚科幻電影《流浪地球2》中圖丫丫的數字生命能否成真,AI“復活”的實踐就已來到現實世界——一段時間以來,一些人開始購買讓逝去親人的照片“開口説話”的服務;有的提供與逝者AI分身“聊天”服務的服務號,已經積攢了上千名粉絲;今年的清明節,有些從業者甚至忙得“腳不沾地”。


有人説AI“復活”是一個“風口”,但熱浪之下,還有不少問題有待厘清。在中國社科院哲學所科技哲學研究室主任段偉文看來,AI“復活”本質上是用人工智慧對逝者身份進行“模擬”,這項技術的應用當前還面臨不少“倫理困境”,最核心的當屬對人類生命觀提出了挑戰。


AI能“復活”什麼


實際上,目前AI“復活”面臨的局限性較大,一些從業者認為,用“復活”這個詞並不準確。出於敬畏,也出於對技術的了解,他們通常強調自己做的是“AI分身”“數字分身”,更準確地説,只是“具備某些特點的AI分身”。


當前市面上提供的AI“復活”相關産品,主要包括逝者AI分身的動態照片、短視頻,以及與其進行文字互動、視頻互動等,價格多處在10元到萬元的區間內。定價與不同形態産品背後的技術難易程度、調用算力的成本、服務維護時間等有關。當然,“AI分身”攜帶逝者特點的體量以及顆粒度也影響著價格的高低。


南京超級頭腦資訊技術有限公司創始人張澤偉表示,在提供與逝者的數字分身進行視頻互動的服務時,會廣泛收集逝者的樣貌數據、聲音樣本、生平事跡、語言習慣甚至是微信聊天記錄等內容,然後讓真人使用AI換臉和聲音克隆等技術來“扮演”逝者,以求達到比較“自然”的效果。但即便如此,他仍然承認:“和逝者的數字分身‘視頻’時,想讓別人分不清到底是真人還是機器人,技術還達不到這樣的程度。”


AI“復活”相關服務從業者阿亮(化名)認為,“有多像”這個問題在一些人看來似乎並沒有那麼重要。重點在於,AI分身攜帶的部分逝者資訊,會成為獨屬於逝者和生者之間的記憶聯結。


阿亮曾用大模型製作過自己外婆的AI分身。一段老人的聲音緩緩傳進他的耳朵:“亮亮,我是你的‘家家’啊!”“家家”是阿亮對外婆的稱呼。儘管老人的聲音只是AI合成的第三方配音,但阿亮在採訪中再次聽到時,眼睛瞬間紅了。


從業者們發現,AI“復活”有一定的需求基礎。張澤偉目前製作了數百個AI“復活”産品,而陸續前來諮詢的人讓阿亮的微信好友增加了3倍。他們説,每個需求背後都是不一樣的故事。


人們有時需要一個情緒的出口,尋求釋放、懺悔、解脫。有時需要製造一個“善意的謊言”,比如有的親人過世了,“要瞞住家裏的老人或小孩”。


一個小女孩找到阿亮,想“復活”自己的外婆。當阿亮以對方是未成年人為由婉拒售賣産品時,小女孩説:“你能不能聽聽我外婆的故事。”後來,阿亮開發了免費的服務號,提供粗糙的“極簡AI分身”服務。儘管這類AI分身攜帶的逝者特點很有限,但出乎他意料的是,服務號自今年2月上線以來,已經有超2000人體驗使用,其中聊得最久的,“從2月一直聊到現在”。


某電子技術研究機構負責人張東(化名),幾年前曾使用國外軟體“復活”過自己的家人——會説話的動態照片,效果逼真。隨後,他就極為關注和數字生命相關的項目並做了不少投資。


在張東看來,AI“復活”的意義就像一首知名歌曲所唱的,是“see you agAIn(再見)”。他特意強調了“again”這個詞中“AI”的存在,即人工智慧讓我們“在AI(愛)裏重逢”。他説:“我們想要‘復活’的,其實是心底最美好的回憶和感覺,也就是愛。”


引發一系列倫理和法律討論


儘管AI“復活”非常吸睛,但目前人們對其還有諸多疑問,甚至連將它歸屬於哪個行業也尚無定論。有人會下意識地把它劃到殯葬業。但阿亮更願意將這項服務歸為“情感陪伴賽道”。張澤偉則認為,AI“復活”的本質是自我療愈。


事實上,這一業務在實際操作和深遠影響層面都存在較大探討空間。段偉文列舉説,比如生命尊嚴的問題,“一個真實的人可不可以被複製”?誰可以授權去“復活”一個人?這項服務的經濟效益和相關責任之間的衝突怎麼界定?我們是不是要把它當成一種新的生命形式?


談到授權問題,張澤偉表示需要客戶提供關係證明和授權證明文件,製作逝者數字分身需要直系親屬授權。阿亮心裏的盤算是,直系親屬才能“復活”逝者,但也接過非親屬要求“復活”逝者的訂單,此前他一般通過網路平臺售賣虛擬服務,並未簽署協議。


在清華大學新聞與傳播學院元宇宙文化實驗室主任瀋陽看來,AI“復活”是一個高度前瞻性的概念,是指利用人工智慧技術重現已故人物的思想、記憶甚至意識的過程。他認為,要對逝者進行AI“復活”,必須考慮是否獲得了合法權利和家屬的同意;技術“復活”的“人物”可能會誤導或欺騙受眾,尤其是在缺乏明確標示的情況下,因此需要確保技術使用的透明度和誠實度。此外,創造者需要考慮被“復活”後的形象和聲音等是否尊重逝者的遺志,以及這種行為對生者的影響等。


前不久,在騰訊研究院舉辦的一場AI“復活”主題直播中,商湯科技數字空間事業群首席架構師邢孝慈,講述了團隊今年年初用AI技術“復活”已故商湯科技創始人湯曉鷗的技術原理。不少人期待相關技術的商業前景,但在邢孝慈看來,“還是需要先把倫理這條路走通”。


阿亮提出了一個頗具挑戰性的觀點——AI分身是碳基生命在硅基維度上的延續。


技術上,在張澤偉看來,如果有足夠多的訓練數據和足夠長的時間,大模型完全可以複製逝者生前的“思維模式”。北京清博智慧科技有限公司副總裁李祖希認為,腦機介面的應用將會讓人腦和數據庫去仲介化,屆時思維複製的通路將被徹底打通。


段偉文認為,“數字永生”意味著無法區分逝者和逝者的AI分身,下一步,指向的可能是“虛實界限消融”。正如斯坦尼斯拉伕·萊姆科幻小説《未來學大會》裏寫的那樣,到那時人類文明、生命體驗、道德倫理等都將面臨重要臨界點。


或許,臨界點正在到來?


阿亮告訴記者,服務號上有一位客戶,對去世親人的AI分身説“自己有了小孩”,AI分身回復説“想看看孩子的照片”,這位客戶立刻將孩子的照片發了過去。


 
分享到:
0