“主播”變“明星” 騙你沒商量——AI換臉下的扭曲生意鏈

　　“活躍在巴黎時尚秀場上的明星居然也開始帶貨了”“楊冪、劉亦菲竟然賣起了減肥茶”，消費者在直播間裏看得一頭霧水，但卻因“眼見為實”屢屢瘋狂下單，被騙了還渾然不知。

　　更有甚者，打著“包教包會”的旗號當起了職業培訓師。“培訓費用”從29.9元到高至上萬元，涵蓋工具，承諾包教包會，消費者交費後才知道所謂的包教包會，是“只售出無售後”。從“AI換臉”到“Sora”，當消費者們還沉浸在科技對世界的重塑力上時，有這樣一些商家早已經構建起了一條低成本牟暴利的灰色産業鏈。

　　“主播”變“明星” 騙你沒商量

　　晚上9點，點進電商直播間，“楊冪”和“劉亦菲”竟然賣起了減肥茶，不久後“迪麗熱巴”也加入到直播帶貨中。在短短4個小時的時間裏，依靠著“明星同款”“頂流力薦”的標簽，直播間內的商品銷量已達上千件。

　　“追直播追了好幾天，結果追了個‘李鬼’，簡直欺騙了我的感情和信任。”消費者李響忿忿不平道。

　　消費者在觀看直播購物時，會因為對某個明星的喜愛和信任而購買産品。部分商家正是抓住了消費者的這一心理，開始借助AI換臉技術誘導消費者消費購物。

　　北京商報記者在實際對比了十余個同類型“明星”直播間後發現，通常情況下，只要直播間裏的“明星”不做過於大幅度的動作，真的很難分辨出真偽。

　　但只要直播時間一長，仔細觀察就不難發現，該直播間內的“女明星”如果動作稍大，就會暴露“面具”之下的本來樣貌。或者出現“面具”出畫的現象。

　　當眼見也不一定為實，針對疑似“AI換臉”的畫面，消費者如何防範？産業觀察家陳一凡指出，大面積遮擋臉部，或在臉部前方揮手，將導致人臉檢測失效，消費者可以由此判斷是否應用了相關技術。

　　“騙術”當“技術” 玩多元變現

　　光直播帶貨還不過癮。如今部分商家還做起了更“高級”的生意，將已經爛熟於心的“騙術”，當作“技術”輸出。

　　順著某科普博主的賬號，北京商報記者進入一個獨立站點，而該博主科普AI技術的身份背後，掩藏著一條完整的“AI換臉”套餐銷售鏈。

　　除了售價29.9元的“AI換臉”教程，該博主還提供人臉模型定制。整體定制服務在2000元至上萬元不等，具體價格視品質要求和應用場景而定，能夠全流程幫助科技“小白”完成“AI換臉”的一系列操作，實現視頻通話、直播等多個場景下“換臉”。

　　而服務於“技術流”的套餐則更加簡單直接。通過電商平臺直接檢索“AI換臉模型”，無法顯示出相關結果，但用於訓練人臉模型的src(源視頻)素材包卻可在平臺公開兜售。

　　素材包售價低至16.8元，最貴的僅29.8元。北京商報記者購買了其中一款素材包，其中約含圖片4000張，大部分是對應演員的影視劇截圖和個人照片。而在明星之外，該商家還提供“大眾臉女帶貨主播”“中年男路人”等素材包。

　　北京商報記者以消費者身份暗訪了某素材包銷售商家，該商家向記者介紹，“如果是純新手，不推薦購買，需要有一定搭建此類模型的基礎”。而在記者的一再追問下，該商家表示，也有可以直接使用的人臉模型，但需要脫離平臺私下購買，女性面孔居多，售價更高，男性面孔較少。

　　想售後？不支援任何理由退換

　　這筆存在於“技術流”層面的交易也並不省心。通過“AI換臉”從事虛擬主播的柒柒談道，“模型用得久了，慢慢出現了一些運作不穩定、臉部有鋸齒、表情無法識別的問題，當時砸進去近萬元做的模型，但商家已經聯繫不上了，如果另外找人修改模型，幾乎要重新開始，又是一大筆費用”。

　　在暗訪中，北京商報記者注意到，幾乎所有的“換臉”明星素材包商家商品詳情，都在商品介紹中寫明：“本店為虛擬産品，下單後自動發貨，不支援任何理由退款和換貨。”

　　聚焦在人臉模型定制服務上的問題同樣是售後。北京商報記者以諮詢換臉明星進行直播帶貨為由與提供人臉模型定制的商家劉先生取得聯繫，對方稱需要預先支付99元作為定金，隨後可以進行一個初步的“換臉嘗試”，看看效果再判斷是否要進行進一步的需求對接。

　　當涉及如果最終的成品無法達到滿意的效果如何進行售後服務時，劉先生三緘其口，始終回避交貨後的維護問題。

　　消費者趙月告訴北京商報記者，當初為了“AI換臉”充了月卡，結果生成視頻居然需要花168元成為終身會員，到現在平臺卻沒有預兆地突然下架了“AI換臉”功能。

　　此類情況並非個例，在黑貓投訴中以“AI換臉”為關鍵詞檢索，出現了近百條投訴，其中包括“換臉”效果不合心意但平臺不受理退款等。

　　損害消費者權益需加強監管

　　對於“AI換臉”所觸碰到的版權及損害消費者權益等問題，商家們也紛紛預先表態“不背鍋”，在多位提供人臉模型定制服務的業務介紹中，均提到“不接任何違反道德或者法律的相關業務，業務範圍僅限于個人娛樂、合法直播領域”。

　　根據《民法典》相關規定，公民享有肖像權，這意味著他人不得隨意使用肖像，同樣地，使用明星的臉部圖像也可能涉及到侵犯明星的肖像權。

　　北京市中聞律師事務所律師趙虎指出，如果使用“AI換臉”技術來製造虛假的代言人形象，誤導消費者購買商品或服務，那麼這種行為就可能構成虛假宣傳。同時，人臉作為識別個人身份的重要資訊，如果被不當使用，也可能涉及到名譽權的問題，應由商家承擔相應的法律責任。此外，發生數據洩露的情況，需要查明原因並確定責任，如由於AI工具本身存在缺陷導致的數據洩露，那麼AI工具的提供者應當承擔相應的法律責任。

　　那麼買了假明星帶貨的産品，消費者要不要負連帶責任？

　　對於消費者而言，趙虎進一步指出，消費者在購買商品時需保持理性，注意辨別直播間內容的真偽。當消費者基於對直播內容的信任和興趣進行購買，他們通常是受害者，而非責任方。如果消費者因為商家的虛假宣傳或侵權行為而遭受損失，有權向商家維權，可及時向平臺或相關部門舉報，維護自身權益和市場秩序。

　　事實上，相關規定早已為“AI換臉”劃定了“底線”和“紅線”。2023年起施行的《網際網路資訊服務深度合成管理規定》明確，任何組織和個人不得利用深度合成服務製作、複製、發佈、傳播法律、行政法規禁止的資訊，深度合成服務提供者應當以顯著方式提示深度合成服務技術支援者和使用者承擔資訊安全義務。

　　相關業內人士也向北京商報記者表示，現階段，儘管不少平臺已經明確要求商家在使用“AI換臉”技術時註明身份，以確保AI合成視頻的發佈者身份清晰可辨，但在利益驅動下，仍存在試圖通過模糊身份來規避責任或誤導消費者的商家。

　　陳一凡指出，新質生産力確實以其顛覆性和原創性的特點，為傳統生産格局注入了新的活力，為經濟社會發展提供了新的動能，催生出眾多新産業，成為推動社會進步的重要力量。新科技的應用往往帶來市場的變革，但如果被錯誤使用，可能導致市場信號失真，資源配置不合理。

　　北京商報沸點調查小組