用一張照片就能騙走你的錢?拆解“AI換臉”詐騙套路
隨著人工智慧軟體普及,“AI換臉”“AI合成照片、視頻”等技術越來越多地出現在網路裏,“AI”造假花樣越來越多,一些不法分子將新技術用於非法的目的,讓犯罪手段又有了新方式。
“一鍵去衣”!
深度偽造近七千張淫穢圖片
在北京警方偵破的一起案件中,警方接到報案,有人在境外的網站上發廣告,只需一張日常生活照片,就可以完成一鍵“去衣”的效果。
一名被警方抓獲的犯罪嫌疑人白某某原本是一家網際網路公司的技術員,他因為使用AI去衣技術,製作、販賣淫穢物品而涉嫌犯罪。
北京市海澱區人民檢察院檢察官助理 郭樹正:白某某用的這款人工智慧軟體,能很快對被害人的圖片“一鍵去衣”,基本上幾秒鐘、幾分鐘就能批量生成相應的圖片。
警方在白某某家的電腦裏,查獲了大量的涉案照片,都是經過“一鍵去衣”技術處理的。
郭樹正:他在QQ上向351個人販賣過相關圖片,圖片數量將近7000張。
隨後,白某某因涉嫌製作、販賣淫穢物品牟利罪被公訴至法院。今年4月19日,北京市海澱區人民法院對這起案件進行了開庭審理。
公訴人:其對含有人臉資訊的眾多不特定女性照片進行侮辱性編輯並出售,圖片數量多,涉及人數多,社會公眾利益受到嚴重損害。
那麼,這些經過去衣的照片的受害者都是什麼人?白某某為什麼要製作這些照片呢?他又是如何進行牟利的呢?
2023年6月,家住北京的白某某在境外的社交媒體上接觸到了這項“一鍵去衣”的技術,於是他動起了歪心思,打算利用這項技術來賺錢。
北京市海澱區人民檢察院檢察官 李鵬:他在境外的社交媒體上發佈了廣告,內容就是“去衣”,1.5元一張。
每張1.5元 發廣告招攬圖片定制服務
這就是白某某發佈的廣告帖,上面寫著“電腦AI去衣,白菜價”“身邊人、網紅、明星皆可”。他的廣告發佈後,有不少人聯繫白某某,給他發送照片並購買這項“去衣”服務。
郭樹正:一張圖片他賣1.5元,能迅速滿足相關人的需求。這個時候就有很多人去瀏覽白某某在境外社交網站上發佈的帖子,經過我們統計,瀏覽他發佈廣告的人有3萬人左右。
那麼,“AI去衣”究竟是怎樣的一種技術呢?據白某某供述,這項技術並不是真的“去衣”,而是一種偽造、重繪的技術。
郭樹正:其實我們可以把它理解為深度的圖片偽造,它並不是真的去掉別人照片上的衣服,其實都是針對已有的模型和已有的模組進行圖片重繪。
而且,這項技術操作起來十分簡單,去衣只需要一鍵就能完成,因此白某某定價不高,一張照片只需要1.5元,卻可以利用低價吸引更多的訂單。
短短幾個月的時間,白某某就製作了幾千張去衣的圖片,賺了將近一萬元錢。然而,他卻沒有意識到這一行為可能産生的嚴重後果。
郭樹正:其中有讓白某某去學生、教師、女同事等衣服的圖片。根據我們調查,白某某在這個過程中,他其實是知道可能會有人拿這個圖片實施違法犯罪行為,比方説敲詐勒索,或者繼續傳播對被害人的名譽造成一定的損失,或者實施一些其他更惡劣的犯罪行為。
檢察官介紹,白某某使用的實際上是一個正規的AI繪圖軟體,而“去衣”只是其中的一個功能模組。白某某自以為發現了其中的商機,實際上卻把自己送到了法庭裏被告人的位置上。
公訴人:經依法審查查明,2023年6月至8月,被告人白某某在本市海澱區等地發佈AI虛擬廣告,將他人提供的承載人臉資訊的特定多數女性圖片,通過深度製造技術AI軟體製作成裸體圖片販賣牟利,同時出售AI去衣軟體及使用教程牟利。
涉嫌製作販賣淫穢物品牟利罪被提起公訴
檢察機關認為,被告人白某某以牟利為目的,製作、販賣淫穢物品,情節嚴重,其行為觸犯了《中華人民共和國刑法》的相關規定,應當以製作、販賣淫穢物品牟利罪追究其刑事責任。
郭樹正:非法進行加工和利用,加工利用之後又通過各種非法途徑傳播,導致本來是為我們服務,為科技進步發展提供幫助的一項技術,變成了犯罪的工具。
侵犯不特定女性名譽 破壞網路環境
檢察機關認為,白某某利用AI技術犯罪的行為不僅侵犯了無數無辜者的隱私與名譽,還破壞了網路環境的純凈,與科技向善的精神相背離。而利用新技術犯罪,也將受到司法機關的嚴厲打擊。
公訴人:人工智慧技術興起之後,已經成為當今科技領域備受矚目的技術之一,正在深刻改變我們社會、經濟以及生活方式,為社會帶來更多的便利。同時我們也打擊治理運用AI技術實施犯罪,任何利用新技術實施犯罪的行為必將受到嚴懲。
“換臉”偽造不雅照
實施敲詐勒索
一鍵去衣、AI換臉技術,還會被不法分子利用,成為敲詐勒索的工具。近期,這類案件又有抬頭趨勢。前不久,深圳警方打掉一個團夥,這個團夥從網上等各種渠道收集被害人圖片資訊,然後進行合成處理,用來敲詐勒索。
前不久,深圳市民吳先生突然收到一個陌生手機號碼發來的彩信,點開一看竟然是他和一名陌生女子在酒店房間內的不雅照片。
當事人 吳先生:當時我收到一條彩信,裏面是我的一張裸照,他當時威脅我,在幾點之前要跟他聯繫給他轉錢,我當時一想不對勁,就報警了。
深圳警方接到報案後,立即對吳先生提供的線索進行偵查。通過梳理報案記錄,警方發現全市有同樣遭遇的不止吳先生一人,犯罪嫌疑人的敲詐勒索方式都如出一轍。
當事人 鄧先生:內容就是有我的照片,我旁邊還有女的,還寫我的名字。我還問我的同事,我同事説這肯定是別人複製上去的。
於是警方立即對相似的案件進行串並處理。調查後,一個通過換臉技術合成不雅照,實施敲詐勒索的犯罪團夥逐漸浮出水面。
深圳市公安局坪山分局民警 張威:經調查,這個團夥流竄作案,以“已掌握你在外面找小姐”“艷照將公之於眾”等方式進行威脅,進而逼迫受害人“破財消災”,從而達到敲詐勒索的目的。
團夥分工明確:有人修圖、有人尋作案目標
隨著偵查工作的深入,警方發現這是一個以王某為首的犯罪團夥,團夥內分工明確,有人負責修圖,有人負責尋找作案目標,有人負責發短信打電話聯繫收款。深圳坪山警方兵分多路,展開統一收網行動,在多地警方協助下成功抓獲以王某為首的十多名犯罪嫌疑人。
在犯罪嫌疑人的電腦裏,警方發現了大量經過合成換臉後的不雅照片。
張威:從嫌疑人電腦裏面提取的相關證據,這些圖片是嫌疑人從網上等各種渠道收集的被害人圖片資訊,然後進行合成處理,用來敲詐被害人。
目前,王某等人已被檢察機關提起公訴。案件正在進一步審理當中。
深圳市公安局刑警支隊民警 程儒:如果遇到這種以換臉的方式實施敲詐勒索的行為,請及時報警。我們公安機關會依法嚴厲打擊這種違法犯罪,在案件辦理過程當中嚴格保護當事人的個人隱私。
以合成照威脅受害人
並準確説出個人資訊
在山東威海,也有當事人遭遇到騙局,在收到偽造的不雅照後,沒有多加核實,就向敲詐團夥轉賬20萬元。
前不久,威海警方接到了反詐中心的一條資金預警資訊,有市民正在向涉詐賬戶進行轉賬,民警立即與當事人取得聯繫,核實情況。
威海市公安局經濟技術開發區分局皇冠派出所民警 劉羿:我們看到他的手機收到了一條短信,短信上的內容大概就是一張圖片,上面有一男一女的裸照,還附了留言,説“我有你全部的影像資料,趕緊跟我聯繫”,並附上了一個電話。
王先生説自己當時看到這張照片,當時就有點懵。沒有來得及多想,他撥打了資訊上面的電話。由於對方準確地説出了自己的姓名以及工作單位,並且告訴王先生只要向他們轉賬68萬元就可以買斷這些視頻,如果王先生不給錢就把視頻公開。在對方的恐嚇下,王先生信以為真。
劉羿:王先生起初沒有那麼多錢,所以他就説我先給你10萬元,對方同意後就給他發了一個指定的銀行賬戶,所以王先生就向賬戶內轉了第一筆10萬元。然後對方仍然給他打電話説這個錢太少了,如果不想讓其他人知道,不想讓單位的同事知道,就必須再次轉賬。王先生通過多方籌集,又向指定的銀行賬戶轉了第二筆10萬元。
先後轉賬20萬元 但未能滿足對方胃口
然而,先後轉賬的20萬元,根本滿足不了對方的胃口。正當王先生驚慌失措時,民警聯繫到了王先生。
劉羿:當我們跟王先生一同看這張照片的時候,我們發現雖然臉部有相似的地方,但是他的臉型以及身形完全不是他本人。
之後,民警趕緊通過國家反詐大數據平臺對王先生轉賬的兩個銀行賬戶進行緊急止付操作。
劉羿:平臺對我們止付的這兩個賬戶進行反饋,反饋出賬戶的餘額以及銀行卡的卡主身份等等情況。我們發現這兩個賬戶的餘額已經顯示為0,所以我們緊接著就對這兩個賬戶進行分析研判。
警方緊急止付 經過研判鎖定兩名嫌疑人
經過研判分析,警方鎖定了犯罪嫌疑人鄭某和鐘某的身份資訊。今年1月22日,威海警方趕赴浙江烏鎮將兩名犯罪嫌疑人抓獲歸案,為王先生挽回了損失。
警方介紹,在這些案件當中,犯罪嫌疑人先是通過網路等渠道,蒐集被害人的視頻、照片以及相關資訊。再通過AI換臉技術PS合成所謂的“不雅視頻”或“艷照”,然後通過短信、郵箱等渠道,精準發送給選定的對象並留下聯繫方式,最後以要舉報、散播、告知家屬等手段威脅選定的對象,要求被害人將錢匯到他們指定的銀行賬戶。
警方提示:遇到此類情況要及時留存證據,撥打110報警。(央視新聞客戶端)