潮新聞報(bào)道10分鐘，被詐騙分子通過(guò)AI換臉化身“好友”，騙走430萬(wàn)元——這是近日“平安包頭”微信公眾號(hào)公布的一位受害者的經(jīng)歷。相關(guān)話題登上熱搜，引發(fā)網(wǎng)友關(guān)注。

AI換臉，即通過(guò)人工智能技術(shù)，將視頻中某個(gè)人物的臉輕易替換成另一個(gè)人的臉。利用AI換臉，普通人可以感受娛樂(lè)氛圍、影視作品能獲得創(chuàng)意效果。但是，當(dāng)AI換臉技術(shù)被不法分子利用，也帶了詐騙等危害……

AI換臉的應(yīng)用邊界在哪里？普通人應(yīng)該如何防范AI換臉帶來(lái)的風(fēng)險(xiǎn)？

【資料圖】

AI換臉詐騙不時(shí)發(fā)生

有人10分鐘被騙430萬(wàn)元

你也許已經(jīng)看過(guò)了包頭市公安局通過(guò)“平安包頭”微信公眾號(hào)公布的這起電信詐騙案例：

來(lái)自福建的郭先生是一家科技公司法人代表。今年4月，他的好友突然通過(guò)微信視頻聯(lián)系他，稱自己在外地投標(biāo)，需要430萬(wàn)元保證金，想借用郭先生公司的賬戶走一下賬。

基于對(duì)好友的信任，加上視頻聊天中“核實(shí)”了身份，10分鐘后，郭先生分兩筆把430萬(wàn)元給對(duì)方打了過(guò)去。而后，郭先生撥打好友電話，對(duì)方說(shuō)沒(méi)有這回事，他這才意識(shí)到竟然遇上了“高端”騙局，對(duì)方通過(guò)智能AI換臉技術(shù)，佯裝成好友對(duì)他實(shí)施了詐騙。

“從頭到尾都沒(méi)有和我提借錢的事情，就說(shuō)會(huì)先把錢給我打過(guò)來(lái)，再讓我給他朋友賬戶轉(zhuǎn)過(guò)去，而且當(dāng)時(shí)是給我打了視頻的，我在視頻中也確認(rèn)了面孔和聲音，所以才放松了戒備。”郭先生說(shuō)。

事實(shí)上，郭先生的遭遇并非單一案例，近年來(lái)， 利用AI換臉、AI擬聲等技術(shù)進(jìn)行的詐騙不時(shí)發(fā)生。

據(jù)公安部網(wǎng)安局公布的消息，2020年12月，某公司財(cái)務(wù)小王接到領(lǐng)導(dǎo)電話，要求立刻給供應(yīng)商轉(zhuǎn)款2萬(wàn)元。由于老板的口音十分逼真，小王信以為真，在1小時(shí)內(nèi)轉(zhuǎn)款完成，后發(fā)現(xiàn)被騙。

浙江溫州市公安局曾發(fā)布案例，2021年拱宸橋派出所接到報(bào)警，受害人小陳與女網(wǎng)友視頻聊天后，被對(duì)利用AI換臉技術(shù)，將小陳視頻中的面部合成到不雅視頻中，借此對(duì)其實(shí)施勒索。

不法分子如何利用AI換臉詐騙？北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括表示，在技術(shù)上，這類詐騙往往通過(guò)非法獲取他人個(gè)人數(shù)據(jù)，以及運(yùn)用各種黑灰軟件來(lái)替換數(shù)據(jù)信息來(lái)實(shí)現(xiàn)。

浙江金道律師事務(wù)所律師夏文忠在接受潮新聞?dòng)浾卟稍L時(shí)，分享了曾代理過(guò)的一個(gè)案例細(xì)節(jié)：當(dāng)詐騙分子加上受害人微信后，只需一個(gè)電腦插件就可以在社交軟件聊天時(shí)篡改講話聲音，甚至形象，“受害人聽(tīng)到的柔美女聲，實(shí)際上來(lái)自一個(gè)五大三粗的男子。”

“這類案件中，不法分子利用AI換臉，偽造事實(shí)、隱瞞真相，使被害人陷入錯(cuò)誤的認(rèn)識(shí)，從而交付財(cái)物，涉嫌詐騙罪，需要加倍警惕。” 夏文忠表示。

AI換臉并不新鮮

普通人娛樂(lè)、主播帶貨已經(jīng)有之

AI換臉早已不是新鮮事，除了變“熟人臉”實(shí)施詐騙，已應(yīng)用至多個(gè)領(lǐng)域。

比如，在日常生活中，不少網(wǎng)友體驗(yàn)過(guò)娛樂(lè)性的AI換臉。早在2019年，一款名為“ZAO”的AI換臉軟件就曾風(fēng)靡網(wǎng)絡(luò)，只需上傳一張照片就能讓普通人成為影視劇的男女主角，出演經(jīng)典電影片段、甚至跟偶像飆戲，受到眾多網(wǎng)友的體驗(yàn)追捧。不過(guò)，短時(shí)間內(nèi)，這款軟件就因侵犯版權(quán)、侵害隱私、危害數(shù)據(jù)安全等問(wèn)題，被下架處理。

而當(dāng)前，在手機(jī)應(yīng)用商店搜索關(guān)鍵詞，依然有許多和AI換臉有關(guān)的app。記者隨意下載了兩款app，都只需上傳一張正臉照片，便可將妝發(fā)造型姣好的視頻或圖片模板替換為自己的臉龐。

AI換臉也被應(yīng)用于影視行業(yè)。在《三千鴉殺》《了不起的兒科醫(yī)生》《長(zhǎng)安十二時(shí)辰》等影視作品中，都因?yàn)樵輪T問(wèn)題，部分角色用到了AI換臉技術(shù)。

吳沈括表示，在內(nèi)容產(chǎn)業(yè)上，AI換臉有它的優(yōu)勢(shì)和價(jià)值，比如，豐富了人們的文化娛樂(lè)生活等，但同時(shí)它的風(fēng)險(xiǎn)不容忽視，這些風(fēng)險(xiǎn)既包括對(duì)于他人個(gè)人數(shù)據(jù)的非法使用、非法處理，也包括傳播虛假信息、詐騙或者其他違法犯罪活動(dòng)。

在風(fēng)險(xiǎn)層面，今年4月，擁有148萬(wàn)多粉絲的網(wǎng)絡(luò)博主@Caro賴賴 通過(guò)微博公開(kāi)發(fā)文，曝光了自己的臉被盜用的經(jīng)歷。不法分子用她的臉，通過(guò)AI換臉制作不雅視頻并從中牟利。當(dāng)她追根究底，卻發(fā)現(xiàn)分發(fā)視頻的賬號(hào)都是海外IP，溯源困難。

今年5月，有媒體報(bào)道，當(dāng)不少網(wǎng)友點(diǎn)開(kāi)直播間，發(fā)現(xiàn)正在賣貨的竟是“楊冪”“迪麗熱巴”等一些當(dāng)紅女星。但仔細(xì)觀察后發(fā)現(xiàn)，這些帶貨的“明星”，實(shí)際上只是使用了AI實(shí)時(shí)換臉的普通主播。

“無(wú)論是普通人用APP一鍵換臉，還是普通主播用明星臉帶貨，甚至不法分子盜用網(wǎng)紅臉制作不雅視頻，AI換臉技術(shù)的部分濫用很有可能會(huì)侵犯到他人的肖像權(quán)、名譽(yù)權(quán)，甚至可能構(gòu)成刑事犯罪。” 因此，夏文忠表示，對(duì)于AI換臉風(fēng)險(xiǎn)的管控不可忽視。

普通人如何應(yīng)對(duì)AI換臉風(fēng)險(xiǎn)？

律師、專家提醒：提高警惕，必要時(shí)可訴諸法律

面對(duì)AI換臉帶來(lái)的詐騙等風(fēng)險(xiǎn)，應(yīng)該怎么防？ 夏文忠認(rèn)為，加強(qiáng)監(jiān)管、健全立法是重要手段。

目前，我國(guó)已出臺(tái)的《民法典》第1019條明確規(guī)定，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。

去年12月，國(guó)家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對(duì)人臉生成、人臉替換等都有明確約束。其中明確，深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意。

今年4月11日，國(guó)家網(wǎng)信辦也出手，為生成式人工智能“立規(guī)矩”，公布了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》，其中提到，AI內(nèi)容必須真實(shí)準(zhǔn)確，還明確提到，禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。

夏文忠還認(rèn)為，除此之外，各網(wǎng)絡(luò)平臺(tái)對(duì)于AI換臉的應(yīng)用也應(yīng)當(dāng)擔(dān)負(fù)起責(zé)任?！澳壳?，推出AI換臉功能的平臺(tái)以及允許AI換臉相關(guān)內(nèi)容傳播的平臺(tái)，都應(yīng)該加強(qiáng)審核，以避免AI技術(shù)被不法分子利用，以及避免損害公民肖像、名譽(yù)權(quán)等?！?/p>

此外，對(duì)普通個(gè)人而言，夏文忠也建議，無(wú)論是否遭遇AI換臉詐騙，現(xiàn)實(shí)生活中，只要涉及匯款轉(zhuǎn)賬，就都應(yīng)該提高警惕，通過(guò)多個(gè)渠道核實(shí)對(duì)方身份與信息。此外，如果遇到被AI換臉損害了肖像、名譽(yù)權(quán)等，也要勇于站出來(lái)，讓對(duì)方以及平臺(tái)刪除相關(guān)內(nèi)容并賠禮道歉，必要時(shí)也可以尋求警方幫助，甚至進(jìn)行訴訟。

針對(duì)個(gè)人而言，吳沈括也建議，要加強(qiáng)數(shù)字素養(yǎng)，提高自身使用數(shù)字工具的安全意識(shí)和安全能力；同時(shí)，增強(qiáng)自我保護(hù)意識(shí)，防止個(gè)人信息的泄露；此外，也要提升法治意識(shí)，對(duì)詐騙等違法違規(guī)行為保持警惕，加強(qiáng)維權(quán)能力和意識(shí)。

關(guān)鍵詞：