潮新聞報道10分鐘，被詐騙分子通過AI換臉化身“好友”，騙走430萬元——這是近日“平安包頭”微信公眾號公布的一位受害者的經歷。相關話題登上熱搜，引發網友關注。

AI換臉，即通過人工智能技術，將視頻中某個人物的臉輕易替換成另一個人的臉。利用AI換臉，普通人可以感受娛樂氛圍、影視作品能獲得創意效果。但是，當AI換臉技術被不法分子利用，也帶了詐騙等危害……

AI換臉的應用邊界在哪里？普通人應該如何防范AI換臉帶來的風險？

【資料圖】

AI換臉詐騙不時發生

有人10分鐘被騙430萬元

你也許已經看過了包頭市公安局通過“平安包頭”微信公眾號公布的這起電信詐騙案例：

來自福建的郭先生是一家科技公司法人代表。今年4月，他的好友突然通過微信視頻聯系他，稱自己在外地投標，需要430萬元保證金，想借用郭先生公司的賬戶走一下賬。

基于對好友的信任，加上視頻聊天中“核實”了身份，10分鐘后，郭先生分兩筆把430萬元給對方打了過去。而后，郭先生撥打好友電話，對方說沒有這回事，他這才意識到竟然遇上了“高端”騙局，對方通過智能AI換臉技術，佯裝成好友對他實施了詐騙。

“從頭到尾都沒有和我提借錢的事情，就說會先把錢給我打過來，再讓我給他朋友賬戶轉過去，而且當時是給我打了視頻的，我在視頻中也確認了面孔和聲音，所以才放松了戒備。”郭先生說。

事實上，郭先生的遭遇并非單一案例，近年來， 利用AI換臉、AI擬聲等技術進行的詐騙不時發生。

據公安部網安局公布的消息，2020年12月，某公司財務小王接到領導電話，要求立刻給供應商轉款2萬元。由于老板的口音十分逼真，小王信以為真，在1小時內轉款完成，后發現被騙。

浙江溫州市公安局曾發布案例，2021年拱宸橋派出所接到報警，受害人小陳與女網友視頻聊天后，被對利用AI換臉技術，將小陳視頻中的面部合成到不雅視頻中，借此對其實施勒索。

不法分子如何利用AI換臉詐騙？北京師范大學法學院博士生導師、中國互聯網協會研究中心副主任吳沈括表示，在技術上，這類詐騙往往通過非法獲取他人個人數據，以及運用各種黑灰軟件來替換數據信息來實現。

浙江金道律師事務所律師夏文忠在接受潮新聞記者采訪時，分享了曾代理過的一個案例細節：當詐騙分子加上受害人微信后，只需一個電腦插件就可以在社交軟件聊天時篡改講話聲音，甚至形象，“受害人聽到的柔美女聲，實際上來自一個五大三粗的男子。”

“這類案件中，不法分子利用AI換臉，偽造事實、隱瞞真相，使被害人陷入錯誤的認識，從而交付財物，涉嫌詐騙罪，需要加倍警惕。” 夏文忠表示。

AI換臉并不新鮮

普通人娛樂、主播帶貨已經有之

AI換臉早已不是新鮮事，除了變“熟人臉”實施詐騙，已應用至多個領域。

比如，在日常生活中，不少網友體驗過娛樂性的AI換臉。早在2019年，一款名為“ZAO”的AI換臉軟件就曾風靡網絡，只需上傳一張照片就能讓普通人成為影視劇的男女主角，出演經典電影片段、甚至跟偶像飆戲，受到眾多網友的體驗追捧。不過，短時間內，這款軟件就因侵犯版權、侵害隱私、危害數據安全等問題，被下架處理。

而當前，在手機應用商店搜索關鍵詞，依然有許多和AI換臉有關的app。記者隨意下載了兩款app，都只需上傳一張正臉照片，便可將妝發造型姣好的視頻或圖片模板替換為自己的臉龐。

AI換臉也被應用于影視行業。在《三千鴉殺》《了不起的兒科醫生》《長安十二時辰》等影視作品中，都因為原演員問題，部分角色用到了AI換臉技術。

吳沈括表示，在內容產業上，AI換臉有它的優勢和價值，比如，豐富了人們的文化娛樂生活等，但同時它的風險不容忽視，這些風險既包括對于他人個人數據的非法使用、非法處理，也包括傳播虛假信息、詐騙或者其他違法犯罪活動。

在風險層面，今年4月，擁有148萬多粉絲的網絡博主@Caro賴賴 通過微博公開發文，曝光了自己的臉被盜用的經歷。不法分子用她的臉，通過AI換臉制作不雅視頻并從中牟利。當她追根究底，卻發現分發視頻的賬號都是海外IP，溯源困難。

今年5月，有媒體報道，當不少網友點開直播間，發現正在賣貨的竟是“楊冪”“迪麗熱巴”等一些當紅女星。但仔細觀察后發現，這些帶貨的“明星”，實際上只是使用了AI實時換臉的普通主播。

“無論是普通人用APP一鍵換臉，還是普通主播用明星臉帶貨，甚至不法分子盜用網紅臉制作不雅視頻，AI換臉技術的部分濫用很有可能會侵犯到他人的肖像權、名譽權，甚至可能構成刑事犯罪。” 因此，夏文忠表示，對于AI換臉風險的管控不可忽視。

普通人如何應對AI換臉風險？

律師、專家提醒：提高警惕，必要時可訴諸法律

面對AI換臉帶來的詐騙等風險，應該怎么防？ 夏文忠認為，加強監管、健全立法是重要手段。

目前，我國已出臺的《民法典》第1019條明確規定，任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。

去年12月，國家網信辦、工信部、公安部聯合發布《互聯網信息服務深度合成管理規定》，對人臉生成、人臉替換等都有明確約束。其中明確，深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意。

今年4月11日，國家網信辦也出手，為生成式人工智能“立規矩”，公布了《生成式人工智能服務管理辦法（征求意見稿）》，其中提到，AI內容必須真實準確，還明確提到，禁止非法獲取、披露、利用個人信息和隱私、商業秘密。

夏文忠還認為，除此之外，各網絡平臺對于AI換臉的應用也應當擔負起責任。“目前，推出AI換臉功能的平臺以及允許AI換臉相關內容傳播的平臺，都應該加強審核，以避免AI技術被不法分子利用，以及避免損害公民肖像、名譽權等。”

此外，對普通個人而言，夏文忠也建議，無論是否遭遇AI換臉詐騙，現實生活中，只要涉及匯款轉賬，就都應該提高警惕，通過多個渠道核實對方身份與信息。此外，如果遇到被AI換臉損害了肖像、名譽權等，也要勇于站出來，讓對方以及平臺刪除相關內容并賠禮道歉，必要時也可以尋求警方幫助，甚至進行訴訟。

針對個人而言，吳沈括也建議，要加強數字素養，提高自身使用數字工具的安全意識和安全能力；同時，增強自我保護意識，防止個人信息的泄露；此外，也要提升法治意識，對詐騙等違法違規行為保持警惕，加強維權能力和意識。

關鍵詞：