通過(guò)AI換臉實施詐騙，你中招了嗎？

福州某科技公司法定代表人9分鍾被(bèi)AI換臉騙430萬元的風波剛過(guò)，又有安徽何先生9秒被(bèi)換臉騙走245萬元。

另一邊，直播間中，換上楊幂、迪麗熱巴等明星臉的主播出現在直播間帶貨，讓觀衆真假難辨。

疑似換臉楊幂的帶貨主播 圖片來源：視頻截圖

社交網站的演示視頻中，手一揮一秒換臉的視頻比比皆是，每個人都(dōu)能(néng)用AI制作一段視頻，騙子也不例外。

AI音樂、AI繪畫、AI換臉、AI換聲……不知不覺中，我們每個人都(dōu)已經(jīng)走進(jìn)了賽博世界，不管是抖音中的#一鍵解鎖瞬息全宇宙##一鍵變妝#等特效的應用還(hái)是AI孫燕姿的“消費”，都(dōu)是AI日常化的見證。

在所有人都(dōu)在享受技術狂歡的時候，技術的另一面(miàn)也逐漸顯露：僞造技術和鑒别技術好(hǎo)似在玩一場“貓鼠遊戲”，最終誰能(néng)把握主動權？

可以批量生産的AI換臉，技術門檻有多低？

AI換臉技術并非新事(shì)物，早在2019年，一個換臉軟件“ZAO”的出現，就曾讓AI換臉風靡網絡，網絡視頻平台上出現大量的AI換臉惡搞視頻，許多明星因此被(bèi)惡搞、造謠。

盡管，當時“ZAO”上線不久便因侵犯隐私等問題被(bèi)下架，但這(zhè)個由技術帶來的負面(miàn)影響卻一直存在，直到今年AI技術的普及使得換臉再次爆發(fā)。

瑞萊智慧RealAI聯合創始人、算法科學(xué)家蕭子豪表示，AI換臉、AI換聲主要使用的是深度合成(chéng)技術，随著(zhe)深度合成(chéng)技術的開(kāi)源開(kāi)放、深度合成(chéng)産品和服務的增多，深度合成(chéng)内容制作的技術門檻越來越低，實現了技術的“平民化”，普通人也能(néng)用少量圖像、音頻等樣(yàng)本數據，利用簡便易用的合成(chéng)工具，制作深度合成(chéng)内容。

蕭子豪介紹，目前視頻聊天或直播的AI換臉有兩(liǎng)種(zhǒng)方式：一種(zhǒng)是事(shì)先做好(hǎo)的換臉視頻直接播放，一種(zhǒng)是接入實時換臉的視頻。第一種(zhǒng)方式，目前的制作成(chéng)本已經(jīng)非常低，有公開(kāi)成(chéng)熟的應用可以支持該項工作；第二種(zhǒng)雖然沒(méi)有發(fā)現有公開(kāi)的應用，但也有非常成(chéng)熟的技術手段可以支撐。做成(chéng)一段視頻的時間和設備、算力等因素相關，當前技術可以做到和生成(chéng)視頻相等的時間即産出結果。制作這(zhè)樣(yàng)的視頻需要被(bèi)替換前的原始視頻圖像和被(bèi)替換後(hòu)的人臉圖像，基于目前的技術能(néng)力，替換前的原始視頻圖像在面(miàn)部清晰、正臉無遮擋、無誇張動作等條件下，會展示出比較好(hǎo)的效果。

AI從業人員湯輝也表示，現在的AI換臉對(duì)技術的要求非常低，“如果是專門的技術人員，在網上找一個開(kāi)源的模型，然後(hòu)先自己搞懂。如果隻是采集一段這(zhè)個人的圖像生成(chéng)視頻，很快就能(néng)訓練出來。20分鍾就可以做一個。”

在手機應用商店搜索“AI換臉”可以發(fā)現，有不少相關軟件，其中faceplay在ios系統的下載量已達24萬，該軟件有影視角色、寫真、漫畫等模闆。軟件采取收費獲取模版的形式盈利，周會員17元，年會員398元。也有的軟件隻需看廣告就可以制作。

換臉軟件faceplay下載和收費界面(miàn) 圖片來源：截圖

電商平台上雖已屏蔽“換臉”等關鍵詞，但通過(guò)搜索其他相關詞條仍能(néng)找到相關内容，售價多在幾十元。

某電商平台售賣AI換臉産品的詳情介紹  圖片來源：網頁截圖

抖音等短視頻也推出簡易AI換臉模闆，比如換臉跳舞、變臉換裝、男女換臉等。記者嘗試導入照片後(hòu)幾秒鍾便可生成(chéng)一個視頻，但這(zhè)類視頻精度相對(duì)較低，偶爾轉頭還(hái)可以看到一些不貼合等漏洞。

此外，許多大型科技公司也在著(zhe)力布局相關業務，AI概念股萬興科技（SZ300624，股價136.60元，市值188.09億元）落地了AI換臉、AI摳像、AI降噪、AI音頻重組等多項AI能(néng)力。據媒體報道(dào)，5月25日萬興科技旗下的萬興播爆已全面(miàn)上線AI數字人定制服務，支持數字人形象定制、聲音複刻和視頻模闆定制。用戶隻需錄制一段6分鍾左右的視頻和20句有效音頻語料素材，便可生成(chéng)“真人”“真聲”專屬數字人。

“目前AI已經(jīng)可以批量制作大量的視頻，制作多段替換成(chéng)同一人物的視頻，也可制作同時替換爲多位人物的視頻。”蕭子豪說。

爲AI打标記，一場“貓鼠遊戲”

“技術隻會發(fā)展得越來越快，也許你現在能(néng)看出來是AI，還(hái)是真人，但是半年後(hòu)，一年後(hòu)呢？”湯輝認爲AI技術發(fā)展太快，但是現實生活中了解AI的人又太少，進(jìn)而導緻詐騙頻繁發(fā)生。

蕭子豪也表示，目前深度合成(chéng)技術在不斷進(jìn)化，生成(chéng)的聲音和視頻越來越逼真，普通人肉眼鑒别的難度也越來越高。

據媒體報道(dào)，微軟首席技術官（CTO）凱文·斯科特在當地時間5月23日開(kāi)幕的Build開(kāi)發(fā)者大會前夕接受采訪時曾表示，微軟3年來一直在研究“媒體來源系統”——在AI生成(chéng)的内容裡(lǐ)放置加密水印，可以使用軟件解密水印以獲取來源信息，以檢測虛假信息。

從技術上來看，蕭子豪介紹，他們一直在研究深度合成(chéng)技術的自動化檢測，常用的方法包括基于僞造内容數據集完成(chéng)對(duì)模型檢測器的訓練、基于幀間不一緻性實現對(duì)僞造内容的判别等，這(zhè)些方法在開(kāi)源數據集中均能(néng)達到99.9%的準确率。

“防範的難度在于新型僞造方法層出不窮、網絡傳播環境日趨複雜，加上基于深度神經(jīng)網絡的檢測算法存在結構性缺陷等，反深僞檢測技術也面(miàn)臨‘強對(duì)抗性’，需要持續更新與叠代優化。”

類似于“貓鼠遊戲”，蕭子豪說，深度合成(chéng)和檢測在不斷學(xué)習攻防過(guò)程中會自我進(jìn)化，規避上一代的對(duì)抗技術。爲了能(néng)在對(duì)抗攻防中掌握主動權，未來反深僞檢測技術的發(fā)展需融合多模态内容的取證分析、基于數字水印的溯源技術等多方面(miàn)能(néng)力，實現僞造内容的精準識别，打造可信内容體系。

《互聯網信息服務深度合成(chéng)管理規定》明确要求深度合成(chéng)服務提供者對(duì)使用其服務生成(chéng)或者編輯的信息内容，應當采取技術措施添加不影響用戶使用的标識，對(duì)于具有生成(chéng)或者顯著改變信息内容功能(néng)服務的，應當在生成(chéng)或者編輯的信息内容的合理位置、區域進(jìn)行顯著标識，向(xiàng)公衆提示信息内容的合成(chéng)情況，避免公衆混淆或者誤認。

記者注意到，目前b站已經(jīng)在一些視頻上爲AI合成(chéng)視頻打上明顯标記，抖音在5月9日發(fā)布了關于AI生成(chéng)内容的平台規範暨行業倡議，倡議各生成(chéng)式人工智能(néng)技術的提供者，均應對(duì)生成(chéng)内容進(jìn)行顯著标識，以便公衆判斷。同時使用統一的人工智能(néng)生成(chéng)内容數據标準或元數據标準，便于其他内容平台進(jìn)行識别。

b站AI技術合成(chéng)标識 圖片來源：截圖

蕭子豪建議，普通人如果遇到有疑問的情況，可以在看視頻時有意識地引導對(duì)方做一些動作，如：大幅度的搖頭或張嘴。如果騙子技術手段較弱，那麼(me)就有可能(néng)發(fā)現對(duì)方面(miàn)部邊緣或者牙齒的瑕疵，從而識别出AI換臉。但同時他也表示，這(zhè)個方法對(duì)于識别出“高水平”的詐騙分子，還(hái)存在難度。此外，還(hái)可以追問幾個隻有你與借款者之間才知道(dào)的私密信息，來核實對(duì)方身份。

AI換臉有風險

根據著作權法的有關規定，如果AI換臉使用的是表演者的視頻素材，還(hái)可能(néng)侵犯其著作權。如果是非法使用，例如本案中的行爲人冒用郭先生好(hǎo)友的微信，利用AI換臉詐騙，則不僅構成(chéng)侵權，還(hái)涉嫌犯罪。

如果在直播中使用AI換臉服務，直播商家、平台方和技術提供方都(dōu)將(jiāng)承擔一定的責任。尤其根據《互聯網信息服務深度合成(chéng)管理規定》，如果深度合成(chéng)服務提供者和技術支持者違反規定的，相關部門會給予處罰；構成(chéng)犯罪的，還(hái)要承擔相應的刑事(shì)責任。

此外，北京市京師律師事(shì)務所王榮梅律師團隊提醒，關于AI生産的内容版權歸屬問題，目前也還(hái)存在争議。

首先，AI生成(chéng)的内容是否構成(chéng)作品就存在争議；其次，在實務中，AI生成(chéng)物的性質認定也存在争議。所以目前法律沒(méi)有就AI生成(chéng)内容的版權作出明确規定，但是在《生成(chéng)式人工智能(néng)服務管理辦法（征求意見稿）》第五條中，規定了此類内容侵權的主體責任。即利用生成(chéng)式人工智能(néng)産品提供聊天和文本、圖像、聲音生成(chéng)等服務的組織和個人，包括通過(guò)提供可編程接口等方式支持他人自行生成(chéng)文本、圖像、聲音等，承擔該産品生成(chéng)内容生産者的責任。

“目前，AI還(hái)是一個新興的領域，發(fā)展日新月異，在爲人們的工作和生活帶來便捷的同時，也有不法分子利用此技術從事(shì)違法犯罪活動，目前，AI領域的規定散見于民法典、個人信息保護法、網絡安全法，尚未形成(chéng)系統的法律體系。相信随著(zhe)此技術的廣泛應用，法律法規也會不斷與時俱進(jìn)，國(guó)家會出台更多的規範措施，逐漸形成(chéng)完備的法律體系。”王榮梅律師團隊說。