「AI」是2023年開(kāi)年來最熱門的話題，當人們爲人工智能(néng)的崛起(qǐ)而感到興奮之時，一場危機也随之而來。 

在過(guò)去幾個月時間裡(lǐ)，我們見識到了「AI問答」、「AI制圖」和「AI換臉」，每一項技術的曝光，都(dōu)引起(qǐ)不小的讨論。在設想「AI」成(chéng)爲我們的得力助手之前，這(zhè)些工具已經(jīng)率先成(chéng)了不法之徒的「好(hǎo)夥伴」。

全球最大的專業安全技術公司McAfee不久前公開(kāi)了一項調查數據，在受到電話詐騙的人群中，有超過(guò)77%的受害者被(bèi)「AI語音」所欺騙。這(zhè)些受害者難以辨别來電中的聲音是否來自家人、朋友，于是，在陌生來電的請求下，向(xiàng)不法分子打去一筆又一筆錢款。

利用「AI」，人們可以輕松地克隆任何人的聲音，除了行騙之外，還(hái)可能(néng)出現在任何場合、任何地點，乃至于網友們普遍認爲，「AI語音」遲早會出現在法庭上，成(chéng)爲僞證的主要來源。

這(zhè)聽起(qǐ)來十分吓人，對(duì)吧？

聲音是假的，詐騙是真的

經(jīng)常在網上沖浪的朋友，近期一定在不同的社交平台中看到利用「AI」創作的歌曲，例如： 

「AI孫燕姿《發(fā)如雪》Cover From周傑倫」

「AI黴黴《反方向(xiàng)的鍾》Cover From周傑倫」

「AI周傑倫《普通朋友》Cover From陶喆」

這(zhè)些利用「AI」創作的歌曲，成(chéng)爲網友們熱捧的二次創作。

（圖源：bilibili）

事(shì)實上，「AI」創作歌曲和「AI語音」詐騙案，手法是一樣(yàng)的。創作者通過(guò)某些工具，將(jiāng)語音素材導入其中，以高性能(néng)顯卡進(jìn)行訓練，不需要花費太多時間，即可輕易地獲得一段“以假亂真”的音頻内容。

用「AI」創作歌曲，還(hái)需要調整音調，使這(zhè)些音頻與原曲的節奏、音高保持一緻。當然，在最新版本的創作工具中，已經(jīng)可以做到“一鍵處理”，效果不會太差。而「AI語音」的難點在于處理情緒，除了調整仿真音頻的節奏之外，還(hái)需要加上因不同情緒而産生的内容變化。

（圖源：Veer）

在McAfee提到的兩(liǎng)個真實案例中，一位母親接到詐騙團夥撥來的綁架電話，在電話那頭，她的女兒正聲嘶力竭地呼救。不僅聲音相似，就連情緒也十分到位，這(zhè)正是受害者“上鈎”的重要原因。

今年3月，一款名爲“Mocking Bird”的AI工具誕生，據開(kāi)發(fā)者介紹，它能(néng)在電話、視頻中提取人聲，以AI算法進(jìn)行模拟匹配，最後(hòu)根據分析出來的内容，“拼湊”你所需要的語音内容。經(jīng)網友實測，這(zhè)款工具确實可以制作出「AI語音」，但要求并不算低。 

制作「AI語音」，需要足量樣(yàng)本，最好(hǎo)是清晰的人聲，因此想要在一通電話就提取到足夠的聲音素材，還(hái)是比較艱難的。不過(guò)，利用「AI語音」詐騙，或許并不需要逼真的聲音。

「AI」能(néng)詐騙，未必全靠「科技與狠活」

當每個人都(dōu)能(néng)輕而易舉地「克隆」他人的聲音，這(zhè)個世界不就亂套了嗎？「AI語音」，真的做到人人都(dōu)能(néng)随手創作了嗎？ 

爲了了解「AI語音」現階段的真實情況，我采訪了一位在該領域比較資深的創作者明治老師，聽聽他對(duì)「AI語音」的看法。

小雷：明治老師，看您在「AI」領域的研究頗爲深入，您如何看待「AI語音」詐騙案？

明治：目前來說，光靠一通電話、一段視頻就能(néng)提取出足夠用于語言訓練的素材，難度很大，從被(bèi)報道(dào)出來的案例看，大多數被(bèi)騙的用戶在當時是處于緊張的狀态中，因爲不知道(dào)對(duì)方是不是真的，大腦自動匹配想象對(duì)象的聲音，這(zhè)也是有可能(néng)的。

小雷：也就是說，現階段還(hái)不能(néng)單純依靠「AI」制作足以以假亂真的語音嗎？

明治：我們看到網絡上有很多AI翻唱的内容，還(hái)有很多主播整活的語音音頻，但你有沒(méi)有發(fā)現，這(zhè)些二創内容都(dōu)有一個共同點——“樣(yàng)本足量”。就像孫燕姿這(zhè)類歌手，她能(néng)不斷被(bèi)作爲AI創作對(duì)象，正是因爲她有足夠的聲音素材。即便有了足量的聲音素材，對(duì)硬件也有很高的要求，即便是最好(hǎo)的消費級顯卡4090Ti，模型生成(chéng)也需要耗費很多時間。

小雷：假如說，隻用一段音頻作爲素材去制作「AI語音」，能(néng)實現以假亂真嗎？

明治：上面(miàn)也說過(guò)了，聲音樣(yàng)本不夠，是很難做出所謂的「AI語音」内容的，就算強行制作，得到的成(chéng)果質量也不會很高。“以假亂真”，其實有很多判定标準，例如童聲，大多數童聲聽起(qǐ)來都(dōu)是差不多的，尤其是在電話中，不太清晰的語音加上比較普遍的聲線，混淆視聽也不足爲奇。

（圖源：Veer）

從簡單的訪談中我們可以了解到一些關于「AI」内容創作者的想法，總體來說，「AI語音」除了技術加持之外，更多還(hái)是利用了人們對(duì)于未知事(shì)物的恐懼、慌張。而「AI」工具，隻是讓原本的電話詐騙提升了一點可信度。 

在ChatGPT初代公開(kāi)之時，所有人都(dōu)沒(méi)有預料到這(zhè)樣(yàng)一個人工智能(néng)問答平台可以衍生出這(zhè)麼(me)繁多且強大的功能(néng)。同樣(yàng)地「AI語音」現階段還(hái)不算是全民化、普世化的工具，但即便是在這(zhè)個階段，已經(jīng)足夠讓電話詐騙成(chéng)功幾率大大提升。很難想象，當「AI語音」工具簡化後(hòu)，這(zhè)個領域會被(bèi)「玩」成(chéng)什麼(me)花樣(yàng)。

無論如何，「AI」确實正在對(duì)我們的安全造成(chéng)威脅。

「AI」，實在太危險！

在相應的法規出台前，「AI」在任何領域裡(lǐ)，都(dōu)稱不上是安全、可靠的工具。 

不久前，一位全網擁有百萬粉絲的女網紅發(fā)布長(cháng)文，痛斥「AI換臉」正在對(duì)她的名譽、精神造成(chéng)傷害。文中，這(zhè)名網紅揭露，有不法分子通過(guò)這(zhè)項技術，將(jiāng)其她的臉換在成(chéng)人視頻裡(lǐ)，讓她“成(chéng)爲”影片中的女主角。

（圖源：Veer）

不僅是「AI換臉」，利用「AI」工具，用戶可以随時輸入相應的關鍵詞，生成(chéng)任何他們想要的内容，「18禁圖片」、「名人」或是任何「沒(méi)有發(fā)生的事(shì)情」，精制的圖片難辨真僞，影響了用戶們的判斷力。 

從前，“有圖有真相”，是我們判斷事(shì)情真僞的主要證據，再後(hòu)來，配合動态視頻、真人語音，衍生出“視頻不能(néng)P”的判定标準。在「AI」蓬勃發(fā)展的今天，圖片可以自制、真人可以被(bèi)移花接木，甚至是語音，也能(néng)被(bèi)「AI」克隆。盡管「AI語音」并不能(néng)完全被(bèi)認定位電話詐騙成(chéng)功的主因，但它提供的幫助，是被(bèi)安全機構所認定爲「具有風險」的。

目前，我國(guó)已經(jīng)出台《網絡音視頻信息服務管理規定》，對(duì)于“非真實音視頻信息”，應當予以标識，禁止利用大數據深度學(xué)習制作、發(fā)布虛拟新聞。而這(zhè)僅僅隻是一個開(kāi)始，想要給「AI」戴上鐐铐，任重道(dào)遠。

McAfee出具的報告中提到，光是2022年這(zhè)一年時間裡(lǐ)，涉及「AI語音」詐騙的金額就達到了26億美元，約合人民币180億元。 

面(miàn)對(duì)「AI語音」詐騙，我們該如何防範呢？

（圖源：Veer）

如前面(miàn)提到的，「AI語音」的生成(chéng)需要大量克隆對(duì)象的聲音樣(yàng)本，減少在未知風險的社交平台中發(fā)送帶有自己真實聲音的視頻、音頻内容，其實是最保險的方案。另外，「AI語音」詐騙成(chéng)功率高達77%，與人們的恐懼心理離不開(kāi)關系，在沒(méi)法确認對(duì)方的真實身份前，盡量不要接受對(duì)方的要求，尤其是轉賬。 

無論如何，現階段的「AI語音」并沒(méi)有如同網上流傳的那樣(yàng)神乎其神，我們普通網民也沒(méi)必要過(guò)于著(zhe)急自己的聲音被(bèi)克隆，在遇到有可能(néng)是詐騙的情況，先保持冷靜，整理情緒，理清思路，才能(néng)更好(hǎo)地應對(duì)。