一場大型AI普法運動興起(qǐ)，哪些行爲侵權違法了？

最近幾天，AI新騙局在全國(guó)炸開(kāi)了鍋。

前有AI論文造假和新聞造假，後(hòu)有疑似AI換臉的楊幂、迪麗熱巴出現在直播間賣貨。昨日内蒙古包頭的一起(qǐ)“AI電信詐騙10分鍾騙走430萬”登上微博熱搜，引起(qǐ)全民關注。

就在今早，一組引起(qǐ)美股大跌的五角大樓爆炸圖片被(bèi)官方證實爲假，疑似由AI合成(chéng)。

随著(zhe)AI技術掀起(qǐ)新一波落地潮，AI深度僞造（DeepFake）内容在全球範圍内病毒式傳播，引起(qǐ)産業的強烈擔憂。

早在2019年，智東西就調查報道(dào)過(guò)深度僞造AI換臉黑産。近年來，深度僞造技術與反深度僞造技術的博弈持續不斷，相關部門也逐步完善監管法律法規。當下，随著(zhe)以GPT-4爲代表的AI大模型技術叠代進(jìn)化，深度僞造内容正卷土重來，從而在全球掀起(qǐ)更大的風浪。

從文章到圖片，從人聲到視頻的動态效果都(dōu)能(néng)被(bèi)最大程度還(hái)原，瞞天過(guò)海騙過(guò)公衆，更有各種(zhǒng)詐騙套路層出不窮、防不勝防。這(zhè)些AI僞造内容對(duì)很多年輕人來說都(dōu)真假難辨，老人、小孩則更容易上當受騙。而一旦他們的信任被(bèi)不法分子用來違法犯罪，後(hòu)果不堪設想。

有AI技術專家告訴智東西，對(duì)于目前這(zhè)些AI深度僞造技術生成(chéng)的音視頻等内容，普通人用肉眼來鑒别的難度非常之大。

傳統騙局換上了一件由AI包裹的“新外衣”，更爲隐蔽也更加讓人防不勝防。這(zhè)些AI新騙局是如何騙人的？難辨真假的AI僞造内容需要怎麼(me)去識破？産業亂象又有什麼(me)樣(yàng)的解法？通過(guò)對(duì)市面(miàn)上各種(zhǒng)AI新騙術進(jìn)行梳理分析，本文對(duì)這(zhè)些問題進(jìn)行了深入探讨。

01.10分鍾換臉視頻騙走430萬，這(zhè)四大AI新騙局要警惕

今年3月，一份名爲《暫停大型人工智能(néng)研究》的公開(kāi)信在未來生命研究所官網上發(fā)布，包括特斯拉CEO埃隆·馬斯克（Elon Musk）、蘋果公司聯合創始人史蒂夫•沃茲尼亞克（Steve Wozniak）等人在内的千名科學(xué)家、企業高管簽字呼籲暫緩GPT-4以上版本的研發(fā)，他們矛頭所指都(dōu)是強大AI技術可能(néng)的負面(miàn)用途。

AI負面(miàn)用途的爆發(fā)遠快于我們的想象。随著(zhe)AI技術能(néng)力加速叠代和落地，AI僞造變得更加容易、内容也更爲逼真，随之而來的是假新聞、假圖片絡繹不絕，變聲、換臉造成(chéng)的惡性事(shì)件引發(fā)社會擔憂。很多人感到，“有圖有真相”、“眼見爲實”的常識似乎受到了有史以來最猛烈的沖擊。

1、換臉視頻：10分鍾騙走430萬

或許我們的身邊已經(jīng)發(fā)生了不少由AI換臉引發(fā)的惡性事(shì)件，隻是我們尚未察覺。

近日，内蒙古包頭市自治區公安局網偵部門偵破一起(qǐ)利用AI進(jìn)行電信詐騙的案件，罪犯假借好(hǎo)友名義稱自己急需用錢，并撥打微信視頻聯系這(zhè)位受害者郭先生。

出于對(duì)于好(hǎo)友的信任，再加上已經(jīng)視頻聊天核實了對(duì)方的身份，郭先生放松了警惕，分兩(liǎng)筆彙款將(jiāng)430萬打到了罪犯的銀行卡上，但他萬萬沒(méi)想到所謂的微信視頻通話中的“好(hǎo)友”是由AI換臉技術制作而成(chéng)的。罪犯利用AI換臉技術，佯裝成(chéng)好(hǎo)友對(duì)他進(jìn)行電信詐騙。目前在警方攔截下，已追回336.84萬元，仍有93.16萬元已被(bèi)轉移走。

AI換臉是最容易獲取對(duì)方信任的一類詐騙手段，詐騙者往往利用AI技術換臉成(chéng)受害者熟悉的人，并撥打電話和對(duì)方确認信息。

面(miàn)對(duì)這(zhè)類新型詐騙方式，一是需要保護好(hǎo)個人信息，不輕易提供任何涉及個人隐私的信息給他人，不随意點進(jìn)陌生鏈接、下載陌生軟件；二是要通過(guò)各種(zhǒng)渠道(dào)核驗對(duì)方身份，對(duì)潛在風險保持警惕。

和“AI換臉”功能(néng)極爲相似的是“AI脫衣”。早在今年3月，一則“女子地鐵照被(bèi)AI一鍵脫衣傳播”的新聞沖上了熱搜，一名女性搭乘地鐵時的一張照片被(bèi)人用AI軟件“一鍵脫衣”，遭到惡意傳播，罪犯還(hái)廣泛散布不實信息對(duì)該女子進(jìn)行污蔑。

這(zhè)樣(yàng)的“一鍵脫衣”技術早在2019年時就已在國(guó)外出現，但因廣泛的輿論争議和聲讨，項目迅速關閉下架。這(zhè)股不良之風在今年的AI熱中再次吹到國(guó)内，在網絡上以“AI”、“換裝”、“軟件”等關鍵詞組合搜索時仍能(néng)出現不少隐藏極深的相關軟件，有心者甚至用此來制作、傳播色情淫穢視頻，AI視頻變裝服務已成(chéng)爲一門鏈條完整的黑色産業。

“AI換臉”在此前已被(bèi)大量使用到影視劇二度創作、趣味惡搞視頻、表情包制作當中，但其中隐藏的法律風險和侵權糾紛依舊不容忽視。近期，據企查查官網信息顯示，上海魚腥草信息科技有限公司就因旗下一款換臉手機APP而遭多位網紅博主起(qǐ)訴。

App Store中有近百款“AI換臉”應用程序

早些時候，一位名爲“特效合成(chéng)師洪亮”的視頻博主在自己的視頻中，將(jiāng)電視劇《你是我的榮耀》中男主演楊洋的臉，通過(guò)AI換臉技術換成(chéng)了自己的臉，最終遭到主演粉絲的追打，從而引起(qǐ)了不少網友的注意。

“特效合成(chéng)師洪亮”賬号中上傳的部分AI合成(chéng)換臉視頻

這(zhè)位視頻博主以換臉男明星爲噱頭，實則是給自己的影視特效制作付費課程引流，但行爲上已經(jīng)給出演電視劇的演員迪麗熱巴、楊洋等人造成(chéng)了侵權。《狂飙》爆火之後(hòu)，也有不少粉絲將(jiāng)劇情片段與電視劇版《西遊記》換臉進(jìn)行二度創作，在傳播度和話題讨論上爲電視劇又貢獻了一波熱度，但卻對(duì)出演電視的演員造成(chéng)了一定困擾。

蹭流量的行爲，無論是對(duì)被(bèi)換臉的明星，還(hái)是對(duì)技術充滿好(hǎo)奇的公衆，都(dōu)産生了不良的影響和困擾，娛樂和技術之間的界限不應模糊至此。

2、聲音合成(chéng)：複刻人聲瞞天過(guò)海

前有“AI孫燕姿”爆火，後(hòu)有AI人聲克隆闖入配音圈，AI的聲音合成(chéng)技術被(bèi)炒得火熱，也衍生出不少的惡性事(shì)件和相關受害者。

一位網友用美國(guó)知名歌手弗蘭克·奧什（Frank Ocean）的歌曲片段訓練出來仿冒其音樂風格的歌曲，并在地下音樂論壇上發(fā)布了這(zhè)些“音樂作品”，還(hái)將(jiāng)這(zhè)些歌曲僞造成(chéng)是在錄音時不小心洩露的版本，最終蒙混過(guò)關，賣出了近970美元（折合爲6700元人民币）的價格。

不久之前，西班牙的一家電影制作公司Peabody Films也遭受了AI電話的詐騙，詐騙者僞裝成(chéng)著名演員“卷福”本尼迪克特•康伯巴奇（Benedict Cumberbatch）向(xiàng)公司稱對(duì)公司的電影很感興趣，有合作意向(xiàng)，但需要公司先轉20萬英鎊（折合約170萬人民币）的定金，之後(hòu)再談具體的合作細節。

電影公司意識到了事(shì)情的不對(duì)勁，向(xiàng)該演員的經(jīng)紀公司進(jìn)行求證才發(fā)現從頭到尾就是一場AI騙局。

海外還(hái)有不少利用AI克隆聲音進(jìn)行詐騙勒索的新聞，部分案件涉案金額令人咋舌，高達百萬美金。這(zhè)類詐騙者往往通過(guò)電話錄音等素材提取某人的聲音進(jìn)行聲音合成(chéng)，再利用僞造後(hòu)的聲音來騙過(guò)熟人，就這(zhè)需要公衆對(duì)陌生電話保持警惕，即使是熟人也可能(néng)被(bèi)僞造聲音。

美國(guó)CBS電視台的電視新聞雜志節目60 Minutes在5月22日的最新一期節目中，現場展示了黑客是怎樣(yàng)克隆聲音來騙過(guò)同事(shì)，并成(chéng)功竊取護照信息的。

60 Minutes在推特中上傳了完整視頻

僅用了5分鍾時間，黑客就通過(guò)AI克隆複制了Sharyn的聲音，并通過(guò)工具替換了手機上來電顯示的名稱，成(chéng)功騙過(guò)了她的同事(shì)，輕而易舉地得到了她的姓名、護照号碼等私人信息。

3、僞造照片：特朗普“被(bèi)捕”，教皇穿羽絨服走秀

在AI換臉視頻鋪天蓋地傳播的情況下，AI假照片更是泛濫成(chéng)災。

美東時間5月22日，一張五角大樓附近地區發(fā)生爆炸的圖片在社交媒體上瘋傳。這(zhè)張虛假照片的廣泛流傳，甚至導緻标普500指數短線下跌約0.3%至盤中低點，由漲轉跌。

随後(hòu)美國(guó)國(guó)防部發(fā)言人立即證實，這(zhè)同樣(yàng)是一張由AI生成(chéng)的虛假圖片，這(zhè)張圖具有明顯的AI生成(chéng)特征，比如路燈有些歪，圍欄長(cháng)在了人行道(dào)上等。

Midjourney生成(chéng)的90年代情侶寫真已經(jīng)讓網友真假難辨，3月時幾張前美國(guó)總統特朗普被(bèi)捕的組圖在推特上瘋傳。

照片中的特朗普被(bèi)警察包圍，又按倒在地，看上去狼狽又慌亂。在聽證會上，他掩面(miàn)痛哭，還(hái)在潮濕陰暗的囚房中穿上了獄服。這(zhè)些圖片由公民記者網站Bellingcat的創始人艾略特·希金斯（Eliot Higgins）用Midjounrney制作而成(chéng)。組圖發(fā)出後(hòu)，他的賬号也随之被(bèi)封查。

一組由Midjounrney生成(chéng)的特朗普“被(bèi)捕”圖

“特朗普被(bèi)捕圖”發(fā)出不久之後(hòu)，教皇方濟各穿著(zhe)巴黎世界羽絨服走秀的照片在網上引起(qǐ)軒然大波，發(fā)出不久後(hòu)便有了2800多萬的點擊量，讓不少網友都(dōu)信以爲真。

教皇身著(zhe)巴黎世家羽絨服走秀

創作者巴勃羅·澤維爾（Pablo Xavier）稱，自己完全沒(méi)想到這(zhè)組圖片居然會走紅，自己隻是突然想到了巴黎世家的羽絨服、巴黎或者羅馬的街道(dào)等。

Reddit論壇上的Midjourney闆塊中，一組“2001年卡斯卡迪亞9.1級大地震，引發(fā)的海嘯摧毀了俄勒岡州”被(bèi)大面(miàn)積傳播，照片當中的受災現場一片混亂，救災人員、新聞記者、政府官員等人相繼出現，人們面(miàn)帶憂慮、驚恐和慌張。但實際上這(zhè)完全是一場AI引發(fā)的“災難”，曆史上并不存在。而這(zhè)些要素齊全、顔色真實的圖片場景讓人看上去難辨真僞。

4、編撰新聞：AI成(chéng)爲謠言炮制機

5月7日，甘肅省平涼市公安局網安大隊偵破了一起(qǐ)AI炮制虛假信息的案件。

據悉，犯罪利用ChatGPT將(jiāng)自己從全網中搜集而來的社會熱點新聞修改編輯，編撰出一條“今晨甘肅一火車撞上修路工人緻9人死亡”的虛假新聞，借此來獲取網絡流量和關注度來變現。

此條新聞一經(jīng)發(fā)布後(hòu)便獲得了超1.5萬點擊量，好(hǎo)在警方在輿論進(jìn)一步發(fā)酵前介入調查，證實是犯罪嫌疑人利用AI技術進(jìn)行的新聞造假。

不光是讀者們需要鑒别釣魚網站中的AI假新聞，老牌媒體有時也會被(bèi)AI虛假新聞蒙騙。

英國(guó)《每日郵報》（The DailyMail）曾在4月24日刊登過(guò)一則新聞，稱“一位22歲的加拿大男子爲在韓國(guó)以偶像身份出道(dào)而整容12次，最終喪命”。

報道(dào)稱，爲了在即將(jiāng)上映的美劇中扮演韓流明星BTS組合中的Jimin，22歲的加拿大演員花了2.2萬美元做了12次整形手術，最終不幸身亡

該新聞引起(qǐ)全球多家媒體關注，韓國(guó)YTN新聞頻道(dào)等電視台迅速跟進(jìn)報道(dào)，網友們對(duì)此也表示了自己的同情與惋惜。

網友對(duì)其離世的消息表示惋惜

然而事(shì)情在一位駐韓記者以及美國(guó)廣播電台iHeartRadio提出質疑後(hòu)全面(miàn)反轉：該男子可能(néng)壓根就不存在。網友將(jiāng)其照片拿去AI内容檢測網站查證後(hòu)發(fā)現，照片有75%的可能(néng)性是AI生成(chéng)的，韓國(guó)MBC電視台求證警方後(hòu)也得到了“未收到類似死亡案例報告”的回複，這(zhè)則新聞立刻被(bèi)證實爲“AI造假新聞”。

但是事(shì)情還(hái)未結束，本月初，該男子的家人決定起(qǐ)訴報道(dào)過(guò)“假新聞”的媒體以及男子所屬的經(jīng)紀公司，還(hái)有第一位宣稱男子已死亡的記者。言下之意就是，照片并非是AI生成(chéng)的，男子的确因整容過(guò)度而引發(fā)的手術并發(fā)症而喪命。

多家媒體在未經(jīng)核實身份，也沒(méi)手握實質性證據的情況下，稱該男子的身份和信息都(dōu)是編纂的，讓一場由AI引發(fā)的鬧劇徹底變爲了一場慘痛的悲劇。

這(zhè)些由AI編篡出的新聞不僅混淆了大衆的視聽，更是讓本就沒(méi)有時間和耐心看清事(shì)情全貌的路人們失去了分辨真相的能(néng)力。

02.被(bèi)“AI”過(guò)的明星們：“AI孫燕姿”翻唱爆火，“AI楊幂”換臉賣貨

當AI技術泛濫時，娛樂圈明星成(chéng)了首當其沖的重災區。

近日爆火的孫燕姿在昨晚對(duì)“AI孫燕姿”的出現發(fā)長(cháng)文給予回應。

孫燕姿回應“AI孫燕姿”的出現（中文翻譯版）

她對(duì)于“AI孫燕姿”的出現采取了較寬容的态度，并未通過(guò)法律手段進(jìn)行追究。她稱：“無法跟一個沒(méi)幾分鍾就能(néng)推出一首新專輯的‘人’來比。”她認爲，雖然它（AI）既沒(méi)有情緒，也沒(méi)有音調的變化，但人類再怎麼(me)快也無法超越它。

從回應中不難看出，雖然孫燕姿對(duì)AI生成(chéng)的音樂并不欣賞，但人類确實難以在一時之間趕超機器人的學(xué)習能(néng)力，她選擇對(duì)這(zhè)些熱歌翻唱視頻淡然處之。

最早是因爲AI翻唱而重新進(jìn)入大衆視野的歌手孫燕姿，因其獨特的音色和唱腔風格和多首熱門歌曲都(dōu)有極高的适配度，在網友的AI技術下，她“翻唱”的《發(fā)如雪》《下雨天》《我記得》等歌曲播放量均破百萬。

“AI孫燕姿”播放量排行靠前的幾首歌曲

而孫燕姿也并非是唯一一位被(bèi)“AI翻唱”的歌手，還(hái)有AI周傑倫、AI王心淩、AI騰格爾等人陸續出現。

盡管孫燕姿選擇不追究法律責任，但當AI技術已經(jīng)濫用到損害商業利益、觸及法律紅線時，還(hái)需要及時維護自己的正當權益。

據中國(guó)新聞網報道(dào)，近日，有多個直播間都(dōu)開(kāi)始采用AI換臉明星的方式進(jìn)行直播帶貨，女明星如楊幂、迪麗熱巴、Anglebaby等人成(chéng)了重點換臉對(duì)象，明星臉的帶貨主播能(néng)達到更好(hǎo)的引流效果，并節省廣告宣傳成(chéng)本，消費者或明星粉絲可能(néng)會沖著(zhe)明星效應進(jìn)行消費而被(bèi)坑騙。

據提供換臉服務的網站介紹，購買現成(chéng)模型，如果素材充足的話，隻用半個小時到幾個小時的時間就能(néng)直接合成(chéng)長(cháng)達幾小時的視頻，全套模型的購買價格爲3.5萬元，遠低于邀請一位明星本人直播帶貨的報價。

在幾大主流電商平台中，“AI換臉”“視頻換臉”等關鍵詞都(dōu)被(bèi)平台屏蔽，但通過(guò)轉換搜索關鍵詞以及其他方式仍能(néng)找到不少相關商品。

AI換臉技術并非是近期才興起(qǐ)。早在2017年，一位名爲DeepFake網友將(jiāng)情色電影中的女主角換臉成(chéng)好(hǎo)萊塢明星蓋爾·加朵（Gal Gadot），這(zhè)是AI換臉技術首次出現在公衆視野當中。後(hòu)來由于大量投訴者表示不滿，其賬号被(bèi)官方封禁，而此後(hòu)的AI換臉技術則以他的名字命名爲“DeepFake”。

AI換臉真正在國(guó)内火起(qǐ)來是在2019年初，一段通過(guò)AI技術將(jiāng)《射雕英雄傳》中黃蓉扮演者朱茵的臉替換爲楊幂的視頻在網絡上熱傳，有網友表示毫無違和感，也有網友提出可能(néng)會侵犯原扮演者的肖像權，制作者肖先生對(duì)此回應稱：主要适用于技術交流，不會用于營利行爲。

網友將(jiāng)演員朱茵在《射雕英雄傳》中扮演的“黃蓉”一角替換爲演員楊幂的臉

這(zhè)也成(chéng)爲國(guó)内使用AI進(jìn)行影視劇二創的早期開(kāi)端。

AI技術如今早已被(bèi)不法分子盯上，并用于各類層出不窮的換臉花樣(yàng)上，不止是娛樂圈明星，也有不少普通人被(bèi)所謂的“私密照片”敲詐勒索。多位網絡安全部門的民警稱，AI深度合成(chéng)技術在之前因爲缺少監管，造成(chéng)了不少信息安全隐患和網絡傳播亂象，甚至間接導緻了刑事(shì)案件的發(fā)生。

03.一場大型AI普法運動興起(qǐ)，哪些行爲侵權違法了？

很多人的肖像、聲音在未經(jīng)允許的情況下被(bèi)傳播，影音産品在未談版權的情況下被(bèi)拿來使用牟利，更有甚者是違法分子利用僞造信息進(jìn)行财産詐騙甚至綁架勒索，損害人們的人身及财産權益。

面(miàn)對(duì)這(zhè)些更加惡劣的情況，人們需要拿起(qǐ)法律的武器保護自己，由此而來的將(jiāng)是一場有利于産業發(fā)展的大型AI普法運動。

面(miàn)部和聲音的僞造橫行，首先面(miàn)臨的是個人隐私侵權問題。根據《民法典》第一千零一十九條：“任何組織或者個人不得以醜化、污損，或者利用信息技術手段僞造等方式侵害他人的肖像權。未經(jīng)肖像權人同意，不得制作、使用、公開(kāi)肖像權人的肖像，但是法律另有規定的除外。”同時，“對(duì)自然人聲音的保護，參照适用肖像權保護的有關規定。”而讓人們更擔心的是，僞造信息如果落到不法分子手裡(lǐ)，可能(néng)會進(jìn)一步利用信任侵害人們的财産權甚至是健康權。

除了人身權利，AI僞造内容涉及的影音素材的版權侵權問題也備受關注。近期，歌手孫燕姿發(fā)文稱表示了對(duì)“AI孫燕姿”淡然處之，但更多的被(bèi)僞造的人選擇拿起(qǐ)法律武器保護自己，比如據媒體報道(dào)，上海魚腥草信息科技有限公司因某款換臉手機APP被(bèi)多位網紅博主起(qǐ)訴。

上海大邦律師事(shì)務所高級合夥人、知識産權律師遊雲庭撰文稱，根據知識産權法律，用真人語音訓練人工智能(néng)并生成(chéng)歌曲，如果不做商用，大概率不侵權，但發(fā)布在網上還(hái)是應當先拿到相關的詞曲著作權、伴奏音樂、視頻使用素材的授權。人工智能(néng)生成(chéng)的作品有先天的版權瑕疵，不應當享有著作權并收取授權費用。用戶使用人工智能(néng)生成(chéng)的作品如果被(bèi)他人侵權，可以依據《反不正當競争法》維權。

實際上，我國(guó)一些人工智能(néng)領域的專門法規也已有規定。國(guó)家網信辦等部門已經(jīng)在2022年12月頒布《互聯網信息服務深度合成(chéng)管理規定》，用25條規定劃定深度合成(chéng)技術使用規範，包括不得利用深度合成(chéng)服務侵犯他人合法權益等法律、應用程序分發(fā)平台應當落實上架審核、服務提供和技術支持者應當加強技術管理等規定。

就在4月11日，國(guó)家互聯網信息辦公室又迅速起(qǐ)草了《生成(chéng)式人工智能(néng)服務管理辦法（征求意見稿）》，涉及的生成(chéng)式人工智能(néng)包括基于算法、模型、規則生成(chéng)文本、圖片、聲音、視頻、代碼等内容的技術，可以說對(duì)當下的AI僞造進(jìn)行了全面(miàn)的規定。

此外，我國(guó)頒布的《中華人民共和國(guó)網絡安全法》、《中華人民共和國(guó)數據安全法》、《中華人民共和國(guó)個人信息保護法》、《互聯網信息服務管理辦法》等法律、行政法規度都(dōu)對(duì)此有所規定，可以成(chéng)爲維護合法權益的相關依據。

04.普通人有AI内容識别“防禦術”，平台要負起(qǐ)責任

“造假”和“打假”并不是因AI而産生，但今天的AI技術讓“造假”變得更容易且更難以分辨。面(miàn)對(duì)撲面(miàn)而來的AI僞造内容，人們自己有沒(méi)有能(néng)夠去識别的技巧？

知名安全公司瑞萊智慧RealAI聯合創始人、算法科學(xué)家蕭子豪告訴智東西，目前深度僞造技術在不斷進(jìn)化，生成(chéng)的聲音和視頻越來越逼真，普通人肉眼鑒别的難度非常大。

“普通人如果遇到這(zhè)類情況，可以在視頻時有意識地引導對(duì)方做一些動作，如：大幅度地搖頭或張嘴。如果騙子技術手段較弱，那麼(me)我們有可能(néng)發(fā)現對(duì)方面(miàn)部邊緣或者牙齒的瑕疵，從而識别出AI換臉。不過(guò)，這(zhè)個方法對(duì)于識别出‘高水平’的詐騙分子，還(hái)存在難度。此外，還(hái)可以追問幾個隻有你與借款者之間才知道(dào)的私密信息，來核實對(duì)方身份。”

“在防止自己上當受騙的同時，還(hái)要注意保護好(hǎo)個人圖像，盡量避免在公開(kāi)平台大量曬自己的照片和視頻，給不法分子提供便利。因爲，深僞視頻制作的原材料是個人圖片、視頻，這(zhè)些數據越多訓練出的視頻也就越逼真、越難以鑒别。”蕭子豪補充說。

AI讓騙局和錯誤信息變得更加難以被(bèi)發(fā)現，科技公司及内容分發(fā)平台的審核把關變得更加重要。

蘋果公司聯合創始人史蒂夫·沃茲尼亞克（Steve Wozniak）近日在一次采訪中警告稱，AI内容應該被(bèi)明确标記，并且需要對(duì)該行業進(jìn)行監管。任何由AI生成(chéng)内容都(dōu)應該由發(fā)布者來承擔責任，但不代表大型科技公司可以逃脫法律制裁，沃茲尼亞克認爲，監管機構應該追究大型科技公司的責任。

根據我國(guó)頒布的《互聯網信息服務深度合成(chéng)管理規定》，内容提供者需要按照對(duì)生成(chéng)的圖片、視頻等内容進(jìn)行标識等。實際上，我們已經(jīng)看到小紅書等國(guó)内社交平台标記了疑似AI生成(chéng)内容，能(néng)起(qǐ)到一定預防作用。但AI生成(chéng)内容的最後(hòu)一個關口還(hái)在用戶自己，媒體平台隻能(néng)起(qǐ)一個過(guò)濾作用。

05.結語：抵制負面(miàn)應用，AI攻防戰打響

不斷進(jìn)化的AI技術讓文字、圖像、視頻的生成(chéng)變得更加容易和逼真，與此同時深度僞造内容也随之泛濫。深度僞造内容輕則混淆視聽、被(bèi)有心者用以謀利，重則可能(néng)被(bèi)不法分子利用進(jìn)行詐騙甚至勒索犯罪，引起(qǐ)了人們對(duì)AI生成(chéng)内容監管的迫切關注。

随著(zhe)AI詐騙新套路引起(qǐ)社會問題，産業中的用戶、技術提供者和運營商、内容分發(fā)平台及内容生産者都(dōu)需要加強自律。實際上，我國(guó)已經(jīng)提前頒布了一系列相關法律法規，AI負面(miàn)應用問題的暴露有望帶來一場全民的技術普法運動，從而促進(jìn)産業更健康發(fā)展。