Deepfakes 已經(jīng)讓“眼見(jiàn)為實(shí)”成為過(guò)去;至少在視頻方面是如此。近日，Deeptrace 公司發(fā)布了一份關(guān)于 Deepfakes 現(xiàn)狀的報(bào)告，分享了迄今為止人們對(duì) Deepfakes 最全面的了解以及其對(duì)現(xiàn)實(shí)世界的影響。

Deeptrace 是一家位于阿姆斯特丹的網(wǎng)絡(luò)安全公司，自 2018 年成立以來(lái)就致力于研究 Deepfakes 不斷發(fā)展的功能和造成的威脅。該公司創(chuàng)始人兼首席科學(xué)官 Giorgio Patrini 在這份報(bào)告的介紹中說(shuō)道：

無(wú)論是視頻音頻，還是文本，我們社會(huì)依賴(lài)和信任的多個(gè)數(shù)字通信渠道都已遭到了顛覆。

以下是雷鋒網(wǎng)對(duì)這份報(bào)告的整理：

自 2017 年晚些時(shí)候出現(xiàn)以來(lái)，Deepfakes 就開(kāi)始憑借著驚人發(fā)展速度、逼真的換臉效果，以及對(duì)社會(huì)的消極影響而廣為人知。

然而，Deepfakes 在今年的發(fā)展尤其迅猛。報(bào)告數(shù)據(jù)顯示，今年網(wǎng)絡(luò)上 Deepfakes 視頻的數(shù)量迅速增長(zhǎng)，截至目前為 14678 個(gè)，是去年 12 月份(7964 個(gè))的一倍。

在所有的 Deepfakes 視頻中，絕大多數(shù)視頻都涉及色情內(nèi)容，只有極少一部分視頻屬于非色情內(nèi)容，兩者的比例分別為 96% 和 4%;而且，在最受歡迎的四大色情網(wǎng)站上(2018 年至今)，關(guān)于 Deepfakes 的視頻觀眾已經(jīng)超過(guò) 1.3 億人。

不過(guò)，值得注意的是，非色情的 Deepfakes 視頻也越來(lái)越受歡迎。

具體到受害人(被換臉的目標(biāo))的性別、國(guó)籍和職業(yè)等方面，這家公司也對(duì) 5 家色情網(wǎng)站和 14 個(gè)相關(guān) YouTube 頻道的 Deepfakes 視頻進(jìn)行了統(tǒng)計(jì)：

報(bào)告顯示，在色情網(wǎng)站的 Deepfakes 視頻中，女性是唯一的受害者;而在 YouTube 上的 Deepfakes 視頻中，女性受害者的比例為 39%，男性受害者的比例為 61%。

國(guó)籍層面，YouTube 上以美國(guó)、英國(guó)、加拿大等西方國(guó)家人物為目標(biāo)的 Deepfakes 視頻高達(dá) 90%;在色情 Deepfakes 視頻方面，美英加三國(guó)的女性受害者加起來(lái)占總數(shù)的一半;但韓國(guó)的受害女性(大多是 K-pop 歌手)高達(dá)四分之一。

在色情網(wǎng)站上的 Deepfakes 中，受害人的職業(yè)也受到關(guān)注。只有 1% 的受害人從事新聞與媒體行業(yè)，剩下 99% 均來(lái)自?shī)蕵?lè)業(yè)。在 YouTube 上，受害者的職業(yè)則更加多元，但娛樂(lè)業(yè)的人物仍占據(jù)大多數(shù)，少部分受害人為媒體人、政客和企業(yè)家。

Deepfakes 的商業(yè)化

2017 年 11 月 2 日，一名 Reddit 用戶(hù)創(chuàng)造了 Deepfakes，隨后這項(xiàng)技術(shù)傳遍全球。現(xiàn)在，隨著相關(guān)論壇、工具和服務(wù)的出現(xiàn)，Deepfakes 也變得越來(lái)越商業(yè)化——關(guān)于 Deepfakes 視頻創(chuàng)作社區(qū)和論壇的發(fā)展是這一變化的關(guān)鍵驅(qū)動(dòng)力，它們?yōu)閾Q臉視頻創(chuàng)作者提供了探討交流的平臺(tái)，也為創(chuàng)作者之間的合作提供了便利。

Deeptrace 的報(bào)告發(fā)現(xiàn)，目前，包括 Reddit、4chan、8chan、Voat 在內(nèi)，關(guān)于 Deepfakes 視頻創(chuàng)作的社區(qū)和論壇有 20 個(gè);其中，有 13 個(gè)論壇披露了自己的用戶(hù)數(shù)量，總?cè)藬?shù)大概在 10 萬(wàn)左右;在這 10 萬(wàn)個(gè)用戶(hù)當(dāng)中，有 4000 多個(gè)用戶(hù)擁有特權(quán)。

Deepfakes 的商業(yè)化不僅體現(xiàn)在社區(qū)和論壇上，還有新的電腦 App 和服務(wù)。不過(guò)，就電腦 App 而言，需要使用者具有編程知識(shí)以及強(qiáng)大的圖形處理器;但由于“手把手教學(xué)”式的使用指南的問(wèn)世，這一現(xiàn)象很快也會(huì)發(fā)生改變。還有就是定制 Deepfakes 視頻的服務(wù)，費(fèi)用則取決于視頻的使用目的以及制作的難度。

Deepfakes 的危害和影響

波士頓大學(xué)法學(xué)教授 Danielle Citron 曾表示，“Deepfakes 已經(jīng)成為了攻擊女性的武器。"

這是 Deepfakes 最大的危害之一——Deefakes 色情視頻里的受害者大多是英美兩國(guó)的女演員，以及韓國(guó)的女歌星，出現(xiàn)頻率最高的十位人物(雷鋒網(wǎng)按：為了保護(hù)這些女性，該報(bào)告并沒(méi)有透露她們的姓名)的總觀看人數(shù)超過(guò) 3000 萬(wàn);其中出現(xiàn)頻率最高的為英國(guó)的一位女演員，她一共出現(xiàn)在 257 個(gè) Deepfakes 色情視頻中。

Deepfakes 技術(shù)在政治方面的影響也不容忽視。CNAS 技術(shù)與國(guó)家安全項(xiàng)目主任 Paul Scharre 曾警告：

Deepfakes 具有極大的破壞性，利用它來(lái)操控選舉只是時(shí)間問(wèn)題。

2018 年，加蓬(非洲中西部國(guó)家)總統(tǒng) Ali Bongo 在公眾視野中消失了數(shù)月，他的健康狀況備受關(guān)注;為了打消外界圖謀不軌的猜測(cè)，政府公布了一段 Ali Bongo 錄制的新年致辭的視頻。然而，Ali Bongo 不同尋常的“出場(chǎng)方式”讓外界更加懷疑，軍方甚至發(fā)動(dòng)了兵變。實(shí)際上，這段視頻為 Deepfakes 合成;Ali Bongo 早在幾個(gè)月前就患了嚴(yán)重的中風(fēng)。

2019 年，一段關(guān)于馬來(lái)西亞經(jīng)濟(jì)部長(zhǎng) Azmin Ali 與男性發(fā)生性關(guān)系的視頻在網(wǎng)絡(luò)上瘋傳，甚至攪動(dòng)了馬來(lái)西亞的政局(同性性關(guān)系在馬來(lái)西亞屬違法行為)。雖然 Azmin Ali 聲稱(chēng)這段視頻是通過(guò) Deepfakes 技術(shù)偽造的，是政治陰謀;但是，國(guó)際專(zhuān)家聲稱(chēng)找不到偽造跡象。

上述兩個(gè)例子都是 Deepfakes 破壞政治進(jìn)程最有力的跡象;除此之外，還有許多因 Deepfakes 而受影響的政治問(wèn)題。如果沒(méi)有防御性對(duì)策，世界各地民主政體的完整性就會(huì)受到威脅。

然而，Deepfakes 對(duì)政治領(lǐng)域的影響不僅僅局限于惡意和欺騙，它甚至還催生了一種有關(guān)政治諷刺的藝術(shù)形式。包括 Mark Zuckerberg, Kim Kardashian 和 Donald Trump 在內(nèi)的公眾人物可能被“操控”，說(shuō)出自己“違心”的話;這也引發(fā)了人們對(duì)政治以及社會(huì)問(wèn)題的談?wù)摵蜕钏肌?/p>

除了政治，Deepfakes 在社交媒體上的惡意應(yīng)用也開(kāi)始出現(xiàn)，并且正在影響網(wǎng)絡(luò)安全格局，比如制作虛假數(shù)字身份，以進(jìn)行欺詐或者是間諜活動(dòng)。

雷鋒網(wǎng)小結(jié)

總的來(lái)說(shuō)，Deepfakes 的危害和影響已經(jīng)蔓延全球。而且，從目前的趨勢(shì)來(lái)看，Deepfakes 背后龐大的受眾群體以及灰色的利益鏈，也讓消滅其帶來(lái)的負(fù)面影響變得更加困難。

不過(guò)，技術(shù)本身無(wú)罪，怕就怕在“科技不能向善”。