最近的B站，熱鬧非凡。
六小齡童變身蔡徐坤大秀球技，蘇大強(qiáng)一言不合帥成了吳彥祖，黑寡婦在同?？蜅＠镞^(guò)了把佟湘玉的癮，李云龍一頭長(zhǎng)發(fā)唱生僻字歌的樣子令人格外著迷。
因?yàn)?DeepFakes（深度假貨）的存在，你可以變成任何人，任何人也可以變成你。
只是，當(dāng)你在捧腹大笑的時(shí)候，有人正毫不知情的成為愛(ài)情動(dòng)作電影的女主角，甚至在網(wǎng)絡(luò)上被數(shù)萬(wàn)陌生人大肆圍觀。
在 DeepFakes 面前，除了耍帥和逗笑，更多的、卻是為了滿足私欲和色情報(bào)復(fù)。
你看，那一串串代碼，正要撕開(kāi)人性的遮羞布。
文 | 木子梨
01 確認(rèn)過(guò)眼神，你不再是我睡前的“安眠女神”
“最近，我發(fā)現(xiàn)自己的臉盲越來(lái)越嚴(yán)重了，就連視力也急劇下降了。
別說(shuō)五米開(kāi)外雌雄莫辨，十米開(kāi)外人畜不分，就連每晚睡前的“安眠女神”，我都找不到了?！?/p>
這是我的一位朋友（搞笑擔(dān)當(dāng)）在微信上發(fā)給我的原話。
一問(wèn)才知道，他每晚睡前都要聽(tīng)一個(gè)名叫阿冷的主播唱歌，不然就睡不著覺(jué)，誰(shuí)知就在那么突然的一個(gè)瞬間，他發(fā)現(xiàn)自己阿冷的視頻被網(wǎng)友“換臉”了。
有時(shí)候，被換成了楊冪的臉。
（圖片來(lái)源于網(wǎng)絡(luò)：合成視頻）
有時(shí)候，被換成了劉亦菲的臉。
（圖片來(lái)源于網(wǎng)絡(luò)：合成視頻）
還有的時(shí)候，被換成了范冰冰的臉。
（圖片來(lái)源于網(wǎng)絡(luò)：合成視頻）
一搜索才發(fā)現(xiàn)，原來(lái)“換臉”已經(jīng)成了流行。
不止阿冷，馮莫提的視頻也被網(wǎng)友換成了趙麗穎的臉，在直播間里唱著沙漠駱駝。
（圖片來(lái)源于網(wǎng)絡(luò)：合成視頻）
這不是亂搞么？
我朋友第一想法是去社交平臺(tái)吐槽這一惡劣行徑，誰(shuí)知轉(zhuǎn)了一圈，回來(lái)告訴我說(shuō)，幸好只是換臉，沒(méi)干別的。
原來(lái)他發(fā)現(xiàn)，這種單純的換臉已經(jīng)是一種恩賜了，各個(gè)平臺(tái)有著大把不堪入目的換臉視頻，相比之下，他竟然心生感恩。
于是我也去搜索了一下，嗯，他說(shuō)得對(duì)。
02 科技是第一X產(chǎn)力
“換臉”是 DeepFakes 的杰作。
AI DeepFakes 是人工智能領(lǐng)域下的一個(gè)分支應(yīng)用，其本質(zhì)是一種深度換臉技術(shù)，也就是面部替換。
在 DeepFakes 出現(xiàn)之前，人臉交換技術(shù)就已經(jīng)存在，并在電影制作領(lǐng)域得到了較為廣泛的運(yùn)用，但需要耗費(fèi)很多的時(shí)間和精力。
舉個(gè)大眾所熟知的例子，在保羅·沃克離世后，《速度與激情7》還能夠拍攝完成，就是運(yùn)用了人臉?biāo)惴ǎ柚延械乃夭?，合成保羅未拍攝完成的戲份，最終順利完成了整部電影。
而 DeepFakes 的出現(xiàn)，可以稱得上是一種突破。
它在保證面部肌肉的和諧，口型和聲音匹配的前提下，降低了人臉交換的技術(shù)操作門(mén)檻，哪怕沒(méi)有任何經(jīng)驗(yàn)，按照教程的引導(dǎo)同樣可以完成。
2017年12月，在線論壇 Reddit 上，一位 ID 叫做 “deepfakes” 的用戶發(fā)布了一個(gè)足可亂真的“換臉視頻”，他通過(guò) AI 深度學(xué)習(xí)，將一部“小電影”中女主角的臉，堪稱完美的用神奇女俠（蓋爾·加朵）的臉做了替換，引起了很多人的關(guān)注。
隨著該視頻關(guān)注度的增長(zhǎng)，這位 “deepfakes” 用戶在 Reddit 上創(chuàng)建了一個(gè)同名主題，吸引了數(shù)萬(wàn)用戶的關(guān)注，在他手下慘遭“換臉”成色情女主角的明星也越來(lái)越多，艾瑪·沃特森、安妮·海瑟薇等人都被無(wú)辜卷入。
用戶 “deepfakes” 仿佛不滿足于獨(dú)自創(chuàng)作，他干脆開(kāi)發(fā)了一款名為 FakeApp 的軟件，讓更多人掌握了“換臉”的技能。
這一軟件的出現(xiàn)，將 deepfakes 拉下了人工智能的神壇，只要擁有人像數(shù)據(jù)和一個(gè)符合配置的電腦，就可以完成“換臉”，技術(shù)門(mén)檻的降低，導(dǎo)致“換臉”愛(ài)情動(dòng)作小電影的數(shù)量急劇增加，并在各大平臺(tái)迅速擴(kuò)散。
越來(lái)越多的人在合成“換臉”視頻的過(guò)程中，將自己心中的“女神”安排進(jìn)種種色情電影中，只為滿足自己的X幻想。
未經(jīng)同意，便將女性的臉“任意移植”到性愛(ài)鏡頭中，是一件徹底暴露人性丑陋的事情。
因?yàn)?DeepFakes ，成人影片產(chǎn)業(yè)獲得了巨大的助推力。
科技是第一X產(chǎn)力，但凡與色情元素沾邊，哪怕初衷再好，變味兒也是遲早的事情。
如同 ASMR 的出現(xiàn)，原本只是為了助眠和釋壓，結(jié)果反而讓更多人難以入眠一樣，DeepFakes 也很快走上了一條歧路。
03 虛假視覺(jué)引發(fā)色情報(bào)復(fù)升級(jí)
就在 DeepFakes 開(kāi)足馬力朝著成人電影方向飛奔的時(shí)候，官方封禁來(lái)了。
Reddit 關(guān)閉了 DeepFakes 論壇，并稱會(huì)嚴(yán)格審查涉及“非自愿換臉色情”的內(nèi)容，該抵制行動(dòng)受到了各大平臺(tái)的支持，以 Twitter 為代表的社交平臺(tái)和以 Pornhub 為代表的色情網(wǎng)站，一并開(kāi)展了抵制行動(dòng)。
然而，各平臺(tái)的聯(lián)手抵制，并沒(méi)能徹底遏制住 DeepFakes 蓬勃發(fā)展的勁頭，依然有眾多小電影網(wǎng)站可以照常觀看，就連此前表態(tài)要公開(kāi)抵制此類視頻的 Pornhub ，由于語(yǔ)言等原因，輸入關(guān)鍵字，同樣能夠在站內(nèi)搜索到很多不可描述的視頻。
正是在禁不能止的局面下，越來(lái)越多的人開(kāi)始意識(shí)到，DeepFakes 的濫用，很有可能會(huì)升級(jí)成色情報(bào)復(fù)的新方式。
在此之前，色情報(bào)復(fù)的資本，還僅限于一段關(guān)系中所留下的回憶，我們暫且不討論這些回憶所留下的影音資料當(dāng)事人是否知情，資料是以何種手段取得，但它最起碼是真實(shí)的。
而現(xiàn)在，不用如此麻煩，只要有 FakeApp ，一切都不是難事。
只要擁有照片和視頻資料，就能任意合成多種色情小視頻，這都將成為意圖進(jìn)行色情報(bào)復(fù)者手中的利刃。
在 DeepFakes 的世界里，一段小視頻，就能給受害者留下一生的陰影。
此外，既然機(jī)器學(xué)習(xí)能夠完成“換臉”，那么也很有可能通過(guò)采集聲音，從而“模仿”出想要的人聲，這正是 DeepFakes 2.0 版本所追求的效果。
若效果實(shí)現(xiàn)，就意味著：
小額貸款公司很可能不會(huì)再要求貸款者提供手持身份證照片，只需要一些生活照片，他就可以制作出遠(yuǎn)比你能夠提供的信息更具有恐嚇力的證據(jù)；
那些通過(guò)社交軟件向你借錢(qián)的親戚朋友，你也無(wú)法再通過(guò)視頻通話的方式，來(lái)辨別對(duì)方究竟是本人還是騙子；
不論生活還是職場(chǎng)中，你可能在無(wú)意中得罪的某位心胸狹隘之人，都可能會(huì)為了出心中惡氣，而想法設(shè)法通過(guò)社交平臺(tái)收集你的信息，進(jìn)而制作以你為主角的“非自愿換臉色情片”，并大肆傳播。
詐騙、誣陷、報(bào)復(fù)、勒索等場(chǎng)景，離每個(gè)人都很近。
基于AI 機(jī)器學(xué)習(xí)的換臉技術(shù)所引發(fā)的信任危機(jī)，將每一個(gè)人都牽涉其中，我們不得不開(kāi)始擔(dān)心，若 DeepFakes 的門(mén)檻和易用度越來(lái)越低，效果越來(lái)越逼真，相對(duì)應(yīng)的卻沒(méi)有有效的驗(yàn)證方式時(shí)，何談信任？
雙眼所見(jiàn)亦無(wú)力辨別真假，謹(jǐn)小慎微卻依然危機(jī)重重。
DeepFakes 的邊界，已經(jīng)不單單局限于惡搞和滿足個(gè)人X欲，更潛藏著更深的惡。
但人性的約束力，是很脆弱的。
很多人在尋找可以有效分辨驗(yàn)證視頻真假的方式，但所獲甚微。
也曾有瑞典科學(xué)家嘗試對(duì)真假視頻進(jìn)行分辨，一種方法是性能最優(yōu)的圖像分類模型 VGG ，另一種方法是基于 Facenet 的算法，最終得出的驗(yàn)證結(jié)果：錯(cuò)誤率高達(dá)95%。
DeepFakes 堪稱數(shù)字時(shí)代的“新恐怖主義”。
04 陰暗心理所催生出的交易
如此危險(xiǎn)的算法和軟件，不知道在國(guó)內(nèi)的“普及”有多廣，我試著去探索。
萬(wàn)能的淘寶，不但能讓我在賣(mài)家秀和買(mǎi)家秀之間那條巨大的鴻溝里，一次次尷尬的死去活來(lái)，還能在我每次試探性去搜索關(guān)鍵詞的時(shí)候，高傲的凝視我：猜猜，我懷里到底有沒(méi)有你想要的？
別鬧，我知道你有。
不費(fèi)吹灰之力，我就在淘寶上找到了幾十個(gè)售賣(mài) FakeApp 教程及軟件的商家，有些商家還“貼心”的附上了樣片鏈接，供意向買(mǎi)家參考。
在我咨詢的過(guò)程中，一位賣(mài)家邀請(qǐng)我進(jìn)入了一個(gè)QQ技術(shù)交流群，為了打開(kāi)了一扇大門(mén)。
群里有近五百個(gè)人，氣氛非?；钴S，我手插兜旁觀了一會(huì)兒，發(fā)現(xiàn)聊天內(nèi)容可以分為三類。
第一種是大佬炫技，分享進(jìn)展。
第二種是私人訂制，付費(fèi)體驗(yàn)。
特別好奇用非明星臉來(lái)制作小電影的難度如何，于是我私聊了兩位，得到的反饋相似，只要有照片就能接。
我還順道兒得知了行情。
第三類是試探危險(xiǎn)，售賣(mài)資源。
在群里潛水的幾個(gè)小時(shí)，令我開(kāi)始思考，什么是人性？良久，覺(jué)得難以解釋。
一張照片，只要付費(fèi)，就能把一個(gè)毫不知情的人暴露在數(shù)雙饑渴的眼睛下，而背后的作者，卻是一群再普通不過(guò)的人。
他們自詡為極客，在宣稱只是熱愛(ài)鉆研技術(shù)的同時(shí)，卻樂(lè)此不疲的炫耀自己的最新作品，并打包售賣(mài)，還在議論網(wǎng)上那位因制作“朱茵換臉楊冪”視頻而道歉的作者，認(rèn)為他根本沒(méi)必要道歉，偶爾惡搞一下，幫明星提提人氣，人家高興還來(lái)不及，怎會(huì)追究？
同時(shí)，只要有人付費(fèi)，他們就接單，不問(wèn)目的，只談價(jià)格。
“愿意為好作品付費(fèi)的人，一抓一大把。”
在私欲和利益面前，不管是女明星還是尋常女性，個(gè)人隱私都變得一文不值。
這個(gè)百人QQ群，折射出的、是一個(gè)跑偏的 DeepFakes 世界。
聯(lián)系客服
