作者：白安妮

轉(zhuǎn)載自：量子位

物聯(lián)網(wǎng)智庫(kù) 整理發(fā)布

轉(zhuǎn)載請(qǐng)注明來(lái)源和出處

Reddit上有個(gè)隱秘論壇暗流涌動(dòng)。

這是一個(gè)主要生產(chǎn)假冒愛情動(dòng)作片的“黑窩點(diǎn)”，負(fù)責(zé)用AI技術(shù)將色情作品中的主角換成明星的臉，組織代號(hào)“deepfakes”。

這種略帶羞澀又不可描述的事情，可能沒有不火的道理。但想不到的是……這項(xiàng)技術(shù)又！有！了！升！級(jí)！

最近，有位高手發(fā)布了應(yīng)用“FakeApp”，基于deepfakes的算法添加了一些工具，進(jìn)一步降低了AI使用的門檻，可以形容為“人人可用”，非常用戶友好了。

手握FakeApp，只需輸入1到2條明星臉部的高清視頻，即使你沒有技術(shù)背景和編程經(jīng)驗(yàn)，也能輕松給愛情動(dòng)作片的主角換臉。

還有這種事？有點(diǎn)不敢想。

至于合成效果，大家感受一下（局部截圖）。

△ “寡姐”斯嘉麗·約翰遜

△ 女神艾瑪沃森

△ 《權(quán)利的游戲》中珊莎的扮演者Sophie Turner

△ 賈斯汀比伯前女友Selena Gomez

有文化，真可怕。小電影，可造假。

這……這是怎么做到的？

“雨后春筍”

這項(xiàng)火遍國(guó)外技術(shù)圈的換臉術(shù)，其實(shí)從誕生到現(xiàn)在，也就只有一個(gè)多月。

一個(gè)月前，一名叫“deepfakes”的用戶，在業(yè)余時(shí)間用創(chuàng)造這個(gè)機(jī)器學(xué)習(xí)算法，“deepfakes”也因此成為這項(xiàng)技術(shù)的代名詞。

隨后，技術(shù)圈炸了，社區(qū)和周邊也在大家強(qiáng)烈需求下來(lái)了。

首先是deepfakes在Reddit上組建了一個(gè)同名社區(qū)。

真是有緣千里來(lái)相會(huì)，短短一個(gè)多月，這個(gè)版塊已經(jīng)有了15000多名訂閱者。社員可以在里面用使用免費(fèi)工具練手，隨后還能互相交流、點(diǎn)贊和點(diǎn)評(píng)什么的。

一個(gè)社區(qū)好像還不過(guò)癮，由于之前的合成步驟有些繁瑣，幾天前，社區(qū)用戶“deepfakeapp”創(chuàng)建了一個(gè)簡(jiǎn)單易操作的桌面應(yīng)用，也就是我們開頭提到的號(hào)稱“人人可用”的FakeApp。

技術(shù)轉(zhuǎn)變

從一開始的deepfakes原版到這個(gè)易上手的FakeApp，合成過(guò)程經(jīng)過(guò)了怎樣的轉(zhuǎn)變？

其實(shí)也不難理解。

原版deepfakes的本質(zhì)是一個(gè)機(jī)器學(xué)習(xí)算法，任何人可用視頻材料和開源代碼，加以深度學(xué)習(xí)算法知識(shí)的輔助合成假視頻。

據(jù)創(chuàng)造者deepfakes本人透露，這個(gè)軟件是基于像TensorFlow后端的Keras庫(kù)這樣的多個(gè)開源庫(kù)完成的。deepfakes首先做的，是通過(guò)谷歌圖片搜索、Youtube視頻等方式收集明星的臉。

深度學(xué)習(xí)由相互連接的節(jié)點(diǎn)網(wǎng)絡(luò)組成，它們可以自動(dòng)對(duì)輸入數(shù)據(jù)進(jìn)行運(yùn)算。deepfakes用色情作品和想要替換的女演員的臉訓(xùn)練算法，當(dāng)節(jié)點(diǎn)能夠?qū)崟r(shí)操控自己產(chǎn)生效果比較令人信服的假視頻時(shí)，訓(xùn)練也可以結(jié)束了。

而FakeApp做的，是將這個(gè)合成流程進(jìn)一步簡(jiǎn)化。

它被定義為一個(gè)社區(qū)開發(fā)的桌面應(yīng)用，可以運(yùn)行deepfakes算法，無(wú)需安裝Python、TensorFlow等，并且如果想要運(yùn)行，僅需要“CUDA支持的高性能GPU”。

別著急，如果用戶沒有合適的GPU，也可以通過(guò)谷歌云平臺(tái)等租個(gè)云GPU完成。從數(shù)據(jù)抽取到從一張臉到另一張臉的逐幀轉(zhuǎn)化，整個(gè)流程運(yùn)行下來(lái)大概需要8到12個(gè)小時(shí)的時(shí)間。

應(yīng)用的作者deepfakeapp還公布了一張訓(xùn)練過(guò)程的屏幕截圖，看起來(lái)確實(shí)比較簡(jiǎn)潔易用。

“我想讓用戶最終通過(guò)一段本地錄像和云端下載的明星面孔的神經(jīng)網(wǎng)絡(luò)一鍵生成假視頻，將網(wǎng)絡(luò)中的明星面孔移植到本地錄像中?！眃eepfakeapp在接受外媒采訪時(shí)說(shuō)。

看來(lái)“人人可用”不是自吹自擂。

小電影以外

雖然大多數(shù)reddit上deepfake論壇的帖子是愛情動(dòng)作片，但別忘了這項(xiàng)技術(shù)本身也能合成正常的視頻啊喂。

用戶Z3ROCOOL22將希特勒的臉“嫁接”到阿根廷總統(tǒng)Mauricio Macri身上，效果看起來(lái)也還不錯(cuò)。

不過(guò)，也有一些用戶反映如果運(yùn)行的時(shí)間太長(zhǎng)，可能會(huì)帶來(lái)災(zāi)難性后果。

“為了紀(jì)念所有嘗試過(guò)但失敗的人?！庇脩鬗rDrPresidentNotSure感慨，原因是自己合成的視頻是在有些……嗯，掃興——

用戶yu78156853也很是不解——

爭(zhēng)議與質(zhì)疑

從開始到現(xiàn)在，對(duì)這項(xiàng)技術(shù)的質(zhì)疑與爭(zhēng)論就從未停止。

質(zhì)疑一是“版權(quán)”之爭(zhēng)。

FakeApp的作者deepfakeapp借用了deepfakes的算法做出了FakeApp，并且傳播地還如此廣泛。

外媒《MotherBoard》想采訪fakeapps對(duì)此事的看法，對(duì)方并沒有回應(yīng)。

“我是想讓沒有技術(shù)背景或編程經(jīng)驗(yàn)的人也可以使用deepfakes的技術(shù)。”deepfakeapp在接受采訪時(shí)表明了自己的初衷。

質(zhì)疑二是倫理道德之爭(zhēng)。

這個(gè)簡(jiǎn)單的應(yīng)用可能會(huì)被居心叵測(cè)的用戶利用，從而制作各種色情、暴力甚至關(guān)乎政治的虛假視頻，一旦發(fā)生，后果可能非常嚴(yán)重。

“任何技術(shù)都可以被邪惡的動(dòng)機(jī)利用，這種事情無(wú)法被禁止?！眃eepfakes說(shuō)。他表示，技術(shù)都有兩面性，這項(xiàng)技術(shù)可以被用到暴力和政治視頻上，也可以用到《速度與激情7》中保羅沃克逝世后的后續(xù)視頻拍攝上。

無(wú)法禁止的一把雙刃劍。“我認(rèn)為人人都可參與機(jī)器學(xué)習(xí)研究不是一件壞事?！眃eepfakes表示。

OMT

還有個(gè)結(jié)論。

量子位在Reddit的deepfakes子論壇中檢索時(shí)發(fā)現(xiàn)，用戶制作的數(shù)量最多的假視頻是關(guān)于艾瑪·沃森的。

終于知道誰(shuí)是國(guó)外AI圈最火的女星~