出品 | 搜狐科技
作者 | 梁昌均
編輯 | 楊錦
曾經(jīng)被唾棄封禁的AI“一鍵脫衣”再次引發(fā)關(guān)注。
近日，廣州地鐵上一位女性的“裸照”引發(fā)輿論討論。事實(shí)上，照片中的女性是一名博主，原照片并無(wú)任何不妥之處，但卻被有心之人用AI軟件一鍵脫衣，在網(wǎng)絡(luò)上進(jìn)行傳播。
在這位博主原圖文的下方，已經(jīng)有眾多網(wǎng)友提醒博主被造謠的事實(shí)，催促其盡快報(bào)警，也有人熱心地幫助其辟謠澄清。目前，該博主已回復(fù)稱(chēng)已在收集證據(jù)，會(huì)進(jìn)行相關(guān)維權(quán)處理。
“這是我了解的AI作圖流傳最廣的一次，如果能維權(quán)成功糾出源頭，一定程度上可以預(yù)防和震懾懂得用這種科技手段的人?！庇芯W(wǎng)友評(píng)論到。
無(wú)獨(dú)有偶，另一起明星AI換臉事件也在近日引發(fā)關(guān)注。網(wǎng)紅特效合成師洪某利用AI制作合成與女明星迪麗熱巴親吻的影片，將電視劇鏡頭中的男主角替換為自己，隨后他稱(chēng)被女明星粉絲上門(mén)抓傷“破相”。
目前，該賬號(hào)相關(guān)視頻已不可見(jiàn)，同時(shí)其因違反社區(qū)規(guī)定，私信功能已被關(guān)閉。
有網(wǎng)友表示，如果將視頻中的人隨意換臉，恐怕將對(duì)當(dāng)事人造成很大的困擾，難道掌握了這門(mén)技術(shù)就可以隨意換臉嗎？簡(jiǎn)直細(xì)思極恐。
目前，人工智能生成技術(shù)正在全球掀起一股技術(shù)浪潮，它可以迅速生成文案、圖片和視頻，但由此帶來(lái)的虛假信息、隱私、版權(quán)等問(wèn)題也值得關(guān)注。
“人工智能最令人惡心的應(yīng)用”
AI“一鍵脫衣”其實(shí)并不新鮮，但最初更多引發(fā)關(guān)注的是用來(lái)“換臉”。明星劉昊然就曾在2021年8月發(fā)文打假，控訴網(wǎng)上流傳的某淫穢視頻為AI換臉技術(shù)偽造，并向警方報(bào)案。
說(shuō)到AI“一鍵脫衣”，就不得不提到2019年6月國(guó)外一款名為DeepNude的應(yīng)用，在發(fā)布僅幾個(gè)小時(shí)后便因訪問(wèn)請(qǐng)求過(guò)大而宕機(jī)。它利用類(lèi)似Deepfakes的深度學(xué)習(xí)偽造技術(shù)，會(huì)自動(dòng)分析傳入的照片并辨別出人物衣服的位置，然后通過(guò)特定的算法將衣服消除掉，創(chuàng)造出幾可亂真的合成裸照。
隨后這款軟件也在國(guó)內(nèi)外引起廣泛的輿論批評(píng)，指責(zé)其侵犯隱私等。深度學(xué)習(xí)科學(xué)家吳恩達(dá)（Andrew Ng）當(dāng)時(shí)還發(fā)文稱(chēng)，DeepNude是人工智能最令人惡心的應(yīng)用之一。
后來(lái)，開(kāi)發(fā)團(tuán)隊(duì)選擇將該項(xiàng)目關(guān)閉。但后來(lái)這款件再次出現(xiàn)在了即時(shí)消息應(yīng)用程序Telegram上，并已公開(kāi)發(fā)布超10萬(wàn)張色情圖片，且不包括私下分享傳播的圖片。
美國(guó)網(wǎng)絡(luò)安全公司Sensity調(diào)查發(fā)現(xiàn)，這些圖片有70%全部來(lái)自社交網(wǎng)絡(luò)中的真實(shí)女性，甚至包括未成年人。也就是說(shuō)，不少人日常在社交媒體中公開(kāi)分享的自拍照，很可能會(huì)被人用來(lái)生成裸照。值得注意的是，這款軟件只針對(duì)女性，如果上傳一張男性照片，系統(tǒng)也會(huì)自動(dòng)被替換成女性的身體。
面對(duì)外界指責(zé)，這款軟件的開(kāi)發(fā)者阿爾貝托公開(kāi)此前回應(yīng)稱(chēng)，自己不是偷窺狂，而是技術(shù)的愛(ài)好者，并不關(guān)心裸照。但這背后或也有利益驅(qū)使，該應(yīng)用標(biāo)準(zhǔn)版免費(fèi)，高級(jí)版售價(jià)為99 美元，但免費(fèi)用戶合成的照片會(huì)打上水印或只有局部裸露，用戶支付1.28美元才可獲得無(wú)水印圖片，且使用權(quán)限僅限七天100張。
對(duì)于廣受詬病的“一鍵脫衣”等灰色軟件，國(guó)內(nèi)各大應(yīng)用商店基本都找不到這些軟件的身影，但在一些網(wǎng)站上仍然存在很多“替代品”，甚至出現(xiàn)了DeepNude的破解版。
搜狐科技搜索發(fā)現(xiàn)，國(guó)內(nèi)有游戲網(wǎng)站推出DeepNude軟件合集，包括去衣破解版、中文破解版、手機(jī)版等多個(gè)版本提供下載，稱(chēng)可以免費(fèi)試用，具有一鍵去衣、一鍵換衣、AI換臉等功能。
此外，通過(guò)關(guān)鍵詞搜索還能在不少網(wǎng)站看到具備AI脫衣功能的軟件，有的軟件甚至直接注明AI算法一鍵去衣，還在產(chǎn)品說(shuō)明頁(yè)中有著詳細(xì)的軟件特色和亮點(diǎn)的介紹。
實(shí)際上，針對(duì)AI換臉等系列軟件所帶來(lái)的系列問(wèn)題，國(guó)內(nèi)也在進(jìn)行監(jiān)管。此前，陌陌孵化的AI換臉App“ZAO”不到一周從爆紅刷屏社交圈到深陷輿論旋渦，最終被工信部要求自查整改，要求其依法依規(guī)收集使用用戶信息，強(qiáng)化網(wǎng)絡(luò)數(shù)據(jù)和用戶信息安全保護(hù)，防范自有業(yè)務(wù)平臺(tái)被利用實(shí)施電信網(wǎng)絡(luò)詐騙等風(fēng)險(xiǎn)隱患。但從實(shí)際情況來(lái)看，有關(guān)現(xiàn)象仍屢禁不止。
AI作惡誰(shuí)來(lái)負(fù)責(zé)？
AI的發(fā)展解放了人，成為提高生產(chǎn)力的得力工具，但在這個(gè)過(guò)程中，隨著技術(shù)應(yīng)用的門(mén)檻的降低，更多能夠使用技術(shù)的人并不總是正確地應(yīng)用技術(shù)，AI換臉脫衣就是典型。
AI換臉可以追溯到國(guó)外一位用戶名為deepfakes的程序員，其通過(guò)機(jī)器學(xué)習(xí)算法，將明星的臉與色情視頻演員的臉進(jìn)行交換，很多歐美知名女明星都曾中招。由于受害者的投訴和外界質(zhì)疑，deepfakes賬號(hào)被封殺，但這項(xiàng)技術(shù)的代碼被開(kāi)源放到GitHub，AI換臉技術(shù)由此被命名為“deepfakes”。
通過(guò)開(kāi)源工具，隨后更是衍生出了fakeapp、faceswap、deepfacelab、deepnude等一系列AI換臉、AI脫衣程序。盡管這些程序聲明只涉及AI技術(shù)的研究，不會(huì)濫用，但技術(shù)應(yīng)用門(mén)檻的降低，更多人可以參與進(jìn)來(lái)，使得AI換臉、脫衣背后所涉及到的隱私、版權(quán)、倫理的惡性事件正在大量發(fā)生，每個(gè)人都可能成為AI作惡的受害者。
對(duì)于此次引發(fā)關(guān)注的女性照片被AI一鍵脫衣傳播的事件，就有博主表示，在現(xiàn)今AI強(qiáng)大的算法下，時(shí)間、地點(diǎn)都對(duì)得上的情況下，偽造的謠言讓普通人百口莫辯。同時(shí)，非法利用他人個(gè)人信息，編造涉性隱私的虛假信息并予以傳播，是明顯違法行為，情節(jié)嚴(yán)重的將構(gòu)成犯罪，涉嫌侵犯當(dāng)事人的肖像權(quán)、名譽(yù)權(quán)。
更有甚者，一些不法分子利用這些軟件用于制造不雅照片和視頻，在網(wǎng)絡(luò)上傳播和售賣(mài)，以此牟利或?qū)嵤┰p騙。此前就有報(bào)道稱(chēng)，AI換臉已經(jīng)形成一條黑產(chǎn)鏈條，在某二手平臺(tái)，有賣(mài)家提供明星換臉色情視頻，甚至可以根據(jù)買(mǎi)家要求進(jìn)行定制。
當(dāng)前，隨著人工智能生成技術(shù)浪潮的興起，文本、圖片和視頻的生成越來(lái)越變得容易，并已已出現(xiàn)了很多虛假信息。特朗普穿著囚服、下鄉(xiāng)再就業(yè)在街頭拉黃包車(chē)，教皇換上羽絨服等都是AI生成的虛假圖片，一度讓許多人都信以為真。
在技術(shù)發(fā)展應(yīng)用的過(guò)程中，無(wú)法保證使用技術(shù)的人會(huì)不會(huì)越界，借助AI移花接木、無(wú)中生有、肆意偽造，這可能距離人性只有一步之遙。想要擺脫AI造假的困境，這需要監(jiān)管機(jī)構(gòu)、技術(shù)公司和應(yīng)用機(jī)構(gòu)，乃至每一個(gè)人都需要承擔(dān)一份責(zé)任。
此前，針對(duì)AI換臉脫衣等深度合成信息服務(wù)，我國(guó)多個(gè)部門(mén)聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，要求深度合成服務(wù)提供者和應(yīng)用商店從源頭上對(duì)深度合成內(nèi)容進(jìn)行把關(guān)，禁止濫用，不得利用深度合成服務(wù)侵犯他人權(quán)益，并要求保護(hù)個(gè)人信息等。
但從現(xiàn)實(shí)來(lái)看，AI造假“灰產(chǎn)”仍需加強(qiáng)監(jiān)管。如何保證技術(shù)向善，防止AI作惡，也是其在發(fā)展過(guò)程中需要探討并制定行之有效措施的永恒話題。
聯(lián)系客服
