不知大家最近有沒有察覺，關(guān)于AI詐騙的消息簡直可以說是鋪天蓋地。光是這一周，就已經(jīng)喜提了三個(gè)微博熱搜。
而微信指數(shù)，也從22號之前的無人問津，一下暴漲到1150萬的搜索熱度。
這熱度的起因，其實(shí)源于包頭警方公布的一宗詐騙案。
01
案件發(fā)生在福州，主角是某科技公司的法人代表郭先生。某天郭先生的好友通過微信找到郭先生，說他的一位朋友在外地競標(biāo)，需要430萬的保證金，但得公對公賬戶過賬，便想借用郭先生的公司過個(gè)賬。
這事雖少，但也偶爾有之，不算什么大事。郭先生通過微信視頻確認(rèn)了跟他通話的人，就是他的朋友后，便爽快地答應(yīng)了。
很快，那位朋友就給郭先生發(fā)了一張轉(zhuǎn)賬成功的截圖。出于對朋友的信任，郭先生在沒有核實(shí)款項(xiàng)是否到賬的情況下，直接就把自己卡里的430萬轉(zhuǎn)到了那朋友給的卡號上。
整個(gè)過程，耗時(shí)十分鐘。
轉(zhuǎn)完之后，郭先生覺得有必要再確認(rèn)一下，便給朋友打了個(gè)電話，這才驚覺：
十分鐘前那個(gè)跟他通話的朋友，居然是騙子用AI技術(shù)偽造的！
而整個(gè)案件的詐騙手法，大致如下：
首先，詐騙團(tuán)伙可能通過木馬遠(yuǎn)程操控了郭先生好友的微信，從而獲取到這位朋友的照片及語音等資料。這些資料被用來喂給AI，以便生成后面要用來詐騙的視頻和語音。
然后，騙子們便開始瀏覽郭先生這位朋友的微信聊天記錄，以篩選出有錢且跟這位朋友關(guān)系好的詐騙目標(biāo)。
在選定了郭先生之后，詐騙團(tuán)伙還得將微信視頻實(shí)時(shí)傳輸?shù)囊曨l及音頻數(shù)據(jù)，替換成事先用AI生成的視頻和音頻。以此獲取郭先生的信任，實(shí)施詐騙。
縱觀全程，像不像是好萊塢電影里才有那些高科技犯罪情節(jié)？
但非常遺憾的告訴大家，上述運(yùn)用到的技術(shù)手段，其實(shí)一年前就有了。換句話說，chatgpt3.5出來之前，就已經(jīng)存在了。
早在去年的1月2日，B站UP主@林亦LYi 就發(fā)布過一期用AI復(fù)制自己好友的視頻。
在視頻里面，UP主說道，只需一段5秒的語音，AI就能把一個(gè)人的聲音完全復(fù)刻，之后不管要想那個(gè)人說什么話，都能用AI替他講出來。
至于視頻的生成，那更是簡單。僅需一張照片，就能變臉生成視頻，還能把說話的口型對好。其流暢的程度，若不是事先知道右邊的原畫，你壓根看不出其中的違和之處。
相較之下，反倒是微信視頻通話的攝像頭數(shù)據(jù)替換，看起來略顯簡單，一個(gè)APP就能搞定，根本沒啥技術(shù)含量。
話雖如此，但不知道大家有沒有從上面三個(gè)技術(shù)琢磨出一些結(jié)論？如果沒有，我這里倒是有一個(gè)現(xiàn)成的——
只要給AI一張照片和5秒語音，它就能復(fù)刻出一個(gè)你認(rèn)識的人，來跟你視頻...
不過這還不是最恐怖的，因?yàn)橐陨线@些技術(shù)，一年前就有了。那么現(xiàn)在的技術(shù)又如何呢？
最近一個(gè)提醒大家提防網(wǎng)戀的視頻里，向我們展示了一秒換臉術(shù)。
但最逆天的是，現(xiàn)在的AI不僅能換臉，都到了連膚色都可以改變的程度。
如果未來有了更高性能電腦和算法的加持，AI實(shí)時(shí)拍攝渲染，并進(jìn)行特定場景的生成，那么微博熱搜里的那句#AI詐騙成功率接近100%#，可能真就不是什么危言聳聽了。
事實(shí)上，我才寫完上面這部分，另一起AI詐騙的消息又冒了出來。這次更快，用時(shí)僅9秒，安徽某男子就被騙走了132萬。
難怪當(dāng)AI技術(shù)被用于詐騙這事一出來后，官媒們便紛紛下場呼吁，警惕AI詐騙！
但與官媒的緊張相反，大部分人好像對AI詐騙的破壞性，仍然停留在一個(gè)非常初級的階段：覺得只要管住自己的錢袋子，AI詐騙就拿他們沒轍。
可事實(shí)上，這一波AI詐騙，比之前所有的詐騙手法，都要來得更狠更精準(zhǔn)！但同時(shí)，操作起來卻也更加簡單了...
02
大家可能有所不知，市面上所有的詐騙行為，其實(shí)都可以歸結(jié)于四個(gè)步驟：
實(shí)施接觸→獲取信任→陷入服從→指導(dǎo)行動
一句話解釋，就是騙子跟你進(jìn)行接觸后，通過一系列偽裝獲取你的信任，并用事先準(zhǔn)備好的腳本說辭，讓你陷入一個(gè)被動的服從境地，最終讓你聽從騙子的指示，做出某種行為傷及自身利益的事情。
這其中，又以獲取信任這步最為重要。操作得當(dāng)，簡直可以達(dá)到洗腦的效果。
在AI詐騙出現(xiàn)以前，獲取陌生人的信任最常見的方式，就是假扮權(quán)威人士。騙子們通過一些非法渠道獲取你的個(gè)人身份信息后，冒充公安、檢察院、法院，甚至反詐中心等工作人員給你打電話。
然后編造你涉嫌銀行卡洗錢等罪名，并同步發(fā)送偽造的公檢法官網(wǎng)通緝令、財(cái)產(chǎn)凍結(jié)書等，對你進(jìn)行威逼、恐嚇，以使你相信和就范。
然而隨著反詐的普及和深入，越來越多人了解到了相關(guān)的手法后，這一方式開始變得不那么管用了。
可是當(dāng)AI進(jìn)入詐騙這個(gè)領(lǐng)域后，整個(gè)玩法都變了。這時(shí)獲取信任，已不再需要那種廣撒網(wǎng)、全憑運(yùn)氣釣到冤大頭的方式了。
就拿最近熱傳的槍決詐騙短信來說，大家都覺得這條消息假得離譜，但它本意就是以此來篩選那些信以為真的傻子，這樣騙子的詐騙成功率才高。
但也只是高而已，完全沒有可能接近100%，甚至可能連0.00001%都不到，效率極其低下。
但AI詐騙則是完全利用你對熟人的信任。這時(shí)的殺傷力，可就不是一個(gè)數(shù)量級的了。
前面兩個(gè)案例，已經(jīng)充分說明了這一點(diǎn)。一個(gè)10分鐘，另一個(gè)才9秒，以至于我們可以如此斷言：用AI詐騙時(shí)，耗時(shí)短，見效快，幾乎不會引起受害者的懷疑。
此外，AI詐騙還有另一個(gè)顯著的特點(diǎn)，那就是涉及金額巨大。先不說安徽男子9秒被騙132萬，這種巨離譜情況。
作為一家科技公司的法人代表郭先生，按說也是見過世面的人。卻也在短短10分鐘內(nèi)，被騙子卷走了430萬...最后多虧了警方和銀行的通力合作，才幫郭先生挽回了大筆損失。
可見AI詐騙，完全有能力把受害者的所有積蓄都給掏空！
就拿前面提到的“扮演權(quán)威人士”舉例。騙子扮演公安，最多也只能從你這里騙走幾萬塊錢，因?yàn)榻痤~一多，你自己都會感覺離譜，甚至產(chǎn)生懷疑。
比如你是財(cái)務(wù)，而騙子通過AI假冒成你老板，讓你給他轉(zhuǎn)一筆錢，好用來收購一家公司呢？
這其實(shí)是個(gè)真實(shí)事件，2020年初，一位銀行經(jīng)理就是這樣被AI合成的聲音，騙走了3500萬美元。
在AI詐騙精能準(zhǔn)取得信任，并有超強(qiáng)破壞力的情況下了。一個(gè)迫切的問題擺在了我們面前——
我們之后要怎么去信任一個(gè)不在面前的熟人？
03
不知大家有沒有聽過這樣一句話：
如果某個(gè)生物走起路來像鴨子、說話像鴨子、長得像鴨子、啄食也像鴨子，那它肯定就是一只鴨子。
這句話，其實(shí)是“事物的外在特征，就是事物本質(zhì)的表現(xiàn)”這一邏輯理論的通俗解釋。
可如今有AI詐騙介入的網(wǎng)絡(luò)世界，這一理論將不再適用。因?yàn)橥蟾阌靡曨l聊天的那個(gè)人，雖然TA說著你熟悉的口音，長著你習(xí)以為常的相貌，但卻有可能完全不是你所認(rèn)識的那個(gè)人。
還記得之前我有提到過，“大部分人都低估AI詐騙對自己的影響”嗎？
一個(gè)多月前，國外發(fā)生過一起AI詐騙群體案件。
騙子們假借“YouTube團(tuán)隊(duì)”之名，向不少油管博主群發(fā)了一封電子郵件。說是油管最近出臺一項(xiàng)新政策，建議各位油管博主下載相關(guān)細(xì)則進(jìn)行查看。
這種釣魚式的詐騙郵件，我們應(yīng)該并不陌生。通常情況下，我們壓根看都不看，直接點(diǎn)擊刪除。
但這封郵件里，卻居然帶了上一個(gè)谷歌CEO皮查伊“親口解釋”的視頻，于是不少油管博主便放松了警惕，下載了相關(guān)政策的說明。
這個(gè)細(xì)則文件表面上看，是一個(gè)PDF文檔沒錯(cuò)，打開之后，也的確有著相關(guān)規(guī)則細(xì)節(jié)的解說。但它實(shí)際卻是一個(gè)木馬病毒，可以直接竊取你瀏覽器保存的所有密碼等相關(guān)資料（郭先生那位好友的微信，可能就是這樣被監(jiān)控竊取的）。
說白了，我們身上值錢的東西，并不一定只有我們的錢包而已。家庭地址、社會關(guān)系，還有在公司擔(dān)任的職務(wù)身份等等，都有可能是騙子想要獲得的東西。
為此，我想給大家舉一個(gè)更極端的例子，方便大家感受一下AI詐騙的可怕——
假設(shè)我們的手機(jī)被人偷了，很快便被轉(zhuǎn)到了AI詐騙的團(tuán)伙手中。而手機(jī)的鎖屏設(shè)置嘛，破解起來不要太簡單...華強(qiáng)北的老師傅們，分分鐘就能搞定。
然后騙子將我們的手機(jī)接到電腦上，通過AI模擬出一個(gè)遭遇車禍的場景。他用微信假裝是我們的同事，給我們的爸媽打電話，說我們出車禍?zhǔn)軅?。這便是之前所提到的第一步：實(shí)施接觸。
接著騙子用手機(jī)拍攝下我們受傷的樣子（當(dāng)然這是AI模擬出來的），通話的過程中，滿身是傷的我們，只能支支吾吾說出幾句含糊的話，但聽聲音無疑是我們的。于是第二步：獲取信任，就達(dá)成了。
而通過讓我們處于受傷的境地，一方面能使父母快速陷入混亂，另一方面也能減少騙子暴露的痕跡。
接著假冒的醫(yī)生和護(hù)士相繼出場，說是要想立即手術(shù)治療，就得先交納一筆的手術(shù)費(fèi)用。這時(shí)那個(gè)號稱是我們同事的人，對我們的父母說，他身上的錢根本不夠...ze我們的父母就只能陷入第三步：服從境地。
后面是否掏空我們父母所有的積蓄，那就完全取決于騙子的良心了...
這樣一套劇本下來，有視頻有聲音，足以獲取信任了吧？而這，僅僅只是我一個(gè)業(yè)余的編劇，隨手就能編出來的劇本。
一些騙子甚至還能根據(jù)你手機(jī)里的聊天記錄，來進(jìn)行量身定制的下套，就如郭先生所遭遇的那樣。
換句話說，僅僅只是弄丟手機(jī)，就有可能讓你身邊的人遭受巨大損失。這或許就是官媒們，如此聲勢浩大地呼吁大家警惕AI詐騙的原因。
AI詐騙的波及面實(shí)在是太廣太大，沒人可以獨(dú)善其身。
尾聲
如此看來，我們似乎面對的是一個(gè)比較暗淡的前景。
但好在一些科技公司，已經(jīng)在著手處理這件事情了。它們能夠通過眨眼頻率、瞳孔形狀、還有口型與聲音之間的吻合度等等，來判斷視頻中的人物是否為AI生成。
只是，目前這項(xiàng)技術(shù)還只是處于測試當(dāng)中，距離大范圍運(yùn)用，還有著一段距離。
而就AI詐騙這一問題，我還專門詢問過chatGPT。它除了開頭直接點(diǎn)出這事非常困難外，剩下給出來的建議，幾乎全是正確的廢話。
難道目前我們能做的，只有小心翼翼、妥善地管理好自己的手機(jī)以及其他電子設(shè)備，以防止自己被AI詐騙所波及？
也不全是。
有一項(xiàng)，是AI至今無法突破的——脾氣。
早在1990年代，人類學(xué)家羅賓·鄧巴就提出一個(gè)著名的“鄧巴數(shù)字”。
鄧巴提出，人的大腦認(rèn)知能力決定了人類擁有穩(wěn)定社交網(wǎng)絡(luò)的規(guī)模上限為148人。其中，深入交往的人數(shù)約20人左右。
同理，我們可以畫出信任的同心圓。
詐騙，本質(zhì)上是打破了我們原有的信任鏈條，重建了一條虛擬的鏈條。
過去的詐騙，多是利用我們“邊際”社交關(guān)系，或者假冒警察等公共關(guān)系，進(jìn)行行騙，這種詐騙的“犯罪成本”很低，受害者防范意識也較差。而隨著全民反詐，過去的詐騙手段，越來越難奏效。
AI詐騙，更像是為受害者“定制”詐騙方案，偽裝成熟人以突破層層同心圓，突破的層數(shù)越多，詐騙造成的損失也就越大。
防范這類詐騙，最大的難點(diǎn)，就是具備強(qiáng)烈的反詐意識：意識到聲音、圖片、視頻，都能造假。
真正自己熟悉的人，“脾氣”是不會造假的。只要多說幾句話，最好是聊一些此前從沒聊過的話題，在大數(shù)據(jù)之外，人的一言一行都是感性的。
AI這個(gè)魔盒已經(jīng)打開，它的好，它的壞，我們都要一步步接受。
眼下AI給我們的“教訓(xùn)”，讓我們重新思考平生交往的所有人，哪些才是深交之人，哪些才是AI無法偽裝的人。這些人，如果真的急需一筆錢，一定不會怪罪你對他百般驗(yàn)證。
