在人工智能高速發(fā)展、企業(yè)以廣告盈利為商業(yè)模式的情況下，社交媒體不可避免的使人成癮性。我們已從信息時(shí)代過(guò)渡到了虛假信息時(shí)代。
社交軟件為世界帶來(lái)了一些很有意義的、系統(tǒng)性的變革，但我們過(guò)度看輕了它的負(fù)面后果。這些負(fù)面的后果不是任何人刻意而為之，但當(dāng)科學(xué)家被問(wèn)及問(wèn)題在哪里時(shí)，大多數(shù)科學(xué)家顯得十分糾結(jié)，難以給出單一、簡(jiǎn)明的答案。
我們知道，有趣社交媒體能緊緊抓住我們的注意力，讓我們獲得即時(shí)的快感。我們感覺(jué)，好的社交媒體有著巧妙的設(shè)計(jì)，讓我們用起來(lái)舒適流暢。這一切都是深諳人類心理的設(shè)計(jì)師、開(kāi)發(fā)者的杰作，但在算法的強(qiáng)大作用下，將我們對(duì)它的好奇，推向它對(duì)我們的操縱。
2
If you are not paying for the product, then you are the product. It’s the gradual, slight, imperceptible change in your own behavior and perception, that is the product.
如果你沒(méi)有花錢買產(chǎn)品，那你就是被賣的產(chǎn)品。產(chǎn)品其實(shí)是我們行為和認(rèn)知的逐漸的、一點(diǎn)一點(diǎn)的、未察覺(jué)到的變化。
社交軟件提供給我們一個(gè)交流的平臺(tái)。很多時(shí)候，我們使用著這個(gè)平臺(tái)，卻不直接付錢給這個(gè)平臺(tái)。而在這其中，廣告商為我們使用的產(chǎn)品付錢，從這個(gè)角度上說(shuō)，廣告商是顧客，我們是被銷售的商品。
每種商業(yè)一直夢(mèng)想的是，是投放一個(gè)廣告就能有一定成功的保證。
They sold certainty. You have to have great predictions. You need a lot of data.
他們賣的是確定性。為了在這個(gè)生意中成功，你必須要有優(yōu)秀的預(yù)判能力，而這始于一個(gè)必要條件——很多的數(shù)據(jù)。
很多人有這樣的一種誤解，認(rèn)為被賣掉的是我們的數(shù)據(jù)，但實(shí)際上，F(xiàn)acebook等軟件的商業(yè)興趣，肯定不是放掉這些數(shù)據(jù)，那么他們用這些數(shù)據(jù)來(lái)做什么呢？
他們做出預(yù)判我們行為的模型，擁有最優(yōu)秀模型的公司，便可在市場(chǎng)競(jìng)爭(zhēng)中取得勝利。
很多人把它稱作監(jiān)視資本主義（Surveillance Capitalism），資本主義利用大型的技術(shù)公司，對(duì)每個(gè)人去的任何地方進(jìn)行無(wú)限追蹤和獲利。也就是說(shuō)，我們?cè)诰W(wǎng)上做的一切，都被監(jiān)控著、追蹤著、評(píng)估著，我們所做出的每一個(gè)行為，都被小心翼翼地監(jiān)控著、記錄著，甚至，具體到我們?cè)谀囊粡垐D片看了多久。
我們?cè)诰W(wǎng)上點(diǎn)擊的任何一個(gè)地方，看過(guò)的視頻圖片、點(diǎn)贊過(guò)的內(nèi)容，都會(huì)被返回用以建造一個(gè)越來(lái)越精確的模型。一旦有了這個(gè)模型，便可以預(yù)判這個(gè)人將會(huì)做怎么樣的事情。
甚至，它能改變你做的事情，你的思維模式，以及你是什么樣的人。
3
1. 參與度目標(biāo)：增加你的使用，讓你一直滑動(dòng)屏幕
2. 增長(zhǎng)目標(biāo)：讓你不斷回來(lái)，并且盡可能多地邀請(qǐng)朋友加入，如此循環(huán)
3. 廣告目標(biāo)：確保一切按預(yù)期發(fā)展，以盡量多地從廣告上掙錢
每一個(gè)目標(biāo)都由算法驅(qū)動(dòng)，其作用是找出要給你展示什么，讓數(shù)據(jù)上漲。
每一項(xiàng)目標(biāo)的調(diào)控都能夠十分精確，它能夠讓用戶增加，廣告增加，盈利增加。
我們創(chuàng)造了一個(gè)世界，這個(gè)世界中，在線聯(lián)系變成了主體，尤其是年輕一代。然而在這個(gè)世界，在每次兩個(gè)人聯(lián)系中，唯一能提供經(jīng)濟(jì)支持的是一個(gè)鬼祟的第三方。有人給這個(gè)第三方錢，去操縱這兩個(gè)人。因此，我們創(chuàng)造了全球的一整代人，在他們成長(zhǎng)的背景中，交流的意義、文化的意義，在于操縱。
我們所做的每一件事的中心，都加入了欺騙和鬼祟。
4
Any sufficiently advanced technology is indistinguishable from magic. --Arthur C. Clarke
任何足夠先進(jìn)的技術(shù)，都極其類似于魔術(shù)。
用心理學(xué)的術(shù)語(yǔ)來(lái)說(shuō)，這叫“正積極強(qiáng)化”——你不知道什么時(shí)候能刷到，或者你是否能刷到什么，正像賭場(chǎng)里的老虎機(jī)。不僅如此，僅僅有意識(shí)地使用產(chǎn)品，這還遠(yuǎn)遠(yuǎn)不是社交軟件的目的，他們想做的，是深度侵入我們大腦的根部，在腦中植入一個(gè)無(wú)意識(shí)的習(xí)慣，使得我們?cè)诟顚哟伪痪幊蹋⑶椅覀兌茧y以意識(shí)到。這是設(shè)計(jì)好的手段，是讓我們?cè)絹?lái)越愿意去參與進(jìn)去的很大一部分原因。
此外，對(duì)話框中浮動(dòng)的省略號(hào)，或者是“對(duì)方真正輸入中”的提示語(yǔ)，目的在于讓用戶知道對(duì)方正在輸入中，不要讓用戶下線，這一點(diǎn)上很能阻止用戶的離開(kāi)。
有一個(gè)學(xué)科叫做“增長(zhǎng)量黑客學(xué)”，在這個(gè)領(lǐng)域，無(wú)數(shù)工程師團(tuán)隊(duì)額工作在于黑入人們的心理，讓他們有更多的增長(zhǎng)量，他們能得到更多的用戶、更高的參與度、邀請(qǐng)更多的人。企業(yè)會(huì)推出一些小實(shí)驗(yàn)，不斷在用戶身上測(cè)試，并且隨著時(shí)間的發(fā)展，能發(fā)展出讓用戶做他們想做的用戶做的事情的最佳方式。
像極了實(shí)驗(yàn)室的小白鼠，但與小白鼠實(shí)驗(yàn)又不同的是，這些實(shí)驗(yàn)的最終受益人并不是我們，我們就像僵尸一樣，看著廣告商給我們發(fā)放的更多廣告，讓他們賺更多的錢。
Facebook曾做過(guò)一個(gè)海量規(guī)模蔓延實(shí)驗(yàn)，結(jié)果發(fā)現(xiàn)他們可以影響現(xiàn)實(shí)世界中的行為和情感，而根本不觸發(fā)我們的意識(shí)，也就是我們完全不知道。他們?cè)诶萌祟愋睦碇械拇嗳跄欠矫娅@利。
5
There are only two industries that call their customers 'users’: illegal drugs and software. -- Edward Tufte 只有兩個(gè)行業(yè)把他們的顧客稱作用戶，非法毒品和軟件。
社交媒體就是一種毒品。我們有著基本的生物學(xué)欲望去和別人聯(lián)系，這直接影響著獎(jiǎng)賞通路中的多巴胺釋放。這個(gè)機(jī)制背后，是幾百萬(wàn)年的進(jìn)化讓我們聚在一起群居生活、找到伴侶、繁殖后代。因此，毫無(wú)疑問(wèn)，社交媒體這載體會(huì)優(yōu)化人們之間的聯(lián)系，自然有致癮的可能。甚至，連設(shè)計(jì)者自身，也無(wú)法避免掉入自己設(shè)計(jì)的陷阱中。
社交媒體不僅在控制我們的注意力花在那里，尤其是當(dāng)他們?cè)絹?lái)越深入大腦根部，奪走我們的判斷力、自我價(jià)值與身份。
我們進(jìn)化出在意我們社群中其他人是否對(duì)我們有好印象的機(jī)制，因?yàn)檫@很重要。
但我們的進(jìn)化，需要我們?cè)谝庖蝗f(wàn)個(gè)人怎么看我們嗎？
我們的進(jìn)化，不需要每隔5分鐘就獲得一次社交認(rèn)可，這根本是不需要我們?nèi)ンw驗(yàn)的。
或許我們是這樣的一代人，我們從初中時(shí)代開(kāi)始使用手機(jī)，整個(gè)一代人更加焦慮、更加脆弱，更加抑郁，更不愿意冒險(xiǎn)。社交媒體在訓(xùn)練、調(diào)節(jié)整個(gè)一整代人。在我們不自在、孤獨(dú)、不確定或害怕時(shí)，有一個(gè)自己的數(shù)碼安慰，這有點(diǎn)讓我們自己處理這些情緒的能力退化了。
我們已經(jīng)走過(guò)了以工具為基礎(chǔ)的技術(shù)環(huán)境，來(lái)到了一個(gè)以致癮和操縱為基礎(chǔ)的技術(shù)環(huán)境。社交媒體，不是原地等在那里被使用的工具，它有自己的目標(biāo)，有自己的辦法去實(shí)現(xiàn)這些目標(biāo)，利用你的心理，來(lái)對(duì)付你。
如果一個(gè)東西是工具，它就會(huì)忠誠(chéng)地坐在那里，耐心等待。
如果一個(gè)東西不是工具，它就會(huì)在你的身上有所求，引誘你、操縱你、想從你身上獲利。
有這樣一種說(shuō)法：我們要去適應(yīng)它，我們要去學(xué)著與這些設(shè)備共存，就像我們學(xué)著與其他所有事物共存一樣。
但這個(gè)說(shuō)法沒(méi)有注意到的是，有些東西明顯是全新的。它是由技術(shù)驅(qū)動(dòng)的、呈指數(shù)型地向前發(fā)展，近幾十年來(lái)的計(jì)算機(jī)處理能力增加了萬(wàn)億倍，而我們的人類的大腦，也許在這段期間內(nèi)根本沒(méi)有絲毫的進(jìn)化。
人們忽略的是，人工智能現(xiàn)在已經(jīng)在運(yùn)營(yíng)著當(dāng)今世界了。
算法是內(nèi)嵌在代碼中的觀點(diǎn)。算法不是客觀的，它被某種成功的定義優(yōu)化。它能夠自己不斷優(yōu)化進(jìn)步，在正確命令獲取正確的推送數(shù)據(jù)，讓人們?cè)谶@個(gè)產(chǎn)品上花越來(lái)越多的時(shí)間。雖然它是人寫的，但它有著自己的思想。它是一個(gè)能夠?qū)W著自己改變的機(jī)器，因此設(shè)計(jì)者甚至不需要完全懂得它的原理，就可以讓它自主運(yùn)行。
作為人類，我們似乎幾乎已經(jīng)失去了對(duì)這些系統(tǒng)的控制，因?yàn)閷?shí)際上是它們?cè)诳刂莆覀兛吹降男畔?，更多的是它們?cè)诳刂莆覀儭?/span>
設(shè)想，當(dāng)我們?cè)谟蒙缃卉浖覀兊膶?duì)手是人工智能，它可以知道你的一切，能夠預(yù)測(cè)你未來(lái)的舉動(dòng)，而你對(duì)它卻一無(wú)所知，誰(shuí)會(huì)贏得這場(chǎng)比賽？這根本不是公平的競(jìng)爭(zhēng)。
當(dāng)你在谷歌上，輸入：“氣候變化是……”，根據(jù)你所居住的地區(qū)不同，會(huì)出現(xiàn)不同的結(jié)果。
即使是兩個(gè)有著相同社交圈的朋友，他們看見(jiàn)的世界也會(huì)是不同的，因?yàn)檫@些都基于算法的計(jì)算，它會(huì)告訴你，怎么樣才是完美的。
7
—楚門為什么到現(xiàn)在都從來(lái)沒(méi)有接近發(fā)現(xiàn)他所在世界的真實(shí)本質(zhì)？
—那是因?yàn)槲覀兘邮芰顺尸F(xiàn)在我們面前的世界就是現(xiàn)實(shí)，就這么簡(jiǎn)單。
這是27億人的“楚門的世界”。
隨著時(shí)間的推移，你會(huì)有一種錯(cuò)覺(jué)，覺(jué)得每一個(gè)人都認(rèn)同你，因?yàn)榻o你推送的新聞中，每個(gè)人似乎都和你極其地相似。就像被魔術(shù)師操縱一樣：當(dāng)他提示你任意選擇一張牌的時(shí)候，其實(shí)你早已步入他們?cè)O(shè)計(jì)的陷阱中了。于是，你選的那張牌，就恰恰好是他想讓你選的。
我們都不過(guò)是在基于不同的一系列事實(shí)行事，當(dāng)這樣的情況大范圍發(fā)生時(shí)，我們就再也無(wú)法考慮甚至是去消化與你所創(chuàng)造的世界觀相悖的信息了。而這就意味著，我們其實(shí)不是客觀的、有建設(shè)性的個(gè)體。
人們認(rèn)為算法的設(shè)計(jì)，是給他們真正想要的，但其實(shí)不然，算法其實(shí)是在試圖找到幾個(gè)非常強(qiáng)大的兔子洞，當(dāng)你開(kāi)始觀看其中的一個(gè)視頻，它就會(huì)不停地繼續(xù)推薦。不是人在做這樣的一件事情，而是算法。
而這一行為將人類行為的基礎(chǔ)平面傾斜了，也就是讓一些行為更難，讓一些行為更容易。我們也許能夠爬上一個(gè)傾斜的山坡，但這樣的人越來(lái)越少。企業(yè)創(chuàng)造了一個(gè)偏心于虛假消息的體系，在這個(gè)體系中，虛假信息比真實(shí)信息更有趣，因此允許未受監(jiān)管的信息傳送給更多的人，更能賺到錢。
在這樣一個(gè)體系中，我們置身其中，卻又有海量真假難辨的信息，這也是為什么當(dāng)下討論這個(gè)議題如此重要。
社交媒體放大了增長(zhǎng)迅速的謠言和增長(zhǎng)迅速的道聽(tīng)途說(shuō)，以至于不管是什么問(wèn)題，我們都不知道，什么是真的了。
甚至，我們的技術(shù)產(chǎn)業(yè)的人創(chuàng)造了動(dòng)搖和侵蝕社會(huì)結(jié)構(gòu)的工具，所有國(guó)家、世界各地都在同時(shí)發(fā)生。
人們談?wù)撊斯ぶ悄?，好像人工智能知道真理一樣。但?shí)際上，人工智能無(wú)法解決這些問(wèn)題，人工智能無(wú)法解決虛假新聞的問(wèn)題。企業(yè)其實(shí)也并不知道真相是什么，它們沒(méi)有真相的代理服務(wù)器，在這里只有點(diǎn)擊。
而如果我們不同意真相或者不同意存在真相，那么我們就完蛋了。
因?yàn)槿绻覀儾荒苷J(rèn)同真相，那么我們就無(wú)法找到我們?nèi)魏我粋€(gè)問(wèn)題的解決方法。
硅谷的很多人相信這樣一種理論：我們正在建造一些全球的超級(jí)大腦，我們所有的用戶都只是可交互的神經(jīng)元，他們一點(diǎn)都不重要。它讓人們服從于這樣一個(gè)奇怪的角色，你就像是一個(gè)小的編程元素，我們通過(guò)我們的行為操縱去編程，以服務(wù)于整個(gè)巨型大腦，你根本不重要——既不會(huì)給你錢，也不會(huì)告訴你真相，甚至沒(méi)有自主權(quán)。我們會(huì)鬼祟地操縱你，因?yàn)槟闶蔷幊讨械墓?jié)點(diǎn)，所以我們需要將你編程，因?yàn)槲覀兙鸵@樣對(duì)待編程中的節(jié)點(diǎn)。
技術(shù)并不是人類存亡的威脅，而是技術(shù)有能把社會(huì)中最壞的東西帶出來(lái)的能力。社會(huì)中最壞的東西，才是人類存亡的威脅。
我們可能因?yàn)楣室鉄o(wú)知?dú)У粑覀兊奈拿?，我們或許會(huì)無(wú)法應(yīng)對(duì)氣候變化的挑戰(zhàn)，我們或許會(huì)瓦解世界的民主，最終衰落成一種奇怪的獨(dú)裁機(jī)能障礙，我們或許會(huì)毀掉全球經(jīng)濟(jì)，我們或許會(huì)無(wú)法存活，這是生死存亡的問(wèn)題。
如果我們不知道自己在矩陣中，我們要怎么從矩陣中醒來(lái)？
9
Whether it is to be utopia or oblivion will be a touch-and-go relay race right up to the final moment...--Buckminster Fuller 不論是烏托邦還是毀滅，都是一場(chǎng)一觸即發(fā)的接力賽，直接通往最后一刻。
很多的話聽(tīng)起來(lái)像是片面悲觀，事實(shí)上不是這樣的，因?yàn)檫@同時(shí)是烏托邦和毀滅。
當(dāng)“點(diǎn)贊”按鈕被制作出來(lái)的時(shí)候，它的全部動(dòng)機(jī)是“我們可以在世界中傳播積極和愛(ài)嗎？”而當(dāng)時(shí)間快進(jìn)到當(dāng)下，青少年會(huì)因?yàn)闆](méi)有得到足夠多的點(diǎn)贊而抑郁，或者是導(dǎo)致政治的兩極分化，這在當(dāng)時(shí)是無(wú)法想象的。
我們面對(duì)的現(xiàn)狀是：在數(shù)碼隱私上，我們幾乎沒(méi)有立法，或者是立法落后。我們可以接受公司專注于賺錢，這是合情合理的，但不合情理的地方在于，當(dāng)沒(méi)有監(jiān)管、沒(méi)有規(guī)定、沒(méi)有競(jìng)爭(zhēng)的時(shí)候，公司在充當(dāng)實(shí)際的政府部門，然后他們說(shuō)：“我們可以監(jiān)管自己”，這是荒謬的。
我們對(duì)這些削弱了人類世界很多方面的東西應(yīng)該進(jìn)行法律制裁。這不是激進(jìn)的提議，我們有法律制裁的其他市場(chǎng)，我們制裁人類器官販賣市場(chǎng)，我們制裁人類奴隸市場(chǎng)，因?yàn)樗鼈兌加胁豢杀苊獾钠茐男院蠊?/span>
我們生活的世界，死去的樹(shù)比活著的樹(shù)更有經(jīng)濟(jì)價(jià)值，死去的鯨比活著的鯨更有價(jià)值，只要我們的經(jīng)濟(jì)這樣運(yùn)轉(zhuǎn)，公司不受監(jiān)管，它們就會(huì)繼續(xù)破壞樹(shù)木，繼續(xù)捕殺鯨，在地球上挖礦，從地下抽石油，雖然我們知道，這樣做會(huì)破壞地球；更知道這樣做會(huì)為未來(lái)的幾代人留下一個(gè)更不堪的世界，這是目光短淺，為了利益犧牲一切的信仰。
指望每個(gè)只顧自己私利的公司會(huì)突然神奇地產(chǎn)生最好的結(jié)果，這已經(jīng)影響我們的生活環(huán)境很久了。
恐怖的是，我們希望這是壓倒駱駝的最后一根稻草，讓我們作為文明的種族，去幡然醒悟，這個(gè)理論本身最初就有很多缺點(diǎn)。
我們應(yīng)該看到，我們現(xiàn)在就是樹(shù)，就是鯨，我們的關(guān)注就是被挖掘的財(cái)產(chǎn)。如果我們花時(shí)間盯著一個(gè)屏幕，盯著一個(gè)廣告，對(duì)公司而言，比我們用這個(gè)時(shí)間過(guò)自己豐富的生活更加有利可圖。
我們也看到了這樣的后果，我們看到公司利用強(qiáng)大的人工智能凌駕在我們的智能之上，研究者怎么樣拉攏我們的關(guān)注，讓我們?nèi)タ此麄兿胱屛覀兛吹臇|西，而不是與我們的目標(biāo)、價(jià)值觀、與生活最為一致的東西。
10
人道技術(shù)的創(chuàng)想，是硅谷最初的目標(biāo)，我們已經(jīng)背離了這個(gè)目標(biāo)，因?yàn)檫@樣做比較酷，而不是這樣做比較正確。
現(xiàn)在的問(wèn)題是，我們?cè)覆辉敢馊コ姓J(rèn)這些后果，是我們杰作的直接產(chǎn)物。這些東西是我們建立起來(lái)的，我們有責(zé)任去改變它們。
提取關(guān)注模型，不是我們想對(duì)待人類的方式，一個(gè)健康的結(jié)構(gòu)，要依靠我們擺脫這樣一種有破壞性的商業(yè)模型。我們可以要求這些產(chǎn)品進(jìn)行人道設(shè)計(jì)，可以要求不被當(dāng)做可以提取的資源對(duì)待，我們的動(dòng)機(jī)可以是：我們?cè)鯓幼屵@個(gè)世界變得更好？是批判者驅(qū)動(dòng)著改進(jìn)，批判者才是真的樂(lè)觀主義者。
在網(wǎng)絡(luò)世界，我們的每一個(gè)行為都被小心翼翼地監(jiān)控著、記錄著，具體到我們的注意力停留在哪一張圖片上，甚至包括看了多久。他們所掌握的我們的信息，超越人類歷史上所有的想象。通過(guò)這些我們不經(jīng)意間不斷流露出的數(shù)據(jù)，他們可以越來(lái)越準(zhǔn)確地預(yù)判出我們是怎樣的人，我們要做什么；他們用收集到的我們的數(shù)據(jù)制作出預(yù)判我們行為的模型。
同時(shí)它里面也講到：所有的網(wǎng)絡(luò)巨頭/社交媒體都在激烈地爭(zhēng)奪我們的注意力——attention is the new currency（注意力是網(wǎng)絡(luò)時(shí)代新的貨幣）。被網(wǎng)絡(luò)世界深深改變的這一代人特別是青少年們?nèi)绾纹胶饩€上與線下日常生活，會(huì)是我們每一個(gè)人都要面臨的難題。
這部時(shí)長(zhǎng)一個(gè)半小時(shí)的紀(jì)錄片非常值得一看，推薦給大家。
聯(lián)系客服
