可能會(huì)毀滅整個(gè)人類的重大危機(jī)……
胡德良 譯
當(dāng)今，在人類每天所面臨的各種“危機(jī)”中，我們忘記了希望世世代代要繁衍生息下去。這里的“世世代代”不是指200年之后繼續(xù)生存的人們，而是指1,000年或10,000年之后仍將繼續(xù)生存的人們。在這里使用“希望”這個(gè)詞，是因?yàn)槲覀兠媾R著風(fēng)險(xiǎn)，被稱為“生存威脅”的風(fēng)險(xiǎn)——有可能毀滅整個(gè)人類的風(fēng)險(xiǎn)。這些風(fēng)險(xiǎn)不僅僅是指大型災(zāi)難，也指那些可能終結(jié)歷史的災(zāi)難。
然而，不是每個(gè)人都忽略了久遠(yuǎn)的未來(lái)。像諾斯特拉德馬斯那樣的神秘主義者一直都在試圖計(jì)算出世界的末日何時(shí)到來(lái)。在著名的《時(shí)間機(jī)器》一書中，H·G·威爾斯企圖開辟一種預(yù)測(cè)科學(xué)，其中描繪了人類在久遠(yuǎn)的未來(lái)會(huì)是什么命運(yùn)。其他作家描述了別樣的遙遠(yuǎn)未來(lái)，有的是對(duì)人類的警告、有的是為人類提供娛樂(lè)、還有的只是一種推測(cè)。
但是，如果沒(méi)有這些先驅(qū)們或未來(lái)學(xué)家們對(duì)人類未來(lái)的思考，就不會(huì)改變?nèi)祟惖慕Y(jié)局。在他們那個(gè)時(shí)代，沒(méi)有多少可以采取的措施，無(wú)法拯救我們脫離生存危機(jī)，甚至還會(huì)引起危機(jī)。
當(dāng)今，我們處于得天獨(dú)厚的地位，人類的活動(dòng)正在塑造著地球的未來(lái)。盡管我們還遠(yuǎn)遠(yuǎn)無(wú)法控制自然災(zāi)害，但我們正在開發(fā)的技術(shù)會(huì)有助于減輕自然災(zāi)害，或者說(shuō)至少可以對(duì)其采取應(yīng)對(duì)策略。
然而，我們對(duì)這些風(fēng)險(xiǎn)的研究仍然不充分，對(duì)于這類風(fēng)險(xiǎn)總是有一種無(wú)能為力和聽天由命的感覺(jué)。幾千年來(lái)，人們一直在談?wù)撌澜缒┤?，但是很少有人努力去避免世界末日的發(fā)生。此外，人類并不擅長(zhǎng)應(yīng)對(duì)那些到目前為止沒(méi)有發(fā)生過(guò)的事情，部分原因是人類習(xí)慣于可得性啟發(fā)法——對(duì)于所了解的事件，人們往往會(huì)過(guò)高估計(jì)類似事件的發(fā)生概率，而對(duì)于那些不易記起的事件，人們往往會(huì)過(guò)低估計(jì)其發(fā)生的概率。
如果人類滅絕的話，最起碼的損失相當(dāng)于失去了所有活著的人，他們的目標(biāo)也無(wú)法實(shí)現(xiàn)了。然而，這個(gè)損失可能遠(yuǎn)遠(yuǎn)不至于此。人類滅絕意味著過(guò)去的祖祖輩輩所創(chuàng)造的價(jià)值不復(fù)存在，未來(lái)所有的世世代代將要誕生的生命（其數(shù)量可能是個(gè)天文數(shù)字）以及這些生命可能創(chuàng)造的所有價(jià)值都會(huì)損失掉。如果失去了意識(shí)和智慧，那就意味著價(jià)值本身就會(huì)在宇宙中變得蕩然無(wú)存。因此，我們?cè)诘懒x上擁有充分的理由去努力避免生存威脅的產(chǎn)生，在追求這一目標(biāo)的過(guò)程中，甚至連一次失敗都不允許。
考慮到這一點(diǎn)，我選擇了我認(rèn)為對(duì)人類生存威脅最大的五種事件。但是，只要有警告就要謹(jǐn)記在心，因?yàn)樵摿袉紊系氖录皇亲罱K的定論。
在過(guò)去的那個(gè)世紀(jì)中，我們發(fā)現(xiàn)或創(chuàng)造了新的生存風(fēng)險(xiǎn)：超級(jí)火山是在20世紀(jì)70年代初期發(fā)現(xiàn)的；在曼哈頓計(jì)劃之前，核戰(zhàn)爭(zhēng)是不可能發(fā)生的。因此，應(yīng)該料到會(huì)有其他的風(fēng)險(xiǎn)出現(xiàn)。此外，隨著我們對(duì)情況了解得越來(lái)越多，一些當(dāng)今看起來(lái)很大的風(fēng)險(xiǎn)有可能會(huì)消失。有時(shí)，由于我們關(guān)注了這些風(fēng)險(xiǎn)，確定了這些風(fēng)險(xiǎn)是什么，風(fēng)險(xiǎn)發(fā)生的概率也會(huì)隨著時(shí)間的推移而發(fā)生變化。
最終還要說(shuō)明一點(diǎn)：如果某個(gè)事件有可能發(fā)生，而且具有潛在的危害性，這并不意味著該事件就值得我們?nèi)?dān)憂。對(duì)于有些風(fēng)險(xiǎn)，我們是完全無(wú)計(jì)可施的，如：星系中爆炸事件所產(chǎn)生的伽馬射線暴。但是，如果我們了解到是可以采取措施的，那么我們優(yōu)先考慮的事情就會(huì)改變。例如：有了衛(wèi)生設(shè)備、疫苗和抗生素，我們就知道瘟疫流行并不是上天的旨意，而是公共衛(wèi)生差造成的。
盡管到目前為止在戰(zhàn)爭(zhēng)中運(yùn)用核武器的情況只有兩次（二戰(zhàn)期間投放到廣島和長(zhǎng)崎的原子彈），而且核武器的儲(chǔ)備比冷戰(zhàn)時(shí)的高峰期有所下降，但是如果認(rèn)為核戰(zhàn)爭(zhēng)是不可能發(fā)生的，那是錯(cuò)誤的。事實(shí)上，核戰(zhàn)爭(zhēng)并非不可能發(fā)生。
古巴導(dǎo)彈危機(jī)差一點(diǎn)變成核戰(zhàn)爭(zhēng)。假如這樣的事件每69年發(fā)生一次，每三起這樣的事件中有一起會(huì)一直惡化下去變成核戰(zhàn)爭(zhēng)，那么發(fā)生這種災(zāi)難的幾率就會(huì)上升到大約每二百年一次。
更糟糕的是，古巴導(dǎo)彈危機(jī)只是一個(gè)最著名的事例，美蘇之間核威懾的歷史充滿了千鈞一發(fā)的危機(jī)時(shí)刻和危險(xiǎn)的錯(cuò)誤舉措。由于國(guó)際緊張局勢(shì)的變化，核戰(zhàn)爭(zhēng)的實(shí)際概率已經(jīng)發(fā)生了變化。但是，如果說(shuō)核戰(zhàn)爭(zhēng)的概率遠(yuǎn)遠(yuǎn)不到每千年一次，那似乎是令人難以置信的。
大國(guó)之間全面的核戰(zhàn)爭(zhēng)將會(huì)直接地或通過(guò)隨后的余波把數(shù)以億計(jì)的人置于死地——那是一場(chǎng)難以想象的災(zāi)難。但是，這仍不足以使其成為一種生存威脅。
同樣，放射塵的危害也常常被夸大，它在局部擁有潛在的致命性，但是從全球來(lái)講所造成的危害相對(duì)有限。有人曾經(jīng)提出，鈷彈這種武器可以導(dǎo)致假設(shè)中的世界末日，其放射塵可以殺死任何人。然而實(shí)際上，這種武器制造起來(lái)是很困難、很昂貴的，從物理上來(lái)講幾乎不可能做到。
真正的威脅是核冬天的到來(lái)：也就是，煙灰進(jìn)入平流層，造成世界上多年的低溫期和干燥期?，F(xiàn)代的氣候模擬顯示，核冬天會(huì)使全世界絕大部分地區(qū)在多年的時(shí)間里無(wú)法進(jìn)行農(nóng)耕。如果這種情況發(fā)生的話，數(shù)十億的人將會(huì)餓死，只剩下七零八落幸存者，他們還可能會(huì)遭受其他威脅，如疾病。主要不能確定的是煙灰會(huì)表現(xiàn)出怎樣的性質(zhì)，煙灰的種類不同，結(jié)果可能也會(huì)大不相同，目前我們沒(méi)有什么好辦法對(duì)此作出估計(jì)。
自然流行病比戰(zhàn)爭(zhēng)具有更大的殺傷力。然而，自然流行病不大可能成為生存威脅：總會(huì)有些人對(duì)病原體有抗性，幸存者的后代們將會(huì)擁有更強(qiáng)的抗性。從進(jìn)化的角度來(lái)講，也不支持寄生物種將它們的寄主全部消滅，這一點(diǎn)可以解釋為什么隨著梅毒在歐洲的傳播，它從一種致命的殺手卻轉(zhuǎn)化為一種慢性病。
遺憾的是，我們現(xiàn)在可以使疾病變得更加嚴(yán)重。比較著名的例子之一就是，往鼠痘（老鼠的天花病毒）中加入一種額外的基因，鼠痘的致命性就增強(qiáng)了許多，可以感染接種過(guò)疫苗的個(gè)體。最近對(duì)禽流感的研究表明，一種疾病的傳染性可以人為地得到加強(qiáng)。
目前，有人故意釋放毀滅性東西的風(fēng)險(xiǎn)不大。但是，隨著生物技術(shù)越來(lái)越高、費(fèi)用也越來(lái)越低，更多的團(tuán)體將能夠使疾病惡化。
對(duì)生物武器的研究大都是由政府進(jìn)行的，政府所尋求的是可控制的殺傷力，因?yàn)橄麥缛祟愒谲娛律鲜菦](méi)有任何意義的。但是，總有一些人想做某些事情，僅僅是因?yàn)樗麄冇心芰梢宰龅?。一些其他人擁有更高的目?biāo)：例如，日本奧姆真理教的狂熱分子企圖加速世界末日的到來(lái)，他們除了使用更加有威力的神經(jīng)毒氣進(jìn)行攻擊之外，還使用生物武器。還有些人認(rèn)為：如果沒(méi)有人類的話，地球上的情況將會(huì)更加美好，等等。
由于生物武器的襲擊和流行病爆發(fā)而死亡的人數(shù)看起來(lái)好像是呈冪律分布的——絕大多數(shù)的襲擊和爆發(fā)所傷害的人數(shù)極少，而極少數(shù)的襲擊和爆發(fā)所傷害的人卻極多。考慮到當(dāng)前掌握的數(shù)據(jù)，由生物恐怖活動(dòng)造成全球流行病的風(fēng)險(xiǎn)似乎是很小的。但是比起恐怖分子，政府使用生物武器所殺的人要多得多——二戰(zhàn)期間，可能有多達(dá)400,000人死于日本的生物戰(zhàn)爭(zhēng)計(jì)劃——這恰恰也屬于生物恐怖活動(dòng)。隨著未來(lái)技術(shù)的威力越來(lái)越強(qiáng)大，殺傷力更強(qiáng)的病原體也就更加容易設(shè)計(jì)了。
智慧是非常具有威力的。在解決問(wèn)題的能力方面以及在團(tuán)體協(xié)作方面，我們略高一籌，這使得其他猿類動(dòng)物望塵莫及。現(xiàn)在，其他猿類動(dòng)物是否能夠繼續(xù)存在，要靠人類的決定，而不是靠它們自己怎么做。對(duì)于人類和團(tuán)體組織來(lái)說(shuō)，擁有智慧的確是一種優(yōu)勢(shì)。因此，我們想方設(shè)法提高個(gè)人智慧和集體智慧，從提高認(rèn)知能力的藥物到人工智能軟件，我們做出了很多努力。
問(wèn)題是：有智慧的實(shí)體善于實(shí)現(xiàn)自己的目標(biāo)；但如果目標(biāo)設(shè)置不當(dāng)，它們可以利用自己的威力輕而易舉地實(shí)現(xiàn)災(zāi)難性的目標(biāo)。如果認(rèn)為智能本身會(huì)使某個(gè)事物表現(xiàn)得良好而又符合道德規(guī)范，那是沒(méi)有道理的。實(shí)際上，有可能證實(shí)這一點(diǎn)：某種超級(jí)智能系統(tǒng)可能會(huì)不去遵守道德規(guī)則，即使這些規(guī)則是正確的。
更加令人擔(dān)憂的是，在企圖向人工智能解釋情況的時(shí)候，我們遇到了深?yuàn)W的實(shí)際問(wèn)題和哲學(xué)問(wèn)題。人的價(jià)值都是些寬泛、復(fù)雜的概念，都是些不易表達(dá)的東西。即使能夠表達(dá)出來(lái)，我們可能也不會(huì)明白是否傳達(dá)了我們所希望表達(dá)的所有含義。
基于軟件的智能可能會(huì)很快從不如人類到變得異常強(qiáng)大，令人畏懼。原因在于，這種智能跟生物智能的分級(jí)方式有所不同：它在較快的計(jì)算機(jī)上運(yùn)行得也會(huì)較快，各部件可以安裝在更多的計(jì)算機(jī)上，不同的版本在運(yùn)行之中便可以得到測(cè)試和升級(jí)，所編入的新算法能夠使之在性能上產(chǎn)生飛躍。
有人曾經(jīng)提出，當(dāng)軟件的性能足夠卓越、其本身能夠制造出更好的軟件時(shí)，“智能爆炸”就成為可能。如果能夠發(fā)生這種飛躍的話，那么智能體系和世界其他體系之間的潛在能力將會(huì)存在巨大的差異。很明顯，如果目標(biāo)設(shè)置不當(dāng)，就有可能造成災(zāi)難。
有關(guān)超級(jí)智能，一件不同尋常的事情是：我們不知道迅速而強(qiáng)有力的智能爆炸是否有可能發(fā)生，或許我們目前的文明作為一個(gè)整體正在以最快的速度實(shí)施自我改善。但是，我們有充分的理由相信：一些技術(shù)可能會(huì)加速事態(tài)的發(fā)展，發(fā)展速度可能會(huì)遠(yuǎn)遠(yuǎn)超出預(yù)期，使當(dāng)前社會(huì)各界根本無(wú)法對(duì)付。同樣，我們也沒(méi)有很好地掌握不同形式的超級(jí)智能所造成的危險(xiǎn)性到底有多大，什么樣的減災(zāi)策略能夠真正地起作用。對(duì)于我們尚不掌握的未來(lái)技術(shù)，或者對(duì)于比我們本身更加強(qiáng)大的智能，我們很難推知情況到底會(huì)如何。在這份威脅列單中，這個(gè)威脅最有可能是要么規(guī)模巨大，要么僅僅是虛幻的威脅而已。
這是一個(gè)在研究上特別欠缺的領(lǐng)域。甚至在20世紀(jì)50年代和60年代的時(shí)候，人們對(duì)于“在一代人的時(shí)間之內(nèi)”實(shí)現(xiàn)超級(jí)智能極有信心，但他們沒(méi)有太多地關(guān)注安全問(wèn)題。也許人們當(dāng)時(shí)沒(méi)有重視那個(gè)預(yù)測(cè)，然而人們更有可能把超級(jí)智能當(dāng)成了一個(gè)遙遠(yuǎn)未來(lái)的問(wèn)題。
納米技術(shù)利用原子或分子的精度來(lái)控制物質(zhì)。納米技術(shù)本身并不危險(xiǎn)，相反該技術(shù)對(duì)于絕大多數(shù)應(yīng)用領(lǐng)域來(lái)說(shuō)是一則極好的消息。問(wèn)題是，就像生物技術(shù)一樣，威力的提高也增加了濫用的可能性，這些都是難以防范的。
一個(gè)重大的問(wèn)題是，這不像邪惡的“灰色粘質(zhì)”——可以吞噬一切的、能夠自我復(fù)制的納米機(jī)器。要想達(dá)到吞噬一切的目的，這種機(jī)器本身也將需要精巧的設(shè)計(jì)。讓機(jī)器進(jìn)行自我復(fù)制是很難的，但是生物在默認(rèn)的狀態(tài)下對(duì)于自我復(fù)制要擅長(zhǎng)得多?；蛟S會(huì)有某個(gè)瘋狂之人最終能夠成功地制造出這樣的機(jī)器，但是在研究這項(xiàng)破壞性技術(shù)的過(guò)程中，也會(huì)產(chǎn)生許多輕而易舉就可獲得的成果。
最明顯的風(fēng)險(xiǎn)就是精密到原子級(jí)的制造技術(shù)，這種技術(shù)對(duì)于快速、低成本地制造武器之類的東西是很理想的。如果任何政府都能夠“打印”大量的自動(dòng)式或半自動(dòng)式武器（包括能夠通過(guò)“打印”更多制造武器的設(shè)備），那么在這樣的一個(gè)世界中，軍備競(jìng)賽將會(huì)變得異常迅猛，因而也就增加了不穩(wěn)定的因素，因?yàn)樵跀橙诉€沒(méi)有獲得巨大優(yōu)勢(shì)之前而先發(fā)制敵可能會(huì)極具誘惑力。
武器可也以成為很小、很精密的東西：“智能毒物”的作用就像神經(jīng)毒氣，但是可以找出侵害目標(biāo)；或者，無(wú)處不在的“昆蟲機(jī)器人”監(jiān)視系統(tǒng)讓人們乖乖地順從……這些好像都是完全有可能實(shí)現(xiàn)的。此外，或許也有辦法讓任何人掌握核擴(kuò)散技術(shù)和氣候工程技術(shù)，無(wú)論誰(shuí)想掌握都是可以做到的。
對(duì)于未來(lái)納米技術(shù)所帶來(lái)的生存威脅，我們無(wú)法判斷其可能性的大小。但是，看來(lái)這種技術(shù)是具有潛在破壞性的，因?yàn)樗軌驗(yàn)槲覀兲峁┪覀兿Ｍ玫降囊磺小?/p>
最令人不安的可能性是：有個(gè)非常致命的事物就存在于某處，而我們對(duì)其沒(méi)有掌握任何線索。
寂靜的天空可能就是此類事件的證據(jù)。找不到外星人的原因是由于生命或智能極其稀少嗎？或者是由于智能生命往往會(huì)被徹底消滅嗎？如果真的存在一個(gè)未來(lái)的“大過(guò)濾器”，那么其他的文明肯定也注意到了。即便如此，也于事無(wú)補(bǔ)。
不管這種威脅是什么，一旦人們認(rèn)識(shí)到它的存在時(shí)，那么就一定是幾乎不可避免的，不管你是誰(shuí)，也不管你是做什么的，都無(wú)回天之力。我們還不了解任何這樣的威脅，列表中的其他威脅都不是像這樣運(yùn)行的，但是這種威脅或許是存在的。
請(qǐng)注意，我們對(duì)某個(gè)威脅尚不了解，并不意味著我們對(duì)此無(wú)法推知。在一篇引起廣泛關(guān)注的論文中，馬克斯·泰格馬克和尼克·博斯特羅姆根據(jù)地球的相對(duì)年齡證實(shí)，發(fā)生某種系列風(fēng)險(xiǎn)的幾率肯定不到每十億年一次。
你會(huì)感到納悶：為何氣候變化和流星撞擊沒(méi)有進(jìn)入這個(gè)列單呢？無(wú)論多么可怕的氣候變化，都不可能使得整個(gè)地球成為無(wú)法居住的地方。但是如果我們的防御措施失利的話，那么氣候變化還會(huì)加劇其他的威脅。流星肯定有可能徹底摧毀我們，但是那一定是在我們極其不幸的情況下發(fā)生的。普通的哺乳動(dòng)物物種生存了大約一百萬(wàn)年，因此其自然背景滅絕率大約為每年百萬(wàn)分之一。這比核戰(zhàn)爭(zhēng)的威脅要低得多，而核戰(zhàn)爭(zhēng)在70年之后仍然是人類繼續(xù)生存的最大威脅。
可得性啟發(fā)法使我們過(guò)高地估計(jì)了通常出現(xiàn)于媒體中的風(fēng)險(xiǎn)，而對(duì)于史無(wú)前例的風(fēng)險(xiǎn)則產(chǎn)生了低估。如果人類要想在一百萬(wàn)年以后仍然生活在地球上，那么我們就要糾正這些錯(cuò)誤的估計(jì)。
譯自：美國(guó)《大眾科學(xué)》雜志(05.29.2014 at 11:00 am)
原著：Anders Sandberg
作者簡(jiǎn)介：安德斯·桑德伯格出生于1972年7月，獲斯德哥爾摩大學(xué)計(jì)算神經(jīng)科學(xué)博士學(xué)位，現(xiàn)任牛津大學(xué)人類未來(lái)研究所研究員，是一位科學(xué)辯論家、未來(lái)學(xué)家、人類提高學(xué)家兼作家。他在人類未來(lái)研究所的研究工作集中于低概率高沖擊的風(fēng)險(xiǎn)管理、圍繞人類提高和新技術(shù)所產(chǎn)生的社會(huì)和倫理問(wèn)題、以及對(duì)未來(lái)技術(shù)能力的評(píng)估等領(lǐng)域。桑德伯格博士特別感興趣的課題涉及全球性的災(zāi)難風(fēng)險(xiǎn)、認(rèn)知偏差、認(rèn)知提高、集體智慧、神經(jīng)倫理學(xué)和公共政策等領(lǐng)域。
聯(lián)系客服
