編者按：本文內(nèi)容來自“科技失控”，作者溫德爾·瓦拉赫.36氪經(jīng)授權(quán)發(fā)布。

計(jì)算機(jī)的處理能力隨著時(shí)間推移大幅提升。某些理論認(rèn)為這是技術(shù)發(fā)展整體加速的其中一個(gè)表現(xiàn)，并將不可避免地帶來人類命運(yùn)的激進(jìn)變化。按照這種觀點(diǎn)，人類似乎朝著一個(gè)轉(zhuǎn)折點(diǎn)，未來要么屬于機(jī)器或超人類或者整個(gè)加速過程因不可持續(xù)而崩潰。不管是哪種結(jié)果都是災(zāi)難性的。至少這樣的一個(gè)轉(zhuǎn)折點(diǎn)是破壞性的?；蛟S有可能正如很多預(yù)言師所相信的那樣，造成未來世界與過去的一切完全沒有連貫性。

摩爾定律和智慧爆炸這兩種理論是目前老生常談的一種看法的核心所在，即認(rèn)為科學(xué)發(fā)現(xiàn)的速度在不斷加快，并將向一個(gè)徹底改變世界的轉(zhuǎn)折點(diǎn)。兩種理論的出現(xiàn)都是因?yàn)閷τ谟?jì)算機(jī)影響日益擴(kuò)大的思考，二者都在在1965年發(fā)表的。戈登·摩爾（Gordon E. Moore）是英特爾公司的創(chuàng)辦人之一，他觀察到自1958年集成電路發(fā)明以來，集成電路上晶體管數(shù)量每兩年（后更改為18個(gè)月）

數(shù)學(xué)家古德（IJ Good）在1965年發(fā)表了一個(gè)題為“有關(guān)第一臺超智能機(jī)器的猜想”的文章中，預(yù)測計(jì)算機(jī)將從各方面都超過人類的智慧能力。超智能機(jī)器的一個(gè)顯著特點(diǎn)是具備制造出更好的機(jī)器的能力。它們的出現(xiàn)會引發(fā)“智慧爆炸”，機(jī)器將設(shè)計(jì)出更智能的計(jì)算機(jī)，它們的進(jìn)化將遠(yuǎn)遠(yuǎn)超出人類的智慧。古德寫下了一句非常的話：“第一臺超智能機(jī)器將是人類的最后一項(xiàng)發(fā)明”。

15年以后，另一位數(shù)學(xué)家，同時(shí)也是一位享有盛譽(yù)的科幻小說家弗蘭·文奇（Vernor Vinge）虛構(gòu)了一個(gè)小說情節(jié)，背景是剛剛發(fā)生智慧爆炸后的世界。文奇認(rèn)識到超智能奇跡能從很多方面改變生命和文化，以至于無法完全想象未來世界的樣子。文奇用一個(gè)數(shù)學(xué)和自然科學(xué)使用的術(shù)語將人類歷史的這個(gè)轉(zhuǎn)折點(diǎn)定義為技術(shù)奇點(diǎn)。

那些相信這個(gè)故事情節(jié)的人有兩個(gè)核心問題要生：它會使人類受益還是威脅人類生存？目前這個(gè)階段，沒人可以給出答案，但是年輕專家和有經(jīng)驗(yàn)的科學(xué)家對這個(gè)問題思考了很久，并在想辦法如何確保未來超智能計(jì)算機(jī)對人類“友好”。

有關(guān)技術(shù)奇點(diǎn)何時(shí)到來的討論非常熱烈，一些理論家預(yù)測會在最近的將來發(fā)生（150或100年后），另外有些人認(rèn)為很遙遠(yuǎn)或根本不可能。雷·庫茲韋爾）是一位投資家和作家，其代表性觀點(diǎn)認(rèn)為技術(shù)奇點(diǎn)在近期將會發(fā)生，他預(yù)測計(jì)算機(jī)將在2028 - 2030年前后展示出人類水平的智慧，奇點(diǎn)將接踵而至。

對于技術(shù)奇點(diǎn)不可避免到達(dá)的這種趨勢持批評意見的人，并不認(rèn)為能開展各項(xiàng)任務(wù)的計(jì)算機(jī)構(gòu)成智能機(jī)器。當(dāng)然，計(jì)算機(jī)在某些方面已經(jīng)超出了人類的能力，比如解決數(shù)學(xué)計(jì)算，模擬復(fù)雜系統(tǒng)，搜索大型數(shù)據(jù)庫發(fā)現(xiàn)片斷信息之間的聯(lián)系等。

但是，人類智力的某些層面仍然是當(dāng)今計(jì)算機(jī)無能為力或難以企業(yè)的。計(jì)算機(jī)甚至不具備分辨真實(shí)環(huán)境中重要信息和非重要信息的基本能力。計(jì)算機(jī)系統(tǒng)不具備人類的學(xué)習(xí)能力，缺乏情感智慧，道德但是有很多的理論是關(guān)于如何通過計(jì)算機(jī)實(shí)現(xiàn)這些能力，也有相當(dāng)多的理論解釋為什么計(jì)算機(jī)永遠(yuǎn)不會具備這些能力。

喬治·華盛頓（George Washington）大學(xué)教授威廉·哈萊爾（William Halal）發(fā)起了技術(shù)調(diào)查，在其中他采訪了一些知名專家關(guān)于各種技術(shù)事件什么時(shí)候會發(fā)生。他注意到在這些預(yù)測中，最在27名專家之中，“名詞”英文“名詞解釋”英文“名詞解釋”英文“名詞解釋”英文“名詞解釋”英文“名詞解釋”英文“名詞解釋”英文“ 45％同意這個(gè)觀點(diǎn)。對于那些既同意也不同意的人，對自己觀點(diǎn)正確與否的自信程度平均為63％。

就像流行音樂有經(jīng)典老歌一樣，各種領(lǐng)域的學(xué)術(shù)研究也有一些幾十年來反復(fù)被閱讀和引述的經(jīng)典文章。在計(jì)算機(jī)科學(xué)領(lǐng)域，其中的兩個(gè)“經(jīng)典之作”涉及對計(jì)算機(jī)智能進(jìn)行評價(jià)的文章。

第一篇是阿蘭·圖靈（Alan Turing）所寫，他是計(jì)算機(jī)科學(xué)的奠基人之一，二戰(zhàn)期間率領(lǐng)團(tuán)隊(duì)破解了納粹軍隊(duì)的密碼。圖靈在1950年一一名為“計(jì)算機(jī)和智能”的文章開頭寫下令人難忘的一句話：“機(jī)器能思考嗎？

圖靈提出用一個(gè)測試將人類對這個(gè)問題的反應(yīng)進(jìn)行對比。提問者不能直接面對被提問的人，而是通過文字信息的方式來溝通。如果提問者僅僅根據(jù)二者的回答無法區(qū)分到底是計(jì)算機(jī)還是人類的答案，那么圖靈建議必須認(rèn)為智能機(jī)器是能夠思考的。圖靈稱他的思考試驗(yàn)為一個(gè)模仿游戲，現(xiàn)在人們通常稱這種試驗(yàn)為“圖靈測試“。

雖然很多人批評圖靈測試不足以作為衡量人工智能的標(biāo)桿，但是沒有人有更好的提議。有一種批評意見認(rèn)為一個(gè)非常聰明的機(jī)器人可能會裝糊涂，假裝很傻地回答以欺騙專家，的話專家會知道它比人類了解的知識還多。

對于圖靈測試最有意思的批評是關(guān)于人工智能的第二篇“經(jīng)典老歌”。1980年哲學(xué)家約翰·西爾勒（John Searle）發(fā)表了“思想，大腦，計(jì)劃”的文章，認(rèn)為即使計(jì)算機(jī)像人類一樣答出了專家的問題，也不能代表它知道自己在做什么。他用了一個(gè)“中文房間”的思維試驗(yàn)來說明自己的觀點(diǎn)。

想象自己在一個(gè)房間里，里面是計(jì)算機(jī)所有的獲得的所有關(guān)于中國語言的資料，人和機(jī)器都獲得充分的時(shí)間去學(xué)習(xí)掌握這些資料，然后讓計(jì)算機(jī)回答一個(gè)中國人提出的問題，西爾勒推測他自己能夠根據(jù)翻譯材料給出正確的答案，雖然，他并不是真的懂中文，由此可以相信計(jì)算機(jī)也可以在同樣不懂符號含義的情況下給出正確答案。

西爾勒企圖說明的是，從形式上掌握中文符號和充分理解中文意思是不同的。他的思考試驗(yàn)想要證明，操縱符號的計(jì)算機(jī)并不了解這些符號的意思，對符號的操縱不等于語意理解。

西爾勒認(rèn)為他提出的是一個(gè)常識性的簡單觀點(diǎn)。但讓他感到奇怪的是，“中國房間”的論點(diǎn)引起了無窮無盡的討論。很多人則認(rèn)為用于計(jì)算機(jī)工程的思維模型不足以生產(chǎn)出具備理解和意識能力的機(jī)器。

我對于人工智能導(dǎo)致技術(shù)奇點(diǎn)（通常也稱為超智能的到達(dá)）的研究前景持續(xù)友好的懷疑態(tài)度。我對于無所不能的工程精神也持續(xù)友好的態(tài)度，他們提議制造具有通用智能的機(jī)器但以非開發(fā)各種任務(wù)。但我非常懷疑我們是否對智能或意識的本性有足夠多的了解，以至于能夠其完全復(fù)制在芯片或其他材料里。

生物系統(tǒng)中某些人類智力特質(zhì)是我們無法理解的，所需要的科學(xué)灼見也是現(xiàn)階段我們尚未具備的。人類思想與身體的融合，以及對于外界環(huán)境改變所做的適應(yīng)性反應(yīng)及韌性，難通過非生物的方式

有人認(rèn)為，將人類的腦力和先進(jìn)的人工智能形式結(jié)合起來的超智能終將問世。某種程度上說，我認(rèn)為這樣的觀點(diǎn)更實(shí)際些。但是，認(rèn)為人和機(jī)器的能力相結(jié)合會帶來智能爆炸或是技術(shù)奇點(diǎn)的觀點(diǎn)但然說獲得但但不太可能。

當(dāng)然，信息技術(shù)將產(chǎn)生新的思想種類，放大或取代人的思想去從事很多任務(wù)。雖然我對未來50?100年會發(fā)生技術(shù)奇點(diǎn)仍然持有懷疑，但是未來200年后是否會發(fā)生技術(shù)奇點(diǎn)，我無從判斷。但是時(shí)間越長，機(jī)會越多，可以確保超智能機(jī)器人對人類和人類的價(jià)值觀友好。認(rèn)為科學(xué)家肯定終有一天會發(fā)現(xiàn)制造此類機(jī)器人或?qū)崿F(xiàn)人類進(jìn)化當(dāng)然不是愚蠢的，這很大程度上取決于在20年，200年還是1000年以后實(shí)現(xiàn)。

2009年，一群計(jì)算機(jī)專家舉行會議，反思人工智能研究在社會層面上所取得的進(jìn)步，他們對于智能爆炸和即將到來的奇點(diǎn)表示懷疑。僅僅5年之后，這次會議的聯(lián)席主席巴特·塞爾曼（Bart Selman）認(rèn)為，因?yàn)樽罱诟兄蜋C(jī)器學(xué)習(xí)方面取得的突破，在大部分人工智能研究人員的心目中，超智能的可能性正在上升。

超智能的可能性受到了極大的關(guān)注，特別是一些人物，比喻宇宙學(xué)家斯蒂芬·霍金（Stephen Hawking），特斯拉的創(chuàng)立人伊隆·馬斯克（Elon Musk），他們認(rèn)為人工智能的研究將對人類造成嚴(yán)重威脅。

有時(shí)候這種對于未來的消極擔(dān)憂某種程度上轉(zhuǎn)移了人們對于解決當(dāng)下更為緊要的問題的注意力。但是，技術(shù)奇點(diǎn)可以作為人類無法自我掌控命運(yùn)的象征。對于技術(shù)奇點(diǎn)的關(guān)注可以提醒商界領(lǐng)袖更加重視這個(gè)問題，人類發(fā)明的技術(shù)如何邁出了最初的幾步，直到迫使人類交出控制權(quán)，從這個(gè)角度說來，技術(shù)奇點(diǎn)倒也是有用的。

以上文字摘選自溫德爾·瓦拉赫“科技失控”