十分鐘精準(zhǔn)拆解，帶你讀懂一本好書。今天我們?yōu)榇蠹規(guī)淼倪@本書，是來自中國人民大學(xué)出版社的《人工智能全球格局》，由國務(wù)院發(fā)展研究中心國際技術(shù)經(jīng)濟(jì)研究所、中國電子學(xué)會(huì)和智慧芽合著。

人工智能是一個(gè)需要持續(xù)積累和技術(shù)迭代的過程，注定是一件漫長(zhǎng)的事。即使在現(xiàn)在，各個(gè)科技巨頭和創(chuàng)業(yè)公司通過在不同應(yīng)用場(chǎng)景中布局人工智能領(lǐng)域，探索出了不同的發(fā)展路徑的今天，來自中科院自動(dòng)化所的曾毅博士仍然認(rèn)為，現(xiàn)在我們所說的人工智能，還只停留在數(shù)據(jù)智能的階段，與生物智能還有著本質(zhì)的區(qū)別。而未來，他堅(jiān)信人工智能的發(fā)展方向?qū)⑹恰盎跈C(jī)制的人工智能”，也就是探尋生物智能的本質(zhì)——理解人腦是如何協(xié)調(diào)數(shù)百項(xiàng)認(rèn)知功能去解決沒見過的問題的，基于此，實(shí)現(xiàn)機(jī)器的擬人化和人類認(rèn)知的機(jī)械化兩個(gè)方向的逼近，才能發(fā)展出具有意識(shí)的超級(jí)智能生命體。

曾毅博士關(guān)于人工智能的更多觀點(diǎn)，將會(huì)完整的呈現(xiàn)在今天我們要推薦的這本《人工智能全球格局》中，而作為一本通俗易懂的人工智能科普讀物，在這本書中，你能看到行業(yè)內(nèi)的各種從業(yè)人員，是如何從源頭上思考人工智能的本質(zhì)和發(fā)展歷程、全面解讀各國政府以及科技巨頭的人工智能布局，、以及審慎看待我國的人工智能科技和產(chǎn)業(yè)實(shí)力的，除此之外，你也能通過這本書，了解一段以科技創(chuàng)新領(lǐng)跑世界的中國故事。接下來，就讓我們先從曾毅博士的這篇文章中一睹為快吧。

智能數(shù)據(jù)分析與真正意義的人工智能存在本質(zhì)區(qū)別

文 | 曾毅

關(guān)于媒體上流行的產(chǎn)業(yè)驅(qū)動(dòng)的人工智能故事，大家都聽過非常多了，我對(duì)它的總結(jié)是：當(dāng)前幾乎所有這些工作，準(zhǔn)確地說叫作基于數(shù)據(jù)的人工智能（databased artificial intelligence），簡(jiǎn)稱數(shù)據(jù)智能。因?yàn)?，這些工作是基于大規(guī)模數(shù)據(jù)，找到一個(gè)合適的數(shù)學(xué)函數(shù)來擬合數(shù)據(jù)，產(chǎn)生擬定的預(yù)期。如AlphaGo，如果反問：通過AlphaGo一系列的工作，我們對(duì)人類的決策機(jī)制有了哪些新的認(rèn)識(shí)？其實(shí)是幾乎沒有的。因此，基于數(shù)據(jù)構(gòu)建的看似智能的模型，其實(shí)質(zhì)只是信息處理，是大規(guī)模的數(shù)據(jù)分析，與“智能”的本質(zhì)無關(guān)。

但是，我相信未來的人工智能是向機(jī)制智能發(fā)展的。我們稱之為“基于機(jī)制的人工智能”（mechanismbased artificial intelligence）。也就是說，我們真正需要追尋的是生物智能的本質(zhì)。對(duì)于任意一項(xiàng)認(rèn)知功能，包括對(duì)人腦如何去協(xié)調(diào)數(shù)百項(xiàng)的認(rèn)知功能去解決沒見過的問題的探索，都是在回答它的科學(xué)本質(zhì)是什么。

人工智能研究從開始至今不過短短幾十年，而真正人類的智能已經(jīng)經(jīng)過了數(shù)億年的演化，在演化過程中通過基因突變等獲得了不同的嘗試，生成了不同物種的腦。為什么數(shù)億年的演化，把人腦塑造成這樣，而不是果蠅或者小鼠的樣子？人腦又有什么樣的優(yōu)勢(shì)？我們做的工作是從不同類型物種的大腦的建模開始，從中抽象出認(rèn)知結(jié)構(gòu)與機(jī)理，然后應(yīng)用到機(jī)器智能當(dāng)中去。

數(shù)億年的演化使得人類大腦把人體系統(tǒng)的結(jié)構(gòu)和機(jī)制有機(jī)地組合起來，使得人體系統(tǒng)表現(xiàn)出更好的魯棒性和抗噪能力。在目前最理想的狀況下，深度學(xué)習(xí)系統(tǒng)在有足夠多的數(shù)據(jù)訓(xùn)練，并且測(cè)試數(shù)據(jù)與訓(xùn)練數(shù)據(jù)都理想的狀況下，能夠獲得與人類大腦同等水平的魯棒性和抗噪能力。但是，在任何客觀的現(xiàn)實(shí)世界中，理想的狀態(tài)都不存在。腦結(jié)構(gòu)與機(jī)制的結(jié)合使得高度魯棒性和抗噪性可以從我們構(gòu)建的類腦模型中涌現(xiàn)出來，這并非特定的函數(shù)設(shè)計(jì)所能實(shí)現(xiàn)的。

人類顯然有很強(qiáng)的決策能力。人的決策是通過若干腦區(qū)的協(xié)同來實(shí)現(xiàn)的。我們把這樣的決策模型放到無人機(jī)、機(jī)器人等不同平臺(tái)上，使得無人機(jī)等學(xué)會(huì)自主避障、自主穿越復(fù)雜場(chǎng)景。所有的規(guī)則都是在線學(xué)習(xí)的，機(jī)器人學(xué)習(xí)的速度剛開始跟人類似，后面則比人快，因?yàn)槠溆?jì)算能力比人強(qiáng)。把同樣的模型用到機(jī)器人上，讓它去理解人類的意圖等不同的應(yīng)用，其實(shí)都只是類腦人工智能在狹義人工智能中的一些進(jìn)展。目前正在探索的問題，就是如何使得模型變得通用。比如，谷歌DeepMind提出的模型，它希望一種網(wǎng)絡(luò)可以應(yīng)對(duì)多個(gè)任務(wù)?？蓡栴}是：當(dāng)它學(xué)習(xí)第二個(gè)任務(wù)的時(shí)候，第一個(gè)任務(wù)的性能也會(huì)下降，如果它還想同時(shí)完成第一個(gè)任務(wù)的話，第二個(gè)任務(wù)也不能得到最好應(yīng)對(duì)。這都不是人類智能的特點(diǎn)。人腦至少可以分成近250個(gè)腦區(qū)。這些腦區(qū)是自組織協(xié)同的，可以去應(yīng)對(duì)不同的任務(wù)，也就是說，人腦的自組織原理才是最重要的。

人類的認(rèn)知功能至少有150項(xiàng)，到目前為止，全世界的人工智能頂多挑戰(zhàn)了其中的30項(xiàng)，剩余的絕大多數(shù)很少有人去研究，比如說意識(shí)的問題。在神經(jīng)科學(xué)領(lǐng)域，可以通過2～5周的訓(xùn)練使得以往被認(rèn)為沒有自我意識(shí)的恒河猴通過鏡像測(cè)試，從而被認(rèn)為涌現(xiàn)出了自我意識(shí)。在這樣的實(shí)驗(yàn)的啟發(fā)下，我們構(gòu)建了猴腦的點(diǎn)神經(jīng)元脈沖神經(jīng)網(wǎng)絡(luò)模型，該模型具有363個(gè)腦區(qū)。應(yīng)用近似猴腦的計(jì)算模型以及相關(guān)的訓(xùn)練實(shí)驗(yàn)，機(jī)器人通過了鏡像測(cè)試。目前，雖然機(jī)器人可以通過鏡像測(cè)試，但問題是，我們能說機(jī)器人有了自我意識(shí)嗎？我們可以說，猴子通過了鏡像測(cè)試，所以我們認(rèn)為這個(gè)物種有自我意識(shí)；但反過來，機(jī)器人通過了能夠說明嗎？實(shí)際上不行。所以，現(xiàn)在我們的結(jié)論是：一個(gè)不具備人類認(rèn)為的意識(shí)能力的機(jī)器人，它也能通過鏡像測(cè)試。因此，傳統(tǒng)鏡像測(cè)試判斷物種是否具有自我意識(shí)的假設(shè)實(shí)際上是不嚴(yán)謹(jǐn)?shù)?。?shí)現(xiàn)機(jī)器的自我意識(shí)是我們重要的努力方向，很顯然這還只是初步自我感知的開始?？傮w而言，我們希望未來能通過計(jì)算建模來發(fā)現(xiàn)智能演化的規(guī)律，預(yù)測(cè)智能演化的趨勢(shì)，并應(yīng)用到未來人工智能模型的自主智能演化上。

探索未來智能的兩個(gè)方向

當(dāng)前我們?cè)谥悄艿奶剿魃献隽藘蓚€(gè)方向上的努力，一個(gè)是從機(jī)器向擬人化發(fā)展，一個(gè)是從人類向機(jī)械化方向發(fā)展，擴(kuò)展人類的智能。一方面，機(jī)器的擬人化（humanization）使得機(jī)器越來越像人，使它能夠與未來的人類更好地交互。另一方面，人類也在通過延展認(rèn)知能力提升著自身，所以這部分工作叫作mechanization，就是機(jī)械化。未來人工智能的發(fā)展就是從上述兩個(gè)方向逼近，向具有意識(shí)的超級(jí)智能生命體發(fā)展。

兩個(gè)方向需要回答的科學(xué)問題出發(fā)點(diǎn)是不一樣的。從機(jī)器智能的角度出發(fā)，我們需要回答它們到底是誰、我們到底怎么構(gòu)建一個(gè)具有智能的生命的問題。從人類的角度出發(fā)，問題是我們?nèi)说拇竽X是怎么工作的、我們是誰。未來，有意識(shí)的超級(jí)智能生命體的發(fā)展不是割裂的，不是兩個(gè)方向無關(guān)的努力，而是兩個(gè)方向朝著統(tǒng)一的目標(biāo)深度融合探索的未來。

我國的人工智能社會(huì)倫理問題研究亟待加強(qiáng)

未來的超級(jí)智能體很顯然會(huì)超越現(xiàn)代人類智力水平，其風(fēng)險(xiǎn)和倫理問題將是非常關(guān)鍵的一環(huán)。我國已采取很多舉措，《新一代人工智能發(fā)展規(guī)劃》中也對(duì)人工智能的社會(huì)風(fēng)險(xiǎn)與倫理高度關(guān)注。但必須承認(rèn)，我國在這方面的研究仍然是落后的。

現(xiàn)在的人工智能發(fā)展，看上去如火如荼，但實(shí)際上往哪個(gè)方向走才是正確的道路大家并不確定。是否走了彎路，是否出現(xiàn)方向錯(cuò)誤，決定了一個(gè)國家未來的人工智能是不是真正能夠發(fā)展好。如果做的根本不是人工智能，而是看似智能的大數(shù)據(jù)分析、大規(guī)模信息處理，那我們就應(yīng)該老老實(shí)實(shí)地講和做這件事情，而不是去冒充人工智能，否則的話，會(huì)對(duì)我國人工智能的科學(xué)發(fā)展造成本質(zhì)干擾和深遠(yuǎn)影響。

另一件讓人擔(dān)心的事，是在2018年9月新加坡政府未來戰(zhàn)略研究中心與劍橋大學(xué)合辦的人工智能未來論壇上，一位美國投資人做報(bào)告時(shí)說，她在烏鎮(zhèn)智庫的大會(huì)上與我國人工智能相關(guān)企業(yè)負(fù)責(zé)人交流時(shí)，發(fā)現(xiàn)他們幾乎沒有表現(xiàn)出對(duì)人工智能風(fēng)險(xiǎn)與倫理問題的太多實(shí)質(zhì)的考慮，這讓當(dāng)時(shí)大多數(shù)與會(huì)人員相當(dāng)吃驚。我當(dāng)即回答，中國的新一代人工智能發(fā)展不可能容忍國家的人工智能平臺(tái)對(duì)未來社會(huì)的影響不做深度戰(zhàn)略思考。這位投資人說的情況反映出來一個(gè)現(xiàn)實(shí)問題，就是我國人工智能從業(yè)人員在對(duì)人工智能潛在的社會(huì)風(fēng)險(xiǎn)與倫理問題以及對(duì)未來治理方面的考慮與國際社會(huì)是有距離的。如果未來我們?cè)谌斯ぶ悄茱L(fēng)險(xiǎn)與倫理領(lǐng)域僅僅是跟隨研究，將會(huì)非常被動(dòng)和麻煩，由此可能產(chǎn)生的對(duì)社會(huì)負(fù)面影響也將很難估量。

舉兩個(gè)例子來看從技術(shù)角度對(duì)安全、倫理問題進(jìn)行考慮的必要性?，F(xiàn)在深度學(xué)習(xí)模型在產(chǎn)業(yè)界當(dāng)中運(yùn)用得已經(jīng)非常普遍，但現(xiàn)實(shí)是，一張飛機(jī)的圖片，當(dāng)其中一個(gè)關(guān)鍵像素被改變時(shí)，深度學(xué)習(xí)模型把它識(shí)別成了狗；一張青蛙的圖片，當(dāng)其中一個(gè)關(guān)鍵像素被改變時(shí)，深度學(xué)習(xí)模型認(rèn)為這是一輛卡車……試想，當(dāng)未來大規(guī)模的視覺監(jiān)控系統(tǒng)甚至是機(jī)器警察在馬路上開展監(jiān)控任務(wù)時(shí)，發(fā)現(xiàn)一個(gè)三歲的小孩手里拿著一只烏龜，這時(shí)候有一張白紙片恰好落到合適的位置上，深度學(xué)習(xí)系統(tǒng)認(rèn)為小孩拿著的是一把槍，那時(shí)技術(shù)決策和真實(shí)場(chǎng)景之間的差異又會(huì)引起什么樣的潛在風(fēng)險(xiǎn)？這樣一個(gè)設(shè)想值得我們?nèi)ド疃人伎棘F(xiàn)有人工智能模型的安全性和透明性。

有些人認(rèn)為，有意識(shí)的人工智能是一件非常危險(xiǎn)的事情，但我的看法是：沒有一定程度自我意識(shí)的智能模型才是最危險(xiǎn)的。因?yàn)榫哂凶晕乙庾R(shí)的類腦模型具有自我識(shí)別的能力、擁有動(dòng)機(jī)與價(jià)值觀的能力、區(qū)分自己和他人的能力、看待他人和看待自己一樣的能力，以及與他人共情的能力。機(jī)器人如果不能識(shí)別自己、不能為他人建模，那么它為了完成任務(wù)就可以犧牲所有人類的意義，因?yàn)樗静焕斫馊祟惡退鼈冎g的關(guān)系。德國哲學(xué)家托馬斯·梅岑格（Thomas Metzinger）說，我們給機(jī)器人植入人工智能倫理只有一次機(jī)會(huì)，如果失敗了，那么人類未來就會(huì)被顛覆了。我的觀點(diǎn)是：如果采用植入的手段，則可能一次機(jī)會(huì)都沒有！因?yàn)槿斯ぶ悄艿哪Ｐ涂梢匝莼?，你可以植入，它就可以?gòu)建一個(gè)接口，使得你植入的部分被包圍，未來這個(gè)被植入的部分就不能正常工作；并且它可以自組織出一個(gè)網(wǎng)絡(luò)，在輸入和輸出的層面掩蓋一切變化，使得判斷模塊仍在繼續(xù)工作，但實(shí)際上從整體的模型角度，它已經(jīng)不再符合人類的規(guī)定了。這就是我認(rèn)為“一次機(jī)會(huì)都沒有”的原因，這也是為什么我認(rèn)為一個(gè)機(jī)器人應(yīng)該具有揣測(cè)別人的思維、認(rèn)知共情甚至情感共情的能力的原因。

每個(gè)國家、機(jī)構(gòu)、企業(yè)不同的倫理法則版本，都是在闡述我們對(duì)人工智能倫理和準(zhǔn)則的認(rèn)識(shí)。包括未來生命研究所（Future of Life Institute，F(xiàn)LI）阿西洛馬會(huì)議制訂的23條原則，看上去覆蓋得比較全面，但仍有很多重要的要素被遺漏。對(duì)未來超級(jí)智能體的規(guī)劃與風(fēng)險(xiǎn)的評(píng)價(jià)是這些法則之間區(qū)別最明顯的點(diǎn)，阿西洛馬原則的領(lǐng)先性也由此顯現(xiàn)。

與之相比，目前中國在人工智能倫理方面的研究存在如下問題：（1）缺乏相對(duì)全面和長(zhǎng)遠(yuǎn)的考量，沒有對(duì)全方位風(fēng)險(xiǎn)的預(yù)測(cè)。（2）中國準(zhǔn)則如何與國際上各版本協(xié)同。大多數(shù)其他國家在做此類研究時(shí)，參與者至少有一半是人工智能從業(yè)人員，但是我國目前絕大多數(shù)人工智能倫理與治理的研究參與者沒有人工智能的研究和行業(yè)背景。如果出現(xiàn)這樣的情形：提出的倫理準(zhǔn)則在技術(shù)上是不可行的，而倫理與治理研究人員對(duì)技術(shù)上的潛在風(fēng)險(xiǎn)又不理解，就會(huì)對(duì)未來社會(huì)形成潛在危險(xiǎn)與嚴(yán)峻的挑戰(zhàn)。

未來的人工智能發(fā)展，需要有正確的模型，以及在正確模型基礎(chǔ)之上發(fā)展起來的倫理法則。最糟糕的情形是，我們現(xiàn)在的人工智能，看似是有智能的，但其實(shí)它自己也不知道自己在做什么，以及它會(huì)帶來怎樣的風(fēng)險(xiǎn)。誠然，就像人工智能系統(tǒng)不能依賴規(guī)則系統(tǒng)去羅列所有的規(guī)則一樣，我們也不可能構(gòu)建一個(gè)極其完善、沒有任何漏洞的倫理準(zhǔn)則。我們盼望的是，未來的人工智能系統(tǒng)構(gòu)建于我們?nèi)祟惖闹悄苤?，它的機(jī)制與人類是一致的，它從演化的角度可以出現(xiàn)更多的利他行為。如果它的模型是從人類基礎(chǔ)之上發(fā)展起來的，那么它至少已經(jīng)有了很多的利他行為基礎(chǔ)及協(xié)同發(fā)展的動(dòng)機(jī)。即便也還是會(huì)出現(xiàn)一些非預(yù)期狀況，這恐怕也是發(fā)展人工智能最安全的途徑之一。