神譯局是36氪旗下編譯團(tuán)隊(duì)，關(guān)注科技、商業(yè)、職場(chǎng)、生活等領(lǐng)域，重點(diǎn)介紹國(guó)外的新技術(shù)、新觀點(diǎn)、新風(fēng)向。

編者按：從我們把計(jì)算機(jī)叫做電腦就可以看出，我們一直都把這個(gè)東西類比為大腦。深入了解大腦的運(yùn)作機(jī)制有助于開(kāi)發(fā)出更好的計(jì)算機(jī)，而計(jì)算機(jī)反過(guò)來(lái)又可以幫助我們更好地了解自己的思想。在這方面，以色列的研究人員已經(jīng)取得了一定的進(jìn)展，他們發(fā)現(xiàn)，一個(gè)生物神經(jīng)元在計(jì)算的復(fù)雜度方面就已經(jīng)相當(dāng)于1000個(gè)節(jié)點(diǎn)規(guī)模的深度神經(jīng)網(wǎng)絡(luò)。Jason Dorrier介紹了他們的研究成果。原文發(fā)表在singularityhub上，標(biāo)題是：New Study Finds a Single Neuron Is a Surprisingly Complex Little Computer

劃重點(diǎn)：

研究發(fā)現(xiàn)，一個(gè)生物神經(jīng)元大概相當(dāng)于 1000 個(gè)人工神經(jīng)元

生物神經(jīng)元的復(fù)雜性主要在樹(shù)突的一種化學(xué)受體，拿掉之后生物神經(jīng)元就變成一個(gè)簡(jiǎn)單的設(shè)備了

這些知識(shí)或許可以幫助工程師設(shè)計(jì)出更強(qiáng)大的神經(jīng)網(wǎng)絡(luò)和人工智能

不管是神經(jīng)科學(xué)還是計(jì)算機(jī)科學(xué)，把大腦跟計(jì)算機(jī)相提并論由來(lái)已久，且備受推崇。

原因不難看出。

我們的大腦可以一種輕松、神秘的優(yōu)雅去執(zhí)行我們希望計(jì)算機(jī)處理的許多任務(wù)。因此，了解我們大腦的內(nèi)部運(yùn)作機(jī)制可以幫助我們開(kāi)發(fā)出更好的計(jì)算機(jī)；而這些計(jì)算機(jī)則可以幫助我們更好地了解自己的思想。此外，如果大腦跟計(jì)算機(jī)很像的話，知道它們完成特定工作需要多少計(jì)算就可以幫助我們預(yù)測(cè)機(jī)器什么時(shí)候能夠趕上人腦。

事實(shí)上，各個(gè)領(lǐng)域之間已經(jīng)進(jìn)行了富有成效的知識(shí)交流。

比方說(shuō)，深度學(xué)習(xí)就是一種十分強(qiáng)大的人工智能形式，較為寬松地模擬了大腦的那個(gè)龐大的分層神經(jīng)元網(wǎng)絡(luò)。

你可以把深度神經(jīng)網(wǎng)絡(luò)里面的每個(gè)“節(jié)點(diǎn)”都看作是人工的神經(jīng)元。就像神經(jīng)元一樣，這些節(jié)點(diǎn)從跟自己連接的其他節(jié)點(diǎn)那里接收信號(hào)，并執(zhí)行數(shù)學(xué)運(yùn)算，將輸入轉(zhuǎn)換為輸出。

根據(jù)所接收到的信號(hào)情況，一個(gè)節(jié)點(diǎn)可以選擇向所在網(wǎng)絡(luò)的所有節(jié)點(diǎn)發(fā)送自己的信號(hào)。通過(guò)這種方式，信號(hào)通過(guò)節(jié)點(diǎn)層層傳遞，逐步進(jìn)行調(diào)整并對(duì)算法進(jìn)行銳化。

大腦的機(jī)制跟這個(gè)類似。但是前面的關(guān)鍵詞是寬松。

科學(xué)家們知道，生物神經(jīng)元要比深度學(xué)習(xí)算法里面用到的人工神經(jīng)元更加復(fù)雜，但究竟復(fù)雜到什么程度還是一個(gè)懸而未決的問(wèn)題。

不過(guò)，在最近發(fā)表在《神經(jīng)元》雜志上的一篇引人入勝的論文里，耶路撒冷希伯來(lái)大學(xué)的一群研究人員設(shè)法讓我們跟答案更接近了。雖然他們也估計(jì)到結(jié)果會(huì)表明生物的神經(jīng)元會(huì)更加復(fù)雜——但仍未能預(yù)料到會(huì)復(fù)雜得這么多。

在他們進(jìn)行研究里，研究小組發(fā)現(xiàn)需要一個(gè)五到八層的神經(jīng)網(wǎng)絡(luò)，或者接近1000 個(gè)人工神經(jīng)元的規(guī)模，才能模擬出一個(gè)大腦皮層生物神經(jīng)元的行為。

盡管研究人員警告說(shuō)，得出的研究結(jié)果是復(fù)雜性的上限——而不是精確測(cè)量——但他們也相信，這一發(fā)現(xiàn)可能有助于科學(xué)家進(jìn)一步了解究竟是什么讓生物神經(jīng)元如此復(fù)雜的。這些知識(shí)或許可以幫助工程師設(shè)計(jì)出更強(qiáng)大的神經(jīng)網(wǎng)絡(luò)和人工智能。

貝勒醫(yī)學(xué)院計(jì)算神經(jīng)科學(xué)家Andreas Tolias說(shuō)：“這一結(jié)果搭建了從生物神經(jīng)元到人工神經(jīng)元的橋梁。”

驚人的大腦

神經(jīng)元是構(gòu)成我們大腦的細(xì)胞。神經(jīng)元有很多不同的類型，但一般來(lái)說(shuō)，神經(jīng)元由三部分組成：細(xì)長(zhǎng)的分支結(jié)構(gòu)——所謂的樹(shù)突、細(xì)胞體以及根狀軸突。

在一端，樹(shù)突通過(guò)所謂的突觸整合各接合點(diǎn)連接其他的神經(jīng)元網(wǎng)絡(luò)。在另一端，軸突跟不同的神經(jīng)元群形成了突觸。每個(gè)細(xì)胞都通過(guò)樹(shù)突接收電化學(xué)信號(hào)，對(duì)這些信號(hào)進(jìn)行過(guò)濾，然后有選擇地傳送自己的信號(hào)（或鋒電位）。

為了從計(jì)算上對(duì)生物神經(jīng)元與人工神經(jīng)元進(jìn)行比較，這支團(tuán)隊(duì)提出了一個(gè)問(wèn)題：模擬一個(gè)生物神經(jīng)元的行為需要多大規(guī)模的人工神經(jīng)網(wǎng)絡(luò)？

為了回答這個(gè)問(wèn)題，他們首先建立了一個(gè)生物神經(jīng)元模型（這次研究模擬的是來(lái)自老鼠皮層的錐體神經(jīng)元）。這個(gè)模型利用了大約 10000 個(gè)微分方程來(lái)模擬神經(jīng)元，模擬它們是怎么以及什么時(shí)候把一系列的輸入信號(hào)轉(zhuǎn)換成它自己的鋒電位的。

然后，他們把輸入輸送給模擬神經(jīng)元，再記錄輸出，接著用所有這些數(shù)據(jù)來(lái)訓(xùn)練深度學(xué)習(xí)算法。他們的目標(biāo)是什么？找出可以最準(zhǔn)確地逼近這個(gè)模型的算法。

他們不斷增加算法的層數(shù)，直到在給定一組輸入的情況下預(yù)測(cè)模擬神經(jīng)元的輸出時(shí)準(zhǔn)確率達(dá)到 99%。模擬的甜點(diǎn)是至少五層但不超過(guò)八層，或者可以這么說(shuō)，一個(gè)生物神經(jīng)元大概相當(dāng)于 1000 個(gè)人工神經(jīng)元。深度學(xué)習(xí)算法要比原始模型簡(jiǎn)單得多——但仍然相當(dāng)復(fù)雜。

這種復(fù)雜性是從何而來(lái)的呢？

事實(shí)證明，這主要是由于樹(shù)突里面的一種化學(xué)受體——NMDA 離子通道——以及在空間的分支。研究的主要作者大衛(wèi)·貝尼亞格夫（David Beniaguev）曾在 2019 年發(fā)推說(shuō)“拿掉其中一個(gè)，神經(jīng)元就會(huì)變成一個(gè)很簡(jiǎn)單的設(shè)備。”

事實(shí)上，在去除這些特征后，這支團(tuán)隊(duì)發(fā)現(xiàn)自己就可以把簡(jiǎn)化的生物模型跟單層深度學(xué)習(xí)算法進(jìn)行匹配了。

基準(zhǔn)不是固定不變的

大家很容易會(huì)將該團(tuán)隊(duì)的結(jié)果進(jìn)行外推，從而測(cè)算整個(gè)大腦的計(jì)算復(fù)雜性。但我們離實(shí)現(xiàn)這一步還差得很遠(yuǎn)。

一方面，這支團(tuán)隊(duì)有可能并沒(méi)有找到最有效的算法。

對(duì)于在一個(gè)先進(jìn)的深度學(xué)習(xí)算法基礎(chǔ)上進(jìn)行快速改進(jìn)的開(kāi)發(fā)者社區(qū)來(lái)說(shuō)，這種情況很常見(jiàn)。鑒于研究過(guò)程中進(jìn)行的密集迭代，該團(tuán)隊(duì)對(duì)結(jié)果充滿信心，不過(guò)他們也向科學(xué)界公布了自己的模型、數(shù)據(jù)和算法，看看是不是有人還可以做得更好。

此外，建模的神經(jīng)元來(lái)自老鼠的大腦，而不是人類的大腦，它只是其中的一種腦細(xì)胞。還有，這項(xiàng)研究其實(shí)是模型跟模型之間的比較——到目前為止，還沒(méi)有辦法跟大腦實(shí)際的神經(jīng)元進(jìn)行直接比較。真正的神經(jīng)元更復(fù)雜而不是更簡(jiǎn)單是完全有可能的。

盡管如此，該團(tuán)隊(duì)相信自己的工作可以推動(dòng)神經(jīng)科學(xué)和人工智能向前發(fā)展。

在前一種情況下，該研究進(jìn)一步證明樹(shù)突是復(fù)雜生物，值得多加關(guān)注。而對(duì)于人工智能來(lái)說(shuō)，這可能會(huì)帶來(lái)全新的算法架構(gòu)。

論文的合著者Idan Segev建議，工程師應(yīng)該嘗試用模擬生物神經(jīng)元的這個(gè)迷你的五層網(wǎng)絡(luò)來(lái)替代當(dāng)今算法所采用的簡(jiǎn)單人工神經(jīng)元。Segev說(shuō)：“我們呼吁替換深度網(wǎng)絡(luò)技術(shù)，通過(guò)用一個(gè)表示神經(jīng)元的單元（本身就已經(jīng)夠深的了）替換當(dāng)今深度網(wǎng)絡(luò)所用的每一個(gè)簡(jiǎn)單的單元，這樣能夠更接近大腦的工作方式?！?。

增加那么多的復(fù)雜性能不能帶來(lái)回報(bào)尚不確定。算法究竟需要捕捉多少大腦的細(xì)節(jié)才能獲得相似或更好的結(jié)果呢？這個(gè)問(wèn)題專家也有爭(zhēng)議。

但你很難對(duì)已經(jīng)歷了數(shù)百萬(wàn)年的進(jìn)化實(shí)驗(yàn)提出質(zhì)疑。到目前為止，遵循大腦的藍(lán)圖這種做法是有回報(bào)的。如果說(shuō)這項(xiàng)工作是一個(gè)指征的話，未來(lái)的神經(jīng)網(wǎng)絡(luò)在規(guī)模和復(fù)雜性上可能都會(huì)令當(dāng)今的神經(jīng)網(wǎng)絡(luò)相形見(jiàn)絀。

譯者：boxi。

本文來(lái)自翻譯, 如若轉(zhuǎn)載請(qǐng)注明出處。