來源： 矽說 | 作者：AI自動(dòng)寫作機(jī)器人
John Hennessy和David Patterson在計(jì)算機(jī)架構(gòu)領(lǐng)域可謂是無人不知無人不曉，他們的成就包括MIPS，RISC，RAID，以及兩人合著的經(jīng)典教科書《計(jì)算機(jī)體系結(jié)構(gòu)：量化研究方法》。今天Google的母公司Alphabet宣布John Hennessy將接替Eric Schimdt就任董事長(zhǎng)。而在這之前，David Patterson就已經(jīng)開始在Google擔(dān)任杰出工程師，主要從事硬件架構(gòu)方面的研究工作，Google的TPU 2就有Patterson的貢獻(xiàn)。
John Hennessy（上）與David Patterson（下）可謂是計(jì)算機(jī)體系架構(gòu)領(lǐng)域的傳奇人物，RISC，MIPS，RAID等多項(xiàng)重大成就
看到經(jīng)典教科書《計(jì)算機(jī)體系結(jié)構(gòu)：量化研究方法》的兩位傳奇作者多年后在Google再次雙劍合璧，大家一定都會(huì)期待接下來會(huì)發(fā)生什么。事實(shí)上，Alphabet選擇Hennessy做董事會(huì)執(zhí)行主席，看中的估計(jì)主要是其豐富的管理經(jīng)驗(yàn)（其擔(dān)任斯坦福大學(xué)校長(zhǎng)的經(jīng)歷就是一個(gè)很好的例子）；但是Hennessy的技術(shù)背景一定會(huì)對(duì)Alphabet以及Google未來的方向帶來一些自己的印記。
Google歸根到底是一家計(jì)算機(jī)科學(xué)公司
目前雖然Google在人們的眼中是一家互聯(lián)網(wǎng)公司，而其CEO Pichai則宣布Google是一家AI公司。然而，Google的底色其實(shí)是計(jì)算機(jī)科學(xué)，多年來一直沒有變過。
什么是計(jì)算機(jī)科學(xué)（computer science）？大多數(shù)人說起CS，第一個(gè)想起的就是寫代碼，刷題，等等。事實(shí)上，計(jì)算機(jī)科學(xué)=軟件+硬件，兩者缺一不可。Google的代碼和算法確實(shí)全球第一，但是它從來也不缺乏硬件色彩。最早Google剛創(chuàng)業(yè)時(shí)，面臨搜索請(qǐng)求量過大而服務(wù)器數(shù)量不夠的問題。當(dāng)時(shí)，互聯(lián)網(wǎng)傳統(tǒng)的做法是使用商用服務(wù)器，這種服務(wù)器無論是購(gòu)買還是維護(hù)成本都非常高，以當(dāng)時(shí)Google的財(cái)力無法大規(guī)模部署商用服務(wù)器來解決計(jì)算能力問題。這是，Google天不怕地不怕的工程師選擇了使用低成本的計(jì)算機(jī)配合合理的運(yùn)行管理去做服務(wù)器，而最后事實(shí)證明這些低成本計(jì)算機(jī)工作地相當(dāng)好！于是，就在Yahoo等傳統(tǒng)搜索引擎還在慢慢行動(dòng)時(shí)，Google靠硬件上的創(chuàng)新以很低的成本解決了搜索引擎算力問題，在提升用戶體驗(yàn)的同時(shí)快速搶占了市場(chǎng)。在這之后，Google的MapReduce算法名揚(yáng)天下，一舉解決了大規(guī)模計(jì)算可擴(kuò)展性的問題。MapReduce解決的是如何在大規(guī)模硬件上高效率地執(zhí)行計(jì)算，是算法和硬件的完美結(jié)合——在這里，硬件和軟件都是系統(tǒng)不可或缺的一部分，都得到同樣的重視。正因?yàn)槿绱?，?shù)據(jù)庫(kù)算法的教材會(huì)教授MapReduce，而計(jì)算機(jī)體系結(jié)構(gòu)的教材也會(huì)講MapReduce。
可以說，Google是真正得到了計(jì)算機(jī)科學(xué)精髓的公司，知道硬件和軟件都是計(jì)算機(jī)不可或缺的部分，也不可偏廢。所以，Google會(huì)選擇去自己開發(fā)芯片來滿足自己的計(jì)算需求（如TPU），而不是像其他互聯(lián)網(wǎng)公司那樣把自己限定在軟件層。
摩爾定律成明日黃花，異構(gòu)計(jì)算正在興起
現(xiàn)在其實(shí)是計(jì)算機(jī)科學(xué)領(lǐng)域非常重要的轉(zhuǎn)折時(shí)期。為什么這么說？因?yàn)樵谶@之前的1980～2010年，摩爾定律仍然處于其全盛時(shí)期，“18個(gè)月處理器性能翻番”的范式統(tǒng)領(lǐng)著計(jì)算機(jī)科學(xué)界。正因?yàn)镃PU如此強(qiáng)勢(shì)，因此在那個(gè)時(shí)候，軟件更關(guān)注如何在通用處理器上完成運(yùn)算，編程中硬件被抽象到根本看不到。
然而，到了今天，摩爾定律遇到了技術(shù)和經(jīng)濟(jì)上的雙重瓶頸，處理器性能的增長(zhǎng)速度越來越慢，然而社會(huì)對(duì)于計(jì)算能力的需求增速卻并未減緩，甚至在移動(dòng)應(yīng)用、大數(shù)據(jù)、人工智能等新的應(yīng)用興起后，對(duì)于計(jì)算能力、計(jì)算功耗和計(jì)算成本等提出了新的要求。傳統(tǒng)的完全依賴CPU的計(jì)算機(jī)已經(jīng)無法滿足現(xiàn)有的需求，因此異構(gòu)計(jì)算（heterogeneous computing）則又回到了人們的視線中。與完全依賴于通用CPU及其編程模型的傳統(tǒng)軟件編寫模式不同，異構(gòu)計(jì)算的整個(gè)系統(tǒng)包含了多種基于特定領(lǐng)域架構(gòu)（domain-specific architecture, DSA）設(shè)計(jì)的處理單元。每一個(gè)DSA處理單元都有負(fù)責(zé)的獨(dú)特領(lǐng)域并針對(duì)該領(lǐng)域做優(yōu)化，當(dāng)計(jì)算機(jī)系統(tǒng)遇到相關(guān)計(jì)算時(shí)便由相應(yīng)的DSA處理器去負(fù)責(zé)。相比CPU必須覆蓋所有的計(jì)算類型，由于DSA處理單元只需負(fù)責(zé)少數(shù)幾個(gè)領(lǐng)域的計(jì)算，因此可以把優(yōu)化做到極致，同時(shí)計(jì)算效率也遠(yuǎn)高于傳統(tǒng)CPU。目前非常流行的AI芯片就是DSA處理單元的一個(gè)例子，相比于傳統(tǒng)的CPU可以實(shí)現(xiàn)百倍以上的計(jì)算能力提升以及萬倍以上的能效比提升，可見DSA處理單元的優(yōu)勢(shì)?？梢哉f在CPU的潛力挖掘見底的今天，異構(gòu)計(jì)算將會(huì)成為下一代計(jì)算力提升的新范式。
Google的新計(jì)算機(jī)科學(xué)
Google一直是異構(gòu)計(jì)算的踐行者，TPU就是異構(gòu)計(jì)算在人工智能應(yīng)用的一個(gè)很好例子。而Hennessy和Patterson也是異構(gòu)計(jì)算的忠實(shí)擁護(hù)者和布道人。在Hennessy和Patterson去年春天斯坦福大學(xué)的演講中，他們明確表達(dá)了異構(gòu)計(jì)算將會(huì)是下一代計(jì)算范式的觀點(diǎn)（詳見RISC-V與DSA！ 計(jì)算機(jī)架構(gòu)宗師Patterson與Hennessy 演講實(shí)錄）。因此，在他們兩位宗師會(huì)師Google之后，我們可以預(yù)期Google會(huì)在異構(gòu)計(jì)算上有更多的投入以及相關(guān)技術(shù)誕生。
Hennessy和Patterson在去年斯坦福的演講中反復(fù)強(qiáng)調(diào)DSA和異構(gòu)計(jì)算的概念
根據(jù)以上思路，我們也可以做出一些其他有趣的推理。首先，我們預(yù)計(jì)未來Google會(huì)推出更多有特色的硬件，而且Google將會(huì)在底層芯片上也有更多自己的設(shè)計(jì)，就象我們?cè)赑ixel2手機(jī)里看到的IPU（詳見）。而AI更是一個(gè)非常適合異構(gòu)計(jì)算發(fā)揮的場(chǎng)景——一方面，基于深度學(xué)習(xí)的AI對(duì)于計(jì)算能力要求很高，因此需要異構(gòu)計(jì)算才能達(dá)到算力需求；另一方面，為了把AI普及到生活的各個(gè)角落，還必須有能夠高效率計(jì)算AI算法的邊緣計(jì)算芯片和硬件。AI+異構(gòu)計(jì)算將會(huì)成為Google未來的主題。其次，異構(gòu)計(jì)算中每一個(gè)DSA處理單元的編程模型都會(huì)有所不同，這也對(duì)程序員的能力提出了新的要求。一個(gè)典型的例子是今天常見的Nvidia GPU使用的CUDA，想要完全釋放出GPU的計(jì)算能力，在編程時(shí)必須熟悉其硬件編程模型。在異構(gòu)計(jì)算時(shí)代的程序員必須對(duì)于算法和硬件模型融會(huì)貫通，才能寫出高質(zhì)量的代碼。因此，未來程序員還必須要懂硬件！Hennessy和Patterson去年春天斯坦福大學(xué)的演講中也提到過，未來編程工作會(huì)比現(xiàn)在更復(fù)雜，因?yàn)橐紤]硬件才能實(shí)現(xiàn)高效代碼。正如Hennesy所說，“The easy ride of software is over”。
聯(lián)系客服
