摘要： 在機(jī)器學(xué)習(xí)領(lǐng)域，除了谷歌AlphaGo的“在線學(xué)習(xí)”，還有一種效率更高并且直接在硬件端完成機(jī)器學(xué)習(xí)的方式——片上學(xué)習(xí)。
今年初谷歌AlphaGo與圍棋冠軍李世石的人機(jī)大戰(zhàn)，讓人們對(duì)人工智能的關(guān)注度提升到了前所未有的高度，正所謂“外行看熱鬧、內(nèi)行看門道”，AlphaGo獲勝的背后離不開谷歌開發(fā)的深度神經(jīng)網(wǎng)絡(luò)，而這正是人工智能機(jī)器學(xué)習(xí)當(dāng)中重要的組成部分。
AlphaGo在對(duì)戰(zhàn)時(shí)，是采用一種“在線學(xué)習(xí)”(On-Line Learning)的模式，意思就是說AlphaGo的服務(wù)器在美國中西部，通過谷歌云服務(wù)連接到韓國首爾的對(duì)局室，谷歌總部團(tuán)隊(duì)必須確保AlphaGo與谷歌的服務(wù)器連接順利。
，簡單講就是字面所傳達(dá)的意思，在芯片上進(jìn)行機(jī)器學(xué)習(xí)。
在了解“片上學(xué)習(xí)”之前，我們有必要回顧一下計(jì)算機(jī)的工作結(jié)構(gòu)。
幾十年前，美籍匈牙利科學(xué)家馮·諾依曼曾提出了以自己名字命名的“馮·諾依曼體系”，這種體系結(jié)構(gòu)下，計(jì)算機(jī)的指令和數(shù)據(jù)采用0和1的二進(jìn)制，處理任務(wù)按照固定程序順序進(jìn)行，也就是所謂的“串聯(lián)”。
而人腦處理事情為“并聯(lián)”模式，人類可以同步處理看到、聽到的內(nèi)容，并且基于人類的“自我學(xué)習(xí)”能力，完成一次判斷。比如，心智正常的人，面對(duì)一本雜志與一份報(bào)紙，可以在一瞬間分辨出來，這是人類大腦內(nèi)的視覺圖像信息神經(jīng)元、邏輯思維判斷神經(jīng)元與人類“自我學(xué)習(xí)”能力，在一瞬間里“并行”作業(yè)的結(jié)果。
“馮·諾依曼體系”沿用了半個(gè)世紀(jì)，但在接下來的人工智能時(shí)代，計(jì)算機(jī)需要盡可能地模擬人類大腦神經(jīng)元和突觸處理信息的方式，如視覺、聽覺，隨后，接受到的信息、圖片和聲音又能改變神經(jīng)元之間的聯(lián)系，這整個(gè)過程就是機(jī)器學(xué)習(xí)的過程。
機(jī)器學(xué)習(xí)的過程只有通過神經(jīng)網(wǎng)絡(luò)的計(jì)算才能實(shí)現(xiàn)，為了處理神經(jīng)網(wǎng)絡(luò)所帶來的指數(shù)級(jí)數(shù)據(jù)增長，人們開始研發(fā)專門的芯片，才有了后來的“片上學(xué)習(xí)”。
“片上學(xué)習(xí)”的進(jìn)化歷程
從全球范圍內(nèi)來看，已有多家公司致力于“在線學(xué)習(xí)”的算法研究，在視覺、聲音、大數(shù)據(jù)等領(lǐng)域人工智能均有一些落地的案例，相比之下“片上學(xué)習(xí)”在嚴(yán)苛的硬件環(huán)境中依舊研究進(jìn)展緩慢。
比如IBM的TrueNorth項(xiàng)目，這個(gè)以神經(jīng)形態(tài)工程學(xué)設(shè)計(jì)的CMOS芯片，包含了4096個(gè)硬件核心，每個(gè)核心包含256個(gè)可編程的神經(jīng)元芯片，擁有超過100萬的神經(jīng)元。
在鈦媒體創(chuàng)新產(chǎn)品平臺(tái)“我造社區(qū)”當(dāng)中，有一家名為“西井科技”的神經(jīng)形態(tài)實(shí)驗(yàn)室同樣致力于此。今年5月份，這家公司宣布研發(fā)出了全球首塊5000萬“神經(jīng)元”類腦芯片——Westwell Brain，可模擬出5000萬級(jí)別的“神經(jīng)元”，總計(jì)有50多億“神經(jīng)突觸”。
作為對(duì)比，人類大腦的神經(jīng)元大約800億--1000億個(gè)，有5000萬個(gè)神經(jīng)元的電腦雖然不能與人類大腦相提并論，但它已經(jīng)可以實(shí)現(xiàn)一些淺層的“片上學(xué)習(xí)”了，比如分辨畫作流派這種事情。
2014年，加州理工大學(xué)Sergey Karayev 等人收集了Wiki-paintings畫作，以此來檢驗(yàn)機(jī)器學(xué)習(xí)的成果。Westwell Brain“片上學(xué)習(xí)”Wiki系統(tǒng)的測(cè)試成績?yōu)?秒自動(dòng)完成1000多張圖片的分類，正確率接近100%。
打個(gè)比方，“片上學(xué)習(xí)”Wiki系統(tǒng)就好像學(xué)生身邊時(shí)刻跟隨著一位“私教”，直接在芯片上邊學(xué)習(xí)邊測(cè)試訓(xùn)練成果，最大的優(yōu)勢(shì)是實(shí)現(xiàn)“無網(wǎng)絡(luò)”情況下的“自我學(xué)習(xí)、自我實(shí)時(shí)提高”。
而“在線學(xué)習(xí)”則好比學(xué)生定期去“學(xué)校”上課，回家后做作業(yè)來測(cè)試學(xué)習(xí)效果，再將優(yōu)化過的模型灌輸在硬件中，每一次新的學(xué)習(xí)都需通過網(wǎng)絡(luò)、云端等手段重新進(jìn)行傳輸、遷移。
因?yàn)椤捌蠈W(xué)習(xí)”可以實(shí)現(xiàn)本地化學(xué)習(xí)，從而幫助機(jī)器大幅度提升效率，提高運(yùn)算速度。在網(wǎng)絡(luò)環(huán)境相對(duì)嚴(yán)苛或有限的情況下，“片上學(xué)習(xí)”的芯片消耗的帶寬和流量更少，大幅降低云端服務(wù)器的通訊成本，且耗時(shí)更少。
從技術(shù)角度來看，“片上學(xué)習(xí)”的芯片的確有很多優(yōu)勢(shì)，它可以直接在硬件上完成學(xué)習(xí)與測(cè)試，進(jìn)而讓基礎(chǔ)算法的研發(fā)迭代，產(chǎn)品的升級(jí)有著更短的周期和更高的效率，并且消耗更少的能源。
但另一方面，“片上學(xué)習(xí)”還沒有特定的標(biāo)準(zhǔn)，據(jù)西井科技相關(guān)負(fù)責(zé)人介紹，全球從事此領(lǐng)域研究的公司僅在個(gè)位數(shù)，相關(guān)從業(yè)人員也極為緊缺，如何使用“片上學(xué)習(xí)”芯片的技術(shù)進(jìn)行具體場(chǎng)景的商業(yè)化落地還存在很大挑戰(zhàn)。
真極客有鈦度，大開腦洞黑科技
更多精彩關(guān)注微信號(hào)：鈦極客（TiGeek）
(原標(biāo)題：類似谷歌AlphaGo的深度神經(jīng)網(wǎng)絡(luò)，未來可能通過“片上學(xué)習(xí)”實(shí)現(xiàn))
聯(lián)系客服
