點(diǎn)擊關(guān)注 InfoQ，置頂公眾號
接收程序員的 8 點(diǎn)技術(shù)早餐
作者｜王天一
出處｜極客時間專欄《人工智能基礎(chǔ)課》
作者簡介
王天一，北京郵電大學(xué)工學(xué)博士，貴州大學(xué)大數(shù)據(jù)與信息工程學(xué)院副教授，貴州省 3D 數(shù)字醫(yī)療學(xué)會會員。在讀期間主要研究方向?yàn)檫B續(xù)變量量子通信理論與系統(tǒng)，主持并參與多項(xiàng)國家級 / 省部級科研項(xiàng)目，以第一作者身份發(fā)表 SCI 論文 5 篇。
目前主要研究方向?yàn)榇髷?shù)據(jù)與人工智能，研究內(nèi)容包括以物聯(lián)網(wǎng)為基礎(chǔ)的大數(shù)據(jù)應(yīng)用及神經(jīng)網(wǎng)絡(luò)與機(jī)器學(xué)習(xí)。除技術(shù)領(lǐng)域外，對人工智能的發(fā)展方向與未來趨勢亦有深入思考，著有《人工智能革命》一書。
深度學(xué)習(xí)篇
由于深度學(xué)習(xí)是近五年才流行起來的概念，參考資料因而屈指可數(shù)。要推薦深度學(xué)習(xí)的參考書，就不得不提炙手可熱的 Deep Learning，中譯本名為《深度學(xué)習(xí)》。這本由 Ian Goodfellow、Yoshua Bengio 和 Aaron Courville 合著的大部頭是迄今為止唯一一部關(guān)于深度學(xué)習(xí)的專著，號稱“深度學(xué)習(xí)圣經(jīng)”。幾位作者都是人工智能領(lǐng)域響當(dāng)當(dāng)?shù)娜宋?，這讓本書的質(zhì)量得以保證。內(nèi)容上，本書既覆蓋了深度學(xué)習(xí)中的共性問題，也介紹了常見的技術(shù)和未來的研究方向，廣度是足夠的。
這本書的問題，我認(rèn)為在于過于瑣碎。但這并非是作者水平問題，而是因?yàn)樯疃葘W(xué)習(xí)本身還沒有形成完整的理論框架，于是閱讀本書時難免會有“天上一腳，地下一腳”的感覺，章節(jié)之間難覓較強(qiáng)的關(guān)聯(lián)性。這個角度看，這本書更像是把所有菜一股腦扔到鍋里燉出來的雜菜湯，反而缺少了調(diào)理的過程。另外，前后章節(jié)的深度跨度也比較大，閱讀體驗(yàn)就像從馬里亞納海溝一下子跳上珠穆朗瑪峰。
近期有一本新出的關(guān)于深度學(xué)習(xí)的中文書，名叫《人工智能中的深度結(jié)構(gòu)學(xué)習(xí)》。它實(shí)際上就是 Yoshua Bengio 與 2009 年發(fā)表的綜述性論文 Learning Deep Architectures for AI 的翻譯版。和前面那本大書相比，Bengio 這篇論文的架構(gòu)更加明晰，至少能把深度學(xué)習(xí)這個事兒的來龍去脈講清楚。此外，由于成文時間較早，Bengio 的論文也沒有太廣的覆蓋面，而是集中火力介紹了一些早期的基本模型。對于入門者來說，這篇論文是不錯的閱讀選擇。
另一篇值得推薦的綜述文章是微軟研究院的 Li Deng 和 Dong Yu 合撰的 Deep Learning: Methods and Applications，成文于 2014 年。正所謂文如其名，本文前幾個章節(jié)介紹深度學(xué)習(xí)的常用方法，后幾個章節(jié)介紹深度學(xué)習(xí)在語音處理、信息檢索這些領(lǐng)域中的應(yīng)用，條分縷析，娓娓道來。由于像微軟這樣的企業(yè)主要從事的是將理論落地的工作，因而本文關(guān)于應(yīng)用的論述是頗有價值的。
除了以上的著作外，著名的計算機(jī)圖書出版商 O'Reilly 也出版了一系列名字里面包含 Deep Learning 的圖書。但這些書的關(guān)注點(diǎn)都在于實(shí)際應(yīng)用，也就是深度網(wǎng)絡(luò)的實(shí)現(xiàn)，因而內(nèi)容也側(cè)重于開發(fā)平臺、開源庫以及工具集的使用這樣的內(nèi)容。可能是出于完整性的考慮，這些書中也著實(shí)花了筆墨來介紹相關(guān)原理，這就讓它們看起來不倫不類了。
人工神經(jīng)網(wǎng)絡(luò)篇
人工神經(jīng)網(wǎng)絡(luò)方向的參考書首推 Simon Haykin 所著的 Neural Networks and Learning Machines，英文版于 2008 年出到第三版，中譯本名為《神經(jīng)網(wǎng)絡(luò)與機(jī)器學(xué)習(xí)》，也有影印本。本書是“大而全”的參考手冊類型，全書以數(shù)學(xué)推導(dǎo)為主，對每種主流的神經(jīng)網(wǎng)絡(luò)算法都做了詳細(xì)說明。Simon Haykin 是通信系統(tǒng)與信號處理的專家，在這本神經(jīng)網(wǎng)絡(luò)的專著中也穿插了大量信號處理和信息論中常用的工具，散發(fā)著濃厚的數(shù)學(xué)氣息，因而適合在具有一定基礎(chǔ)的條件下閱讀。
另一本神經(jīng)網(wǎng)絡(luò)的專著是 Martin Hagan 等人合著的 Neural Network Design，英文版于 2014 年出到第二版，中譯本名為《神經(jīng)網(wǎng)絡(luò)設(shè)計》，對應(yīng)原書第一版。本書的幾位作者是 Matlab 中神經(jīng)網(wǎng)絡(luò)工具箱的開發(fā)者，因而其專業(yè)性和權(quán)威性毋庸置疑。和 Simon Haykin 的學(xué)究著作相比，本書輕推導(dǎo)而重演示，主要通過實(shí)例手把手地解釋神經(jīng)網(wǎng)絡(luò)的工作原理，對線性代數(shù)和最優(yōu)化等基本工具也有涉及。
Sandhya Samarasinghe 所著的 Neural Networks for Applied Sciences and Engineering 同樣是非常好的參考書，英文版出版于 2007 年，暫無中譯本。正如書名所示，本書是一本面向應(yīng)用場景的書籍，側(cè)重于神經(jīng)網(wǎng)絡(luò)在工程中，尤其是在基于數(shù)據(jù)進(jìn)行模式識別中的應(yīng)用。書中同樣包含豐富的實(shí)例，其中不乏取材于真實(shí)的數(shù)據(jù)分析案例，和現(xiàn)實(shí)結(jié)合得相當(dāng)緊密的實(shí)例。本書是難得的理論與實(shí)踐并重的參考書，有利于擴(kuò)展神經(jīng)網(wǎng)絡(luò)研究的視野，對初學(xué)者也非常友好。
最后一本是 Stephen Marsland 所著的 Machine Learning: An Algorithmic Perspective，英文版于 2015 年出到第二版，暫無中文版。本書的主題是機(jī)器學(xué)習(xí)，但對包括感知器、多層感知器、徑向基網(wǎng)絡(luò)和自組織映射等主流的神經(jīng)網(wǎng)絡(luò)算法都用專門的章節(jié)加以介紹。在介紹中，作者側(cè)重于對算法生理學(xué)背景的描述，以及對于算法原理的直觀解釋，這對神經(jīng)網(wǎng)絡(luò)研究的入門者無疑頗有裨益。遺憾的是，本書的行文略顯啰嗦。
PDF 鏈接
Learning Deep Architectures for AI
https://www.iro.umontreal.ca/~lisa/pointeurs/TR1312.pdf
Neural Networks and Learning Machines
https://cours.etsmtl.ca/sys843/REFS/Books/ebook_Haykin09.pdf
Neural Network Design
http://hagan.okstate.edu/NNDesign.pdf
Machine Learning: An Algorithmic Perspective
https://doc.lagout.org/science/Artificial%20Intelligence/Machine%20learning/Machine%20Learning_%20An%20Algorithmic%20Perspective%20%282nd%20ed.%29%20%5BMarsland%202014-10-08%5D.pdf
這么干的內(nèi)容，出自極客時間專欄《人工智能基礎(chǔ)課》。歡迎長按識別二維碼訂閱。
《人工智能基礎(chǔ)課》專欄目錄
點(diǎn)「閱讀原文」，免費(fèi)試讀或訂閱！
