編者按：作為一個(gè)快速成長(zhǎng)的AI初創(chuàng)企業(yè)，竹間智能很欣喜地看到，正有越來越多的普通人關(guān)注人工智能領(lǐng)域。但不可否認(rèn)，無論是AI創(chuàng)業(yè)還是對(duì)深度學(xué)習(xí)的研究，已經(jīng)產(chǎn)生了一些泡沫。為此我們邀請(qǐng)了竹間智能深度學(xué)習(xí)科學(xué)家趙寧遠(yuǎn)，來為大家講述一下，一個(gè)合格的深度學(xué)習(xí)工程師應(yīng)該具有的素質(zhì)與能力。希望對(duì)有意加入這一領(lǐng)域的年輕人有所幫助。
圖片來源于網(wǎng)絡(luò)
深度學(xué)習(xí)雖然并不是新鮮事物，尤其近幾年發(fā)展迅速，但還遠(yuǎn)稱不上是一個(gè)“成熟”領(lǐng)域。就算是“傳統(tǒng)”機(jī)器學(xué)習(xí)，其中所包含的思想和方法也千差萬別。因此，我們并不強(qiáng)求面試者必須要懂哪些tricks或者某類特定的方法。坦白說沒有面試官（在我看來，就算是Hinton本人）能對(duì)機(jī)器學(xué)習(xí)或深度學(xué)習(xí)的每個(gè)領(lǐng)域都了如指掌，所以我們會(huì)盡量避免用一些自己主觀的理解去考別人。
因此，我們的原則是希望面試者有比較好的機(jī)器學(xué)習(xí)基礎(chǔ)，比較優(yōu)秀的編程能力，以及分析和解決實(shí)際問題的能力（或者說，critical thinking）。當(dāng)然，對(duì)深度學(xué)習(xí)的理解和實(shí)際經(jīng)驗(yàn)會(huì)是一個(gè)加分項(xiàng)，但是crash course或者用于炫技的冷知識(shí)并不能取代扎實(shí)的基本功（比方說把Andrew Ng的機(jī)器學(xué)習(xí)課程吃透，將Deep Learning的一本書學(xué)好）。
經(jīng)過快兩年的發(fā)展，竹間智能已經(jīng)成長(zhǎng)為一個(gè)擁有一百多位AI工程師與研發(fā)人員的大家庭。在NLU與人類情感、情緒識(shí)別上也取得了一些突破，很多我曾經(jīng)面試過的年輕工程師已經(jīng)成為業(yè)務(wù)骨干。所以冒著聽起來過分自大的風(fēng)險(xiǎn)，想來分享一下在這方面我所關(guān)心的一些問題：
1. 在使用一種方法（無論是深度學(xué)習(xí)或是“傳統(tǒng)”方法）的時(shí)候，面試者對(duì)它的優(yōu)點(diǎn)和局限性是否都有所認(rèn)識(shí)。在面對(duì)不同的問題的時(shí)候，我們希望面試者可以通過獨(dú)立思考做出一個(gè)informed choice，而不是因?yàn)椤吧现芸戳艘黄猵aper是這樣做的”或者“BAT/FLAG就是這樣做的”。
2. 面試者是否有完整的機(jī)器學(xué)習(xí)項(xiàng)目經(jīng)驗(yàn)。這意味著從理解需求開始，到收集數(shù)據(jù)、分析數(shù)據(jù)，確定學(xué)習(xí)目標(biāo)，選擇算法、實(shí)現(xiàn)、測(cè)試并且改進(jìn)的完整流程。因?yàn)槲覀兿Ｍ嬖囌邔?duì)于機(jī)器學(xué)習(xí)在實(shí)際業(yè)務(wù)中所帶來的影響有正確的判斷能力。當(dāng)然，如果是可以通過python／或是結(jié)合Java/Scala來完成所有這些事情就更好啦。
3. 面試者是否具備基本的概率／統(tǒng)計(jì)／線性代數(shù)的知識(shí)——數(shù)學(xué)期望，CLT，Markov Chain，normal/student’s t distribution（只是一些例子），或是PCA/SVD這些很基礎(chǔ)的東西。另外（最理想的），希望面試者對(duì)于高維空間的一些特性有直覺上的認(rèn)識(shí)。這部分并不是強(qiáng)行要求背公式，只要有理解就可以。畢竟這不是在面試數(shù)學(xué)系的教職——我們只是希望面試者可以較好地理解論文中的算法，并且正確地實(shí)現(xiàn)，最好可以做出改進(jìn)；另外，在深度學(xué)習(xí)的調(diào)參過程中，比較好的數(shù)學(xué)sense會(huì)有助于理解不同的超參數(shù)對(duì)于結(jié)果的影響。
4. 面試者是否有比較好的編程能力，代碼習(xí)慣和對(duì)計(jì)算效率的分析能力（這個(gè)一般會(huì)按照最基本的算法工程師的要求來看，從略）
5. 面試者在機(jī)器學(xué)習(xí)方面，對(duì)基本的概念是否有所了解（譬如說，線性回歸對(duì)于數(shù)據(jù)的假設(shè)是怎樣的），以及對(duì)于常見的問題有一定的診斷能力（如果訓(xùn)練集的正確率一直上不去，可能會(huì)出現(xiàn)哪些問題——在這里，我們希望面試者能夠就實(shí)際情況，做一些合理的假設(shè)，然后將主要的思考邏輯描述清楚）。我們會(huì)根據(jù)面試者所掌握的方法再比較深入地問一些問題，而且我們希望面試者不僅僅是背了一些公式或算法，或是在博客或知乎上看到了一些名詞（比如VC維度，KKT條件，KL divergence），實(shí)際上卻不理解背后的理論基礎(chǔ)（有時(shí)候這些問題確實(shí)很難，但“知道自己不知道”和“不知道自己不知道”是差別很大的）。打個(gè)比方，如果面試者提到核技巧，那么給到一個(gè)實(shí)際的線性不可分的數(shù)據(jù)（譬如XOR，或者Swiss Roll），面試者能清楚地設(shè)計(jì)，并通過實(shí)際計(jì)算證明某個(gè)kernel可以將此數(shù)據(jù)轉(zhuǎn)化到一個(gè)高維并線性可分的空間嗎？
6. 在深度學(xué)習(xí)方面，我們希望面試者具備神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)知識(shí)（BP），以及常見的目標(biāo)函數(shù)，激活函數(shù)和優(yōu)化算法。在此基礎(chǔ)上，對(duì)于常見的CNN/RNN網(wǎng)絡(luò)，我們當(dāng)然希望面試者能夠理解它們各自的參數(shù)代表什么，比較好的初始參數(shù)，BP的計(jì)算，以及常見超參數(shù)的調(diào)整策略——這些相信Ian Goodfellow的Deep Learning一書都有非常好的介紹——我們也希望面試者能夠在具體領(lǐng)域有利用流行框架（可能是tensorflow——但是這并不是必須的）搭建實(shí)際應(yīng)用的經(jīng)驗(yàn)。當(dāng)然，我們希望面試者讀過本領(lǐng)域的paper，并且手動(dòng)驗(yàn)證過他們的想法，并且可以對(duì)他們方法的優(yōu)缺點(diǎn)進(jìn)行分析。當(dāng)然，如果面試者有更多興趣，我們可以探討更深入的一些問題，比如如何避免陷入鞍點(diǎn)，比如通過引入隨機(jī)噪音來避免過擬合，比如CNN的參數(shù)壓縮，比如RNN對(duì)于動(dòng)力系統(tǒng)的建模，比如基于信息理論的模型解釋，等等等等，在這些方面，我們是抱著與面試者互相切磋的心態(tài)的。
7. 通常上面我們說的都是監(jiān)督學(xué)習(xí)，往往結(jié)果是回歸或分類。當(dāng)然，也許面試者還精通RL／transfer learning／unsupervised learning這些內(nèi)容，那么我們可以逐一討論。
此外，如果面試者應(yīng)聘的是某一個(gè)特定領(lǐng)域的職位，那么當(dāng)然地，我們會(huì)希望他同時(shí)具備很強(qiáng)的領(lǐng)域知識(shí)，這里就不展開說明了。
在很短的時(shí)間內(nèi)想要全面地了解一個(gè)人確實(shí)非常困難。調(diào)查顯示，往往面試官自以為很準(zhǔn)的“感覺”，其實(shí)是一個(gè)糟糕的performance predictor。我希望可以結(jié)合相對(duì)客觀的基礎(chǔ)問題，以及面試者自身的特長(zhǎng)，來對(duì)面試者的理論和實(shí)戰(zhàn)能力做一個(gè)判斷?；A(chǔ)扎實(shí)，有實(shí)戰(zhàn)經(jīng)驗(yàn)并且有一技之長(zhǎng)的面試者通常會(huì)是非常理想的候選人。
最后的一點(diǎn)小tip，我真誠地希望面試者對(duì)問題有自己的思考和理解、有自己的體系，argument都是能夠自洽的。堅(jiān)持自己的觀點(diǎn)并與面試官爭(zhēng)論，遠(yuǎn)遠(yuǎn)好過為了面試而去背誦所謂的標(biāo)準(zhǔn)答案。
歡迎批評(píng)指正。
聯(lián)系客服
