機(jī)器學(xué)習(xí)

列一下考察的知識點(diǎn)，并附上相關(guān)的優(yōu)質(zhì)知乎討論。

邏輯回歸，SVM，決策樹

邏輯回歸和SVM的區(qū)別是什么？各適用于解決什么問題？

Linear SVM 和 LR 有什么異同？

SVM（支持向量機(jī)）屬于神經(jīng)網(wǎng)絡(luò)范疇嗎？

如何理解決策樹的損失函數(shù)?

各種機(jī)器學(xué)習(xí)的應(yīng)用場景分別是什么？例如，k近鄰,貝葉斯，決策樹，svm，邏輯斯蒂回歸和最大熵模型。

主成分分析，奇異值分解

SVD 降維體現(xiàn)在什么地方？

為什么PCA不被推薦用來避免過擬合？

隨機(jī)森林，GBDT, 集成學(xué)習(xí)

為什么說bagging是減少variance，而boosting是減少bias?

基于樹的adaboost和Gradient Tree Boosting區(qū)別？

機(jī)器學(xué)習(xí)算法中GBDT和XGBOOST的區(qū)別有哪些？

為什么在實(shí)際的 kaggle 比賽中 gbdt 和 random forest 效果非常好？

過擬合

機(jī)器學(xué)習(xí)中用來防止過擬合的方法有哪些？

機(jī)器學(xué)習(xí)中使用「正則化來防止過擬合」到底是一個什么原理？為什么正則化項(xiàng)就可以防止過擬合？

深度學(xué)習(xí)

列一下大概的考察點(diǎn)和相關(guān)的知乎討論。

卷積神經(jīng)網(wǎng)絡(luò)，循環(huán)神經(jīng)網(wǎng)絡(luò)，LSTM與GRU，梯度消失與梯度爆炸，激活函數(shù)，防止過擬合的方法，dropout，batch normalization，各類經(jīng)典的網(wǎng)絡(luò)結(jié)構(gòu)，各類優(yōu)化方法

卷積神經(jīng)網(wǎng)絡(luò)工作原理直觀的解釋？

卷積神經(jīng)網(wǎng)絡(luò)的復(fù)雜度分析

CNN(卷積神經(jīng)網(wǎng)絡(luò))、RNN(循環(huán)神經(jīng)網(wǎng)絡(luò))、DNN(深度神經(jīng)網(wǎng)絡(luò))的內(nèi)部網(wǎng)絡(luò)結(jié)構(gòu)有什么區(qū)別？

bp算法中為什么會產(chǎn)生梯度消失？

梯度下降法是萬能的模型訓(xùn)練算法嗎？

LSTM如何來避免梯度彌散和梯度爆炸？

sgd有多種改進(jìn)的形式(rmsprop,adadelta等),為什么大多數(shù)論文中仍然用sgd?

你有哪些deep learning（rnn、cnn）調(diào)參的經(jīng)驗(yàn)？

Adam那么棒，為什么還對SGD念念不忘 (1)

Adam那么棒，為什么還對SGD念念不忘 (2)

全連接層的作用是什么？

深度學(xué)習(xí)中 Batch Normalization為什么效果好？

為什么現(xiàn)在的CNN模型都是在GoogleNet、VGGNet或者AlexNet上調(diào)整的？

Krizhevsky等人是怎么想到在CNN里用Dropout和ReLu的?

11.C++11的特性是否了解，使用auto方便在哪，請舉一個例子
（5）程序設(shè)計(jì)競賽的獲獎（例如OI/ACM/topcoder之類的）

1.基礎(chǔ)機(jī)器學(xué)習(xí)算法，看本經(jīng)典機(jī)器學(xué)習(xí)書，掌握基本的機(jī)器學(xué)習(xí)算法。不需要都學(xué)會，但是決策樹、樸素貝葉斯、邏輯回歸、knn、svm、kmeans、bp神經(jīng)網(wǎng)絡(luò)這幾個應(yīng)該是要認(rèn)真看。推導(dǎo)下算法公式，結(jié)合代碼掌握其原理。在網(wǎng)上或者機(jī)器學(xué)習(xí)實(shí)戰(zhàn)里都有例子，結(jié)合跑一下程序。各個算法的適用情況優(yōu)缺點(diǎn)，原理實(shí)現(xiàn)過程都要概述出來。最后把相關(guān)算法寫在簡歷里，所寫的一定是會的。2.深度學(xué)習(xí)方面。我找工作時候只會cnn。結(jié)合cnn來說，學(xué)習(xí)下幾個典型分類模型，自己搭深度學(xué)習(xí)平臺。然后跑幾個例子，從制作數(shù)據(jù)集到訓(xùn)練優(yōu)化測試走個流程。網(wǎng)絡(luò)模型中用到的點(diǎn)一個一個查，都要理解。結(jié)合研究領(lǐng)域找?guī)灼撐目纯?，結(jié)合別人的思路，看能不能做點(diǎn)什么。相關(guān)項(xiàng)目在網(wǎng)上，在實(shí)習(xí)，在比賽中都能找到，一定要自己做一下。最后把成果寫在簡歷里。3.如果非計(jì)算機(jī)專業(yè)肯定要自學(xué)數(shù)據(jù)結(jié)構(gòu)的，我就刷了倆遍劍指offer。有時間你們別學(xué)我，多刷點(diǎn)題吧。比如我去知乎面試算法工程師，讓我寫個程序，我用的遞歸寫都忘了寫遞歸出口了，很不熟練。