介紹

這本書介紹了如何使監(jiān)督學(xué)習(xí)模型變得可解釋。這一章節(jié)中包含了一些數(shù)學(xué)公式，但是你需要理解這些方法背后的想法即使沒有這些公式。這本書不適合試圖從頭開始學(xué)習(xí)機(jī)器學(xué)習(xí)的人。如果你是從頭開始學(xué)習(xí)機(jī)器學(xué)習(xí)，這里有很多書和其他資源來學(xué)習(xí)這些基礎(chǔ)。我推薦The Elements of Statistical Learning” by Hastie, Tibshirani, and Friedman (2009) ? and Andrew Ng’s “Machine Learning” online course? on the online learning platform coursera.com to start with machine learning. 這本書和這個課程均可以被免費(fèi)使用。
新的解釋型機(jī)器學(xué)習(xí)方法正在以極快的速度發(fā)布。要跟上所有出版的東西是瘋狂的也是不可能的。這也是為什么你在這本書中找不到最新奇古怪的方法但是通過這本書你卻能學(xué)習(xí)到可解釋型機(jī)器學(xué)習(xí)的既定方法和基本概念。這些基礎(chǔ)為你使機(jī)器學(xué)習(xí)變得可解釋做了準(zhǔn)備。同時內(nèi)化這些基本概念還能讓你更好的理解和內(nèi)化發(fā)表在arxiv.org上的關(guān)于可解釋型機(jī)器學(xué)習(xí)的文章。
這本書以一些反烏托邦的短篇故事開頭，這些故事無關(guān)理解這本書的內(nèi)容，但是卻能給你帶來樂趣讓你思考。接著這本書細(xì)述了可解釋型機(jī)器學(xué)習(xí)的概念。我們將討論何時可解釋性如此重要和不同類型的解釋。書中使用的術(shù)語可以在術(shù)語這一章節(jié)中進(jìn)行查找。大多數(shù)模型和方法的解釋方法都是使用真實(shí)數(shù)據(jù)，這些數(shù)據(jù)在數(shù)據(jù)章節(jié)進(jìn)行了描述。其中一個實(shí)現(xiàn)可解型機(jī)器學(xué)習(xí)的方法是使用可解釋型機(jī)器學(xué)習(xí)模型，如Linear models or decision trees.另一種使機(jī)器學(xué)習(xí)可解釋的選擇是使用模型解釋診斷型工具，這種工具可以在監(jiān)督性機(jī)器學(xué)習(xí)中進(jìn)行使用。模型診斷方法章節(jié)設(shè)計(jì)的方法包括partial dependence plots and permutation feature importance. Model-agnostic methods 通過改變機(jī)器學(xué)習(xí)模型的輸入并測量預(yù)測輸出的變化來工作。Model-agnostic methods 將數(shù)據(jù)實(shí)例作為解釋返回的模型無關(guān)的方法的方法將在基于實(shí)例的解釋一章中討論。所有與模型無關(guān)的模型診斷方法都可以根據(jù)它們是否解釋所有數(shù)據(jù)實(shí)例的全局模型的行為或個別預(yù)測。以下方法解釋模型的整體行為:Partial Dependence Plots, Accumulated Local Effects, Feature Interaction, Feature Importance, Global Surrogate Models
and Prototypes and Criticisms. 為了解釋個體預(yù)測我們有Local Surrogate Models, Shapley Value Explanations, Counterfactual Explanations (and closely related: Adversarial Examples) 同時也有一些模型一些方法可以用來解釋全局模的行為和個別預(yù)測的方面。如Individual Conditional Expectation and Influential Instances。本書最后對可解釋性機(jī)器學(xué)習(xí)的未來進(jìn)行了樂觀的展望。學(xué)習(xí)的未來是什么樣子的。