該系列文章為，觀看“吳恩達(dá)機器學(xué)習(xí)”系列視頻的學(xué)習(xí)筆記。雖然每個視頻都很簡單，但不得不說每一句都非常的簡潔扼要，淺顯易懂。非常適合我這樣的小白入門。

本章含蓋

• 1.1 引言
• 1.2 機器學(xué)習(xí)是什么？
• 1.3 監(jiān)督學(xué)習(xí)
• 1.4 無監(jiān)督學(xué)習(xí)

引言

機器學(xué)習(xí)發(fā)源于人工智能領(lǐng)域 我們希望能夠創(chuàng)造出具有智慧的機器 我們通過編程來讓機器完成一些基礎(chǔ)的工作。比如，“如何找到從A到B的最短路徑”，但在大多數(shù)情況下我們并不知道如何顯式地編寫人工智能程序來做一些更有趣的任務(wù)，比如，“網(wǎng)頁搜索”、“標(biāo)記照片”和“攔截垃圾郵件”等

你也許曾經(jīng)接觸過自然語言處理和計算機視覺。事實上，這些領(lǐng)域都是試圖通過人工智能來理解人類的語言和圖像。如今大多數(shù)的自然語言處理和計算機視覺都是對機器學(xué)習(xí)的一種應(yīng)用，機器學(xué)習(xí)算法也在用戶自定制化程序(self-customizing program)中有著廣泛的應(yīng)用。每當(dāng)你使用亞馬遜 Netflix或iTunes Genius的服務(wù)時都會收到它們?yōu)槟懔可硗扑]的電影或產(chǎn)品，這就是通過學(xué)習(xí)算法來實現(xiàn)的。

最后，機器學(xué)習(xí)算法已經(jīng)被應(yīng)用于探究人類的學(xué)習(xí)方式并試圖理解人類的大腦。我們也將會了解到研究者是如何運用機器學(xué)習(xí)的工具來一步步實現(xiàn)人工智能的夢想。

1.2 機器學(xué)習(xí)是什么？

Tom Mitchell （來自卡內(nèi)基梅隆大學(xué)）定義的機器學(xué)習(xí)是：一個程序被認(rèn)為能從經(jīng)驗 E 中學(xué)習(xí)，解決任務(wù) T，達(dá)到性能度量值 P，當(dāng)且僅當(dāng)，有了經(jīng)驗 E 后，經(jīng)過 P 評判，程序在處理 T 時的性能有所提升。
舉個例子，下棋 ——— 我認(rèn)為經(jīng)驗 E 就是程序上萬次的自我練習(xí)（下棋）的經(jīng)驗而任務(wù) T 就是（同未知的對手）下棋。性能度量值 P 呢，就是它在與一些新的對手比賽時，贏得比賽的概率。

目前存在幾種不同類型的學(xué)習(xí)算法。主要的兩種類型被我們稱之為“監(jiān)督學(xué)習(xí)”和“無監(jiān)督學(xué)習(xí)”。此外你將聽到諸如，強化學(xué)習(xí)和推薦系統(tǒng)等各種術(shù)語。這些都是機器學(xué)習(xí)算法的一員，以后我們都將介紹到，但學(xué)習(xí)算法最常用兩個類型就是監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)。

給你講授學(xué)習(xí)算法就好像給你一套工具，相比于提供工具，可能更重要的，是教你如何使用這些工具。我喜歡把這比喻成學(xué)習(xí)當(dāng)木匠。想象一下，某人教你如何成為一名木匠，說這是錘子，這是螺絲刀，鋸子，祝你好運，再見。這種教法不好，不是嗎?你擁有這些工具，但更重要的是，你要學(xué)會如何恰當(dāng)?shù)厥褂眠@些工具。

1.3 監(jiān)督學(xué)習(xí)

例一：根據(jù)房屋大小，對房屋價格進(jìn)行預(yù)期（回歸問題）

??這是監(jiān)督學(xué)習(xí)算法的一個例子。

監(jiān)督學(xué)習(xí)指的就是我們給學(xué)習(xí)算法一個數(shù)據(jù)集。這個數(shù)據(jù)集由“正確答案”組成。在房價的例子中，我們給了一系列房子的數(shù)據(jù)，我們給定數(shù)據(jù)集中每個樣本的正確價格， 即它們實際的售價。然后，運用學(xué)習(xí)算法得到更多的正確答案（即，算法的目的就是得到更多的正確答案）。

用更專業(yè)的術(shù)語來定義，它也被稱為“回歸問題”。這里的“回歸問題”我指的是：我們想要預(yù)測連續(xù)的數(shù)值輸出，即價格。

例二：根據(jù)腫瘤大小，對腫瘤是良性還是惡性的預(yù)測（分類問題）

橫軸：腫瘤尺寸
縱軸：1或0，代表 是或否（惡性腫瘤）

機器學(xué)習(xí)的問題是，能否估計出腫瘤是良性還是惡性的概率。
用更專業(yè)的術(shù)語來說，這是一個分類問題。分類指的是，我們試著推測出離散的輸出值。

eg：0 或 1 良性或惡性，而事實上在分類問題中，輸出可能不止兩個值。比如說可能有三種乳腺癌，所以你希望預(yù)測離散輸出 0、1、2、 3。0 代表良性，1 表示第 1 類乳腺癌，2 表示第 2 類癌癥，3 表示第 3 類，但這也是分類問題。

在其他機器學(xué)習(xí)問題中，我們通常有更多的特征，比如腫塊密度，腫瘤細(xì)胞尺寸的一致性和形狀的一致性等等。
你想用無限多種特征，好讓你的算法可以利用大量的特征，或者說線索來做推測。那你怎么處理無限多個特征，甚至怎么存儲這些特征都存在問題，你電腦的內(nèi)存肯定不夠用。后面我們會講一個算法，叫支持向量機，里面有一個巧妙的數(shù)學(xué)技巧，能讓計算機處理無限多個特征。

無監(jiān)督學(xué)習(xí)

對于監(jiān)督學(xué)習(xí)里的每條數(shù)據(jù)， 我們已經(jīng)清楚地知道，訓(xùn)練集對應(yīng)的正確答案。

在無監(jiān)督學(xué)習(xí)中，我們已知的數(shù)據(jù)。看上去有點不一樣，不同于監(jiān)督學(xué)習(xí)的數(shù)據(jù)的樣子， 無監(jiān)督學(xué)習(xí)中沒有任何的標(biāo)簽。所以我們已知數(shù)據(jù)集，卻不知如何處理，也未告知每個數(shù)據(jù)點是什么。別的都不知道，就是一個數(shù)據(jù)集。你能從數(shù)據(jù)中找到某種結(jié)構(gòu)嗎？針對數(shù)據(jù)集，無監(jiān)督學(xué)習(xí)就能判斷出數(shù)據(jù)有兩個不同的聚集簇。 這是一個，那是另一個，二者不同。是的，無監(jiān)督學(xué)習(xí)算法可能會把這些數(shù)據(jù)分成兩個不同的簇。所以叫做聚類算法。事實證明，它能被用在很多地方。

聚類應(yīng)用的一個例子就是在谷歌新聞中。如果你以前從來沒見過它，你可以到這個 URL 網(wǎng)址 news.google.com 去看看。谷歌新聞每天都在收集非常多非常多的網(wǎng)絡(luò)的新聞內(nèi)容。 它再將這些新聞分組，組成有關(guān)聯(lián)的新聞。所以谷歌新聞做的就是搜索非常多的新聞事件， 自動地把它們聚類到一起。所以，這些新聞事件全是同一主題的，并會顯示到一起。

所以這個就是無監(jiān)督學(xué)習(xí)，因為我們沒有提前告知算法一些信息。我們只是說，是的，這是有一堆數(shù)據(jù)。我不知道這些數(shù)據(jù)是什么。我不知道誰是什么類型。我甚至不知道有哪些不同的類型，你能自動地找到數(shù)據(jù)中的結(jié)構(gòu)嗎？就是說你要自動地聚類那些個體到各個類，我沒法提前知道哪些是哪些。因為我們沒有給算法正確答案來回應(yīng)數(shù)據(jù)集中的數(shù)據(jù)，所以這就是無監(jiān)督學(xué)習(xí)。

無監(jiān)督學(xué)習(xí)或聚類有著大量的引用：

• 它用于組織大型計算機集群。我有些朋友在大數(shù)據(jù)中心工作，那里有大型的計算機集群，他們想解決什么樣的機器易于協(xié)同地工作，如果你能夠讓那些機器協(xié)同工作，你就能讓你的數(shù)據(jù)中心工作得更高效。
• 第二種應(yīng)用就是社交網(wǎng)絡(luò)的分析。所以已知你朋友的信息，比如你經(jīng)常發(fā) email 的，或是你 Facebook 的朋友、谷歌+圈子的朋友，我們能否自動地給出朋友的分組呢?即每組里的人們彼此都熟識，認(rèn)識組里的所有人?
• 還有市場分割。許多公司有大型的數(shù)據(jù)庫，存儲消費者信息。所以，你能檢索這些顧客數(shù)據(jù)集，自動地發(fā)現(xiàn)市場分類，并自動地把顧客劃分到不同的細(xì)分市場中，你才能自動并更有效地銷售或不同的細(xì)分市場一起進(jìn)行銷售。這也是無監(jiān)督學(xué)習(xí)，因為我們擁有所有的顧客數(shù)據(jù)，但我們沒有提前知道是什么的細(xì)分市場，以及分別有哪些我們數(shù)據(jù)集中的顧客。我們不知道誰是在一號細(xì)分市場，誰在二號市場，等等。那我們就必須讓算法從數(shù)據(jù)中發(fā)現(xiàn)這一切。
• 最后，無監(jiān)督學(xué)習(xí)也可用于天文數(shù)據(jù)分析，這些聚類算法給出了令人驚訝、有趣、有用的理論，解釋了星系是如何誕生的。

這些都是聚類的例子，聚類只是無監(jiān)督學(xué)習(xí)中的一種。
無監(jiān)督學(xué)習(xí)，它是學(xué)習(xí)機制，你給算法大量的數(shù)據(jù)，要求它找出數(shù)據(jù)的類型結(jié)構(gòu)。