開始。這是最容易令人喪失斗志的兩個(gè)字。邁出第一步通常最艱難。當(dāng)可以選擇的方向太多時(shí),就更讓人兩腿發(fā)軟了。
從哪里開始?
本文旨在通過七個(gè)步驟,使用全部免費(fèi)的線上資料,幫助新人獲取最基本的 Python 機(jī)器學(xué)習(xí)知識(shí),直至成為博學(xué)的機(jī)器學(xué)習(xí)實(shí)踐者。這篇概述的主要目的是帶領(lǐng)讀者接觸眾多免費(fèi)的學(xué)習(xí)資源。這些資源有很多,但哪些是最好的?哪些相互補(bǔ)充?怎樣的學(xué)習(xí)順序才最好?
我假定本文的讀者不是以下任何領(lǐng)域的專家:
機(jī)器學(xué)習(xí)
Python
任何 Python 的機(jī)器學(xué)習(xí)、科學(xué)計(jì)算、數(shù)據(jù)分析庫
如果你有前兩個(gè)領(lǐng)域其一或全部的基礎(chǔ)知識(shí),可能會(huì)很有幫助,但這些也不是必需的。在下面幾個(gè)步驟中的前幾項(xiàng)多花點(diǎn)時(shí)間就可以彌補(bǔ)。
如果要使用 Python 進(jìn)行機(jī)器學(xué)習(xí),擁有對(duì) Python 有基礎(chǔ)的理解非常關(guān)鍵。幸運(yùn)的是,Python 是當(dāng)前普遍使用的流行語言,并納入了科學(xué)計(jì)算和機(jī)器學(xué)習(xí)的內(nèi)容,所以找到入門教程并不困難。在選擇起點(diǎn)時(shí),很大程度上要取決于你之前的 Python 經(jīng)驗(yàn)和編程經(jīng)驗(yàn)。
首先要安裝 Python 。由于我們要使用機(jī)器學(xué)習(xí)和科學(xué)計(jì)算的 packages ,這里建議安裝 Anaconda。Anaconda 是一個(gè)可在 Linux , OSX , Windows 上運(yùn)行的 Python 實(shí)現(xiàn)工具,擁有所需的機(jī)器學(xué)習(xí) packages ,包括 numpy,scikit-learn,matplotlib。它還包含iPython Notebook ,一個(gè)帶有許多教程的交互式環(huán)境。這里推薦使用 Python 2.7 ,不是因?yàn)樘厥庠颍皇且驗(yàn)樗悄壳鞍惭b版本中的主流。
如果你之前沒有編程知識(shí),建議你閱讀這本免費(fèi)電子書,然后再接觸其他學(xué)習(xí)材料:
Python The Hard Way 作者Zed A. Shaw
如果你之前有編程知識(shí),但不是Python的,又或者你的Python水平很基礎(chǔ),推薦下列一種或幾種教程:
Google Developers Python Course((強(qiáng)烈推薦給視覺型學(xué)習(xí)者)
An Introduction to Python for Scientific Computing (from UCSB Engineering) 作者 M. Scott Shell (一個(gè)很好的 Python 科學(xué)計(jì)算簡(jiǎn)介,60 頁)
對(duì)于想要速成課程的人,這里有:
Learn X in Y Minutes (X = Python)
當(dāng)然,如果你是個(gè)經(jīng)驗(yàn)豐富的 Python 程序員,可以跳過這一步。盡管如此,還是建議你把通俗易懂的 Python documentation 放在手邊。
KDnuggets 的 Zachary Lipton 指出,人們對(duì)于“數(shù)據(jù)科學(xué)家”的認(rèn)知千差萬別。這實(shí)際上是對(duì)機(jī)器學(xué)習(xí)領(lǐng)域的反映。數(shù)據(jù)科學(xué)家在不同程度上使用計(jì)算學(xué)習(xí)算法。要建立和使用支持向量機(jī)模型,熟知核函數(shù)方法是否是必需的?答案當(dāng)然不是。就像現(xiàn)實(shí)生活中的許多事情一樣,所需要的理論深入程度與具體的實(shí)際應(yīng)用有關(guān)。獲取對(duì)機(jī)器學(xué)習(xí)算法的深入理解不是本文的討論范圍, 而且這通常需要在學(xué)術(shù)領(lǐng)域投入大量時(shí)間,或者至少要通過密集的自學(xué)才能達(dá)到。
好消息是,你不必?fù)碛胁┦考?jí)別的機(jī)器學(xué)習(xí)理論能力才能進(jìn)行實(shí)踐,就如同不是所有程序員都必須接受計(jì)算機(jī)理論教育才能寫好代碼。
吳恩達(dá)在 Coursera 的課程飽受贊譽(yù)。但我的建議是去看看一名以前的學(xué)生做的筆記。略過那些針對(duì) Octave(一個(gè)與 Python 無關(guān)的,類 Matlab 語言)的內(nèi)容。需要注意,這些不是“官方”的筆記,雖然看起來的確抓住了吳恩達(dá)課程材料的相關(guān)內(nèi)容。如果你有時(shí)間,可以自己去 Coursera 完成這個(gè)課程 :Andrew Ng's Machine Learning course 。
非官方課程筆記鏈接
除了吳恩達(dá)的課程以外,還有很多其他視頻教程。我是 Tom Mitchell 的粉絲,下面是他(與Maria-Florina Balcan 共同完成的)最新的課程視頻,對(duì)學(xué)習(xí)者非常友好:
Tom Mitchell Machine Learning Lectures
你不需要現(xiàn)在看完全部的筆記和視頻。比較好的策略是向前推進(jìn),去做下面的練習(xí),需要的時(shí)候再查閱筆記和視頻。比如,你要做一個(gè)回歸模型,就可以去查閱吳恩達(dá)課程有關(guān)回歸的筆記以及/或者 Mitchell 的視頻。
好了?,F(xiàn)在我們有了 Python 編程經(jīng)驗(yàn),并對(duì)機(jī)器學(xué)習(xí)有所了解。Python 有很多為機(jī)器學(xué)習(xí)提供便利的開源庫。通常它們被稱為 Python 科學(xué)庫(scientific Python libraries),用以執(zhí)行基本的數(shù)據(jù)科學(xué)任務(wù)(這里有一點(diǎn)程度主觀色彩):
numpy - 主要用于 N 維數(shù)組
pandas - Python 數(shù)據(jù)分析庫,包含 dataframe 等結(jié)構(gòu)
matplotlib - 2D 繪圖庫,產(chǎn)出質(zhì)量足以進(jìn)行印刷的圖
scikit-learn - 數(shù)據(jù)分析、數(shù)據(jù)挖掘任務(wù)使用的機(jī)器學(xué)習(xí)算法
學(xué)習(xí)以上這些內(nèi)容可以使用:
Scipy Lecture Notes 作者 Ga?l Varoquaux, Emmanuelle Gouillart, Olav Vahtras
下面這個(gè) pandas 教程也不錯(cuò),貼近主題:
10 Minutes to Pandas
在后面的教程中你會(huì)看到其他一些 packages ,比如包括 Seaborn ,一個(gè)基于 matplotlib 的可視化庫。前面提到的 packages (再次承認(rèn)具有一定主觀色彩)是許多 Python 機(jī)器學(xué)習(xí)任務(wù)的核心工具。不過,理解它們也可以讓你在之后的教程中更好理解其他相關(guān) packages。
好了,現(xiàn)在到了有意思的部分.....
Python。搞定。
機(jī)器學(xué)習(xí)基礎(chǔ)。搞定。
Numpy。搞定。
Pandas。搞定。
Matplotlib。搞定。
是時(shí)候用 Python 的標(biāo)準(zhǔn)機(jī)器學(xué)習(xí)庫,scikit-learn,實(shí)現(xiàn)機(jī)器學(xué)習(xí)算法了。
scikit-learn 算法選擇圖
下面許多教程和練習(xí)都基于交互式環(huán)境 iPython (Jupyter) Notebook 。這些 iPython Notebooks有些可以在網(wǎng)上觀看,有些可以下載到本地電腦。
iPython Notebook 概覽 斯坦福大學(xué)
也請(qǐng)注意下面的資源來自網(wǎng)絡(luò)。所有資源屬于作者。如果出于某種原因,你發(fā)現(xiàn)有作者沒有被提及,請(qǐng)告知我,我會(huì)盡快改正。在此特別要向 Jake VanderPlas,Randal Olson,Donne Martin,Kevin Markham,Colin Raffel 致敬,感謝他們提供的優(yōu)秀免費(fèi)資源。
下面是 scikit-learn 的入門教程。在進(jìn)行下一個(gè)步驟之前,推薦做完下列全部教程。
對(duì)于 scikit-learn 的整體介紹,它是 Python 最常用的通用機(jī)器學(xué)習(xí)庫,包含knn最近鄰算法:
An Introduction to scikit-learn 作者 Jake VanderPlas
更深入更寬泛的介紹,包含一個(gè)新手項(xiàng)目,從頭到尾使用一個(gè)著名的數(shù)據(jù)集:
Example Machine Learning Notebook 作者 Randal Olson
專注于 scikit-learn 中評(píng)估不同模型的策略,涉及訓(xùn)練集/測(cè)試集拆分:
Model Evaluation 作者 Kevin Markham
在 scikit-learn 打下基礎(chǔ)以后,我們可以探索更多有用的常見算法。讓我們從最知名的機(jī)器學(xué)習(xí)算法之一,k-means 聚類開始。對(duì)于無監(jiān)督學(xué)習(xí)問題,k-means 通常簡(jiǎn)單有效:
k-means Clustering 作者 Jake VanderPlas
接下來是分類,讓我們看看史上最流行的分類方法之一,決策樹:
Decision Trees via The Grimm Scientist
分類之后,是連續(xù)數(shù)字變量的預(yù)測(cè):
Linear Regression 作者 Jake VanderPlas
通過邏輯斯蒂回歸,我們可以用回歸解決分類問題:
Logistic Regression 作者 Kevin Markham
接觸過 scikit-learn,現(xiàn)在讓我們把注意力轉(zhuǎn)向更高級(jí)的內(nèi)容。首先是支持向量機(jī),一個(gè)無需線性的分類器,它依賴復(fù)雜的數(shù)據(jù)轉(zhuǎn)換,把數(shù)據(jù)投向高維空間。
Support Vector Machines 作者 Jake VanderPlas
接下來是隨機(jī)森林,一種集成分類器。下面的教程通過 Kaggle Titanic Competition講解。
Kaggle Titanic Competition (with Random Forests) 作者 Donne Martin
降維是一種減少問題涉及的變量數(shù)目的方法。PCA 主成分分析是一種無監(jiān)督學(xué)習(xí)降維的特殊形式:
Dimensionality Reduction?作者 Jake VanderPlas
在開始下一步之前,可以暫停一下,回想我們?cè)诙潭痰臅r(shí)間已經(jīng)走了多遠(yuǎn)。
通過使用 Python 和它的機(jī)器學(xué)習(xí)庫,我們涵蓋了一些最常用最知名的機(jī)器學(xué)習(xí)算法( knn 最近鄰,k-means 聚類,支持向量機(jī)),了解了一種強(qiáng)有力的集成方法(隨機(jī)森林),涉及了一些其他機(jī)器學(xué)習(xí)支持方案(降維,模型驗(yàn)證技巧)。在一些基礎(chǔ)機(jī)器學(xué)習(xí)的技巧的幫助下,我們開始有了一個(gè)漸漸豐富的工具箱。
在結(jié)束以前,讓我們給工具箱增加一個(gè)需求很大的工具:
學(xué)習(xí),深深地。
到處都在深度學(xué)習(xí)!深度學(xué)習(xí)基于過去幾十年的神經(jīng)網(wǎng)絡(luò)研究,但最近幾年的發(fā)展大大增加了深度神經(jīng)網(wǎng)絡(luò)的能力和對(duì)于它的興趣。如果你不熟悉深度學(xué)習(xí),KDnuggets 有許多文章 ,詳細(xì)介紹最近的進(jìn)展、成果,以及對(duì)這項(xiàng)技術(shù)的贊譽(yù)。
本文的最后一部分并不想成為某種深度學(xué)習(xí)示范教程。我們會(huì)關(guān)注基于兩個(gè)Python深度學(xué)習(xí)庫的簡(jiǎn)單應(yīng)用。對(duì)于想了解更多的讀者,我推薦下面這本免費(fèi)在線書:
Neural Networks and Deep Learning 作者 Michael Nielsen
Theano
Theano是我們關(guān)注的第一個(gè) Python 深度學(xué)習(xí)庫。根據(jù)作者所說:
作為一個(gè) Python 庫,Theano 讓你可以有效定義、優(yōu)化、評(píng)估包含多維數(shù)組的數(shù)學(xué)表達(dá)式。
下面的 Theano 深度學(xué)習(xí)教程很長,但非常不錯(cuò),描述詳細(xì),有大量評(píng)論:
Theano Deep Learning Tutorial 作者 Colin Raffel
Caffe
我們關(guān)注的另一個(gè)庫是 Caffe。根據(jù)它的作者所說:
Caffe 是一個(gè)深度學(xué)習(xí)框架。開發(fā)過程中時(shí)刻考慮著表達(dá)式、速度、模型。 它是由 Berkeley Vision and Learning Center (BVLC) 和社區(qū)貢獻(xiàn)者共同開發(fā)的。
這個(gè)教程是本文的壓軸。盡管上面列舉了一些有趣的案例,沒有那個(gè)比得上下面這個(gè):用 Caffe 實(shí)現(xiàn) Google 的 #DeepDream。希望你喜歡!理解這個(gè)教程以后,盡情玩樂,讓你的處理器開始自己做夢(mèng)吧。
Dreaming Deep with Caffe via Google's GitHub
我不敢保證Python機(jī)器學(xué)習(xí)是速成的或簡(jiǎn)單的。但只要投入時(shí)間,遵循這七個(gè)步驟,你無疑會(huì)對(duì)于這個(gè)領(lǐng)域擁有足夠的熟練度和理解,會(huì)使用流行的 Python 庫實(shí)現(xiàn)許多機(jī)器學(xué)習(xí)算法,甚至當(dāng)今深度學(xué)習(xí)領(lǐng)域的前沿內(nèi)容。
作者簡(jiǎn)介: Matthew Mayo 是一名計(jì)算機(jī)專業(yè)的研究生。他目前在從事并行機(jī)器學(xué)習(xí)算法方面的論文工作。同時(shí)他也是一個(gè)數(shù)據(jù)挖掘?qū)W習(xí)者,數(shù)據(jù)愛好者,立志成為機(jī)器學(xué)習(xí)科學(xué)家。
翻譯:數(shù)據(jù)工匠
原文地址:
http://www.kdnuggets.com/2015/11/seven-steps-machine-learning-python.html
聯(lián)系客服