機(jī)器之心此前曾提供過(guò)機(jī)器學(xué)習(xí)和深度學(xué)習(xí)最好的九張代碼速查表，不過(guò)近日又有博主發(fā)表了一次完全的速查表。雖然有一些和以前是重復(fù)的，但還是增加了一些新的速查表。本文前一部分主要重點(diǎn)描述新添加的速查表，后一部分再為讀者提供一些以前的速查表資源。這些速查表暫時(shí)是保持英文的，因?yàn)楹竺嬉恍┎皇煜さ膸?kù)和函數(shù)我們可能編譯不太精確。所以如果讀者有較多需求，機(jī)器之心會(huì)考慮在 Github 中漢化這些概念和庫(kù)函數(shù)速查表。文末提供了所有速查表的百度云下載地址。
首先第一張圖描述了機(jī)器學(xué)習(xí)的主要分類(lèi)和算法。雖然有幾個(gè)表情沒(méi)看懂，但我們發(fā)現(xiàn)這些表情還是挺有意思的。如下圖所示，機(jī)器學(xué)習(xí)可分為監(jiān)督學(xué)習(xí)、無(wú)監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)。接下來(lái)主要是回歸方法、分類(lèi)方法、聚類(lèi)方法、降維方法和其他一些重要的特征。我們還可以看看具體算法的表情，隨機(jī)森林是四棵不同的樹(shù)我們能懂，但為什么支持向量機(jī)是一只獨(dú)角獸?還有一些其實(shí)挺生動(dòng)的，例如異常檢測(cè)所用的表情就是三只熊貓夾一只狗熊。
算法選擇
下面一張圖展示了如何為我們工作和任務(wù)選擇正確的 Scikit-learn 算法。其中每一個(gè)節(jié)點(diǎn)都是一個(gè)條件，然后按照要求和情況進(jìn)行就可以找到管用的算法。比如說(shuō)我們的數(shù)據(jù)量大于 50、需要預(yù)測(cè)類(lèi)別、是標(biāo)注數(shù)據(jù)、小于 100K 的數(shù)據(jù)、線性支持向量分類(lèi)器不管用、不是文本數(shù)據(jù)、K 近鄰分類(lèi)器不管用，然后我們就只能選擇最后的 SVC 集成分類(lèi)器了。這種選擇算法的速查表確實(shí)很管用，很適合我們沒(méi)有什么機(jī)器學(xué)習(xí)開(kāi)發(fā)經(jīng)驗(yàn)的入門(mén)者使用，因?yàn)檫@會(huì)大大提高我們構(gòu)建系統(tǒng)的效率。
機(jī)器之心以前也發(fā)過(guò)初學(xué)者如何選擇合適的機(jī)器學(xué)習(xí)算法，該文章也有一張速查表，我們可以在以下展示。這一張速查表可以在特定任務(wù)下指導(dǎo)我們到底需要選擇什么樣的機(jī)器學(xué)習(xí)算法。例如我們的數(shù)據(jù)不需要降維、有標(biāo)注、預(yù)測(cè)的是類(lèi)別、更關(guān)注模型精度，那么就可以選擇帶核函數(shù)的支持向量機(jī)、隨機(jī)森林、神經(jīng)網(wǎng)絡(luò)和梯度提升樹(shù)算法。
如下圖所示，我們還有這一張算法選擇的速查表。該速查表可以幫助我們?cè)谖④?Azure 平臺(tái)上找到合適的機(jī)器學(xué)習(xí)算法，它會(huì)首先根據(jù)我們已有數(shù)據(jù)的特點(diǎn)和類(lèi)型進(jìn)行分類(lèi)，其次再根據(jù)實(shí)際情況給出合適的算法。例如我們的任務(wù)是預(yù)測(cè)一個(gè)類(lèi)別、且該預(yù)測(cè)會(huì)存在多個(gè)類(lèi)別而不僅僅只有兩個(gè)，那么如果我們希望模型能快速訓(xùn)練且準(zhǔn)確度也要高，那么我們就可以選擇多類(lèi)別決策森林。
算法概念
我們不僅需要了解如何構(gòu)建機(jī)器學(xué)習(xí)模型，同時(shí)我們還需要理解構(gòu)建機(jī)器學(xué)習(xí)的各種概念。如下所示，這兩張速查表介紹了很多統(tǒng)計(jì)學(xué)、線性代數(shù)、最優(yōu)化理論和機(jī)器學(xué)習(xí)理論上的概念，這些概念在模型構(gòu)建和模型操作計(jì)算上有很重要的意義。比如前面就介紹了線性代數(shù)中的施密特正交化(Gram Schmidt Orthogonalization)概念，如下所述施密特正交化可以將 n 個(gè)線性無(wú)關(guān)向量轉(zhuǎn)化為 n 個(gè)互相正交的向量，該速查表給出了轉(zhuǎn)化公式。還有后面常用于最優(yōu)化的梯度和海塞矩陣的求解方法，該速查表用一階偏導(dǎo)數(shù)向量的形式表示了梯度的定義，二階偏導(dǎo)數(shù)及其在矩陣中的位置表示了海塞矩陣的定義方式。這兩個(gè)都是在最優(yōu)化如梯度下降和牛頓法中核心的概念。當(dāng)然機(jī)器學(xué)習(xí)的概念也少不了，比如前面的決策邊界和后面的反向傳播算法公式等。
TensorFlow
今年谷歌發(fā)布了第二代 TPU，同時(shí)它能在 Google Compute Engine 上進(jìn)行使用。第二代 TPU 的性能達(dá)到每秒 180 萬(wàn)億次浮點(diǎn)運(yùn)算(180 teraflops)，并且如果將 64 個(gè) TPU 組織成一個(gè)計(jì)算集群，那么它的性能達(dá)到每秒 11.5 千萬(wàn)億次浮點(diǎn)運(yùn)算(11.5 petaflops)。如下圖所示，該速查表不僅簡(jiǎn)要介紹了 TensorFlow、Skflow 和 Keras，同時(shí)還描述了如何安裝和獲得幫助的函數(shù)。該速查表還重點(diǎn)描述了 TensorFlow 的常用函數(shù)，如常見(jiàn)的梯度下降法、適應(yīng)性梯度算法和 Adam 優(yōu)化算法等優(yōu)化器，常見(jiàn)的 ReLU、Sigmoid 和 tanh 等激活函數(shù)。
神經(jīng)網(wǎng)絡(luò)
下圖相信不少讀者已經(jīng)挺熟悉了，該圖使用不同顏色和符號(hào)代表不同的單元而描述了神經(jīng)網(wǎng)絡(luò)的各種架構(gòu)。例如簡(jiǎn)單的長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)就是幾個(gè)黃色的輸入單元組成輸入層，再加上由若干個(gè)記憶單元組成的隱藏層和輸出單元組成的輸出層。
庫(kù)函數(shù)語(yǔ)法速查表
1.Keras
Keras 是一個(gè)非常強(qiáng)大且容易上手的深度學(xué)習(xí)庫(kù);當(dāng) Keras 接入 Theano 和 TensorFlow 時(shí)，后兩者可提供高水平的神經(jīng)網(wǎng)絡(luò) API 以開(kāi)發(fā)和評(píng)估深度學(xué)習(xí)模型。該速查表可用于 Python 數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)。
2. Numpy
Numpy 庫(kù)是 Python 中科學(xué)性計(jì)算的核心庫(kù)，它提供高性能、多維度的數(shù)組對(duì)象，以及對(duì)這些數(shù)組進(jìn)行運(yùn)算的工具。該速查表可用于 Python 數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)。
3. Pandas
這張 Pandas 速查表主要用于數(shù)據(jù)整理(data wrangling)。
Pandas 庫(kù)構(gòu)建在 NumPy 上，并為 Python 編程語(yǔ)言提供易于上手的數(shù)據(jù)結(jié)構(gòu)和數(shù)據(jù)分析工具，該速查表可用于 Python 數(shù)據(jù)科學(xué)和機(jī)器學(xué)。
4. SciPy
SciPy 庫(kù)是科學(xué)性計(jì)算的核心包之一，科學(xué)性計(jì)算可提供數(shù)學(xué)算法和構(gòu)建在 Python 的 NumPy 擴(kuò)展上的便捷函數(shù) (Convenience Functions) ;該表中還包括線性代數(shù)的部分。該速查表可用于 Python 數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)。
5. Matplotlib
Matplotlib 是一個(gè) Python 2D 繪圖庫(kù)，它在平臺(tái)上以多種硬拷貝格式和交互環(huán)境生成發(fā)表品質(zhì)的圖。該速查表用于 Python 數(shù)據(jù)科學(xué)。
6. Scikit-learn
Scikit-learn 是一個(gè)開(kāi)源 Python 庫(kù)，通過(guò)統(tǒng)一接口實(shí)現(xiàn)一系列的機(jī)器學(xué)習(xí)、預(yù)處理、交叉驗(yàn)證和視覺(jué)化算法。該速查表可用于 Python 數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)。
7. ggplot2
ggplot2 基于圖形語(yǔ)法，其思想是你可以利用相同的幾個(gè)組件構(gòu)建所有的圖形:一個(gè)數(shù)據(jù)集、一個(gè)幾何集(表征數(shù)據(jù)點(diǎn)的視覺(jué)化標(biāo)記)和一個(gè)協(xié)作系統(tǒng)。該速查表用于數(shù)據(jù)可視化。
聯(lián)系客服
