編者按：本文來自微信公眾號(hào)“將門創(chuàng)業(yè)”（ID：thejiangmen），內(nèi)容來源Medium，作者Carlos E. Perez。
我大部分走路的時(shí)間還有睡夢(mèng)中的潛意識(shí)里都會(huì)琢磨著Deep Learning 的問題。Peter Thiel 有一個(gè)很有名的說法——“最后一個(gè)公司的優(yōu)勢(shì)”。意思是你可能不需要具備“第一啟動(dòng)的優(yōu)勢(shì)”，但是你一定要成為你行業(yè)里最后一個(gè)站著的公司。就像Google有可能是最后一個(gè)搜索引擎公司，Amazon有可能是最后一個(gè)做電商的, Facebook希望不是最后一個(gè)社交網(wǎng)絡(luò)公司等。但是讓我夜里輾轉(zhuǎn)反側(cè)的是——深度學(xué)習(xí)有可能會(huì)是“人類最后一個(gè)發(fā)明”(Last Invention of Man)。
但是，咱們先別想那么遠(yuǎn)。不管怎樣，Kurzweil在他《奇點(diǎn)臨近( Singularity)》一書中預(yù)計(jì)在2045年實(shí)現(xiàn)的設(shè)想也是30年之后的事情。我們現(xiàn)在要做的就是在這30年里弄清楚想生活在像電影《極樂（Elysium）》中那樣，還是什么別的不知名的腐爛廢水里。
因此，我提出“專家”團(tuán)隊(duì)可能會(huì)讓你和深度學(xué)習(xí)帶來的重要改革擦肩而過的11個(gè)理由，供大家參考。
這僅僅是機(jī)器學(xué)習(xí)（Machine Learning）
從業(yè)人員接觸神經(jīng)網(wǎng)絡(luò)一般都是從線性回歸的介紹然后再到邏輯回歸。這是因?yàn)槿斯ど窠?jīng)網(wǎng)絡(luò)（ANN）用的數(shù)學(xué)公式是一樣的。所以這里瞬間產(chǎn)生偏見，導(dǎo)致人們認(rèn)為經(jīng)典的機(jī)器學(xué)習(xí)方式在深度學(xué)習(xí)的世界里也可行。最后，對(duì)于DL最天真的解釋就是它是多層的ANN。
當(dāng)然，我們也有其他種類的機(jī)器學(xué)習(xí)方式，他們是用和DL不同的公式。但是，ML所有方法最基本的目標(biāo)和一般概念都是曲線擬合。意思就是如果你能找到一個(gè)合數(shù)據(jù)吻合的模型，它就是個(gè)好答案。但在DL系統(tǒng)里，因?yàn)槟Ｐ偷膮?shù)太多，這些系統(tǒng)會(huì)默認(rèn)過度擬合數(shù)據(jù)，這就足夠證明DL和ML是完全不同的系統(tǒng)了。
這僅僅是優(yōu)化
DL系統(tǒng)有一個(gè)損失函數(shù)（loss function），它會(huì)測(cè)量預(yù)測(cè)和輸入的數(shù)據(jù)吻合有多好。經(jīng)典的優(yōu)化問題也有損失函數(shù)，也稱為“目標(biāo)函數(shù)”（objective functions）。這兩個(gè)系統(tǒng)會(huì)使用不同的啟發(fā)式方法（heuristics）去探索在很大的配置空間里的最優(yōu)點(diǎn)。以前人們認(rèn)為DL 系統(tǒng)的 solution surface 已經(jīng)很復(fù)雜，并且是不可能找到答案的。但神奇的是，一個(gè)很簡(jiǎn)單的優(yōu)化方法——隨機(jī)梯度下降法（Stochastic Gradient Descent ）就可以得到很好的結(jié)果。
這就告訴我們其實(shí)這里還有別的事情，和我們認(rèn)識(shí)的優(yōu)化完全不同的東西。
這是個(gè)黑盒子
很多數(shù)據(jù)科學(xué)家都不太喜歡DL，因?yàn)樗念A(yù)測(cè)缺少很多可解釋性——這不僅是DL也是ML都有的特征。數(shù)據(jù)科學(xué)家更喜歡使用概率方法，因?yàn)樗麄冇懈嗄Ｐ偷目刂?。這個(gè)導(dǎo)致他們的系統(tǒng)會(huì)用最少量的參數(shù)做預(yù)測(cè)。這一切的推動(dòng)力量都是源于對(duì)“簡(jiǎn)單化或‘奧卡姆剃刀原理(Occam's Razor)’是對(duì)所有事物最好的解釋”的信念。
但概率方法在判斷圖形、語(yǔ)音甚至文字上其實(shí)是沒有競(jìng)爭(zhēng)力的，這是因?yàn)镈L方法比人類還能更好的找到模型。只是我們的大腦更信任窮舉法。其實(shí)沒有任何數(shù)據(jù)科學(xué)家找到過可以很好判斷圖形的主要因素，也沒有任何DL實(shí)驗(yàn)依據(jù)證明簡(jiǎn)約模型（parsimonious models）比交互模型（entangled models）效果更好。對(duì)于那些真的需要解析的案例，現(xiàn)在有些新的DL方法可以對(duì)其提供可解釋性和不確定性提供幫助。如果一個(gè)DL系統(tǒng)可以提供圖像說明，那它也很可能可以生成對(duì)預(yù)測(cè)的解釋。
太早了，太快了
這是一個(gè)自然的偏見，一個(gè)只有5年歷史并且急速進(jìn)化且易變的科技太不可信。我們當(dāng)時(shí)也是這么說微型處理器、互聯(lián)網(wǎng)、網(wǎng)絡(luò)和移動(dòng)技術(shù)的。對(duì)于大部分人來說，先等等看是安全的方法。對(duì)于沒有花很多時(shí)間分析細(xì)節(jié)的那些人來說，這的確是一個(gè)合理的方式。但這也是一個(gè)有風(fēng)險(xiǎn)的策略，不去關(guān)注有可能是暫時(shí)的安全，但是別的公司搶你的飯碗可能意味的你的滅絕。
太多泡沫
有很多現(xiàn)在DL能干的是在兩年前都覺得是完全不可能的。沒有人預(yù)見到電腦能在圍棋上戰(zhàn)勝人類；沒有人預(yù)見到現(xiàn)在會(huì)有無(wú)人車；沒有人預(yù)見到我們能有星際迷航那樣的翻譯能力。這些都那么不可思議并且肯定有夸張的成分在。不好意思，我在這里要戳破你回避的“泡泡”，DL真的存在，并且你每次用手機(jī)都在使用它。
AI 的冬季會(huì)回來的
我們經(jīng)歷過太多次因AI的前景所帶來的失望結(jié)果。這個(gè)說法走得很遠(yuǎn)，因?yàn)檫@在以前經(jīng)常發(fā)生，所以它早晚會(huì)再次發(fā)生。這個(gè)問題是，盡管那些失望存在，但AI的研究帶來了很多軟件功能的飛躍，而且這些功能我們現(xiàn)在都自然而然地使用著，并且從來都沒有察覺到他們的存在?！皟?yōu)秀的老式人工智能”(Good Old-Fashioned AI)已經(jīng)嵌入在很多今日的系統(tǒng)里。
現(xiàn)在對(duì)DL 的開發(fā)正在加速進(jìn)行，而且我們也有很多大問題需要解決。需要大量數(shù)據(jù)和缺少無(wú)監(jiān)督的訓(xùn)練是其中的兩個(gè)問題。但這不代表我們今天的成果沒有價(jià)值。DL已經(jīng)可以開車了，如果現(xiàn)在再來一個(gè)冬季，就這一點(diǎn)就足夠證明現(xiàn)有階段已經(jīng)十分有用了。
我們沒有足夠的理論解釋它怎么工作
目前，研究團(tuán)隊(duì)還沒有扎實(shí)的理論來解釋為什么DL這么有效。我們想過為什么多層神經(jīng)網(wǎng)絡(luò)比少幾層的更有效，但是我們還不能理解收斂性如何發(fā)生，或者好的泛化如何實(shí)現(xiàn)。DL現(xiàn)在就是一個(gè)實(shí)驗(yàn)品，我們還在學(xué)習(xí)這類系統(tǒng)的特征。同時(shí)，雖然沒有扎實(shí)的理論理解，這些工程師一樣在前進(jìn)。
研究員們正在利用他們的直覺和受過教育的猜測(cè)建立更好的模型。換句話說，他們不會(huì)為了等待更好的理論而暫停他們的發(fā)展。這和生物科技領(lǐng)域的研究一樣，他們測(cè)試很多種組合然后遇到他們不能解釋的新發(fā)現(xiàn)?？茖W(xué)和科技的發(fā)展的確有些不確定的混亂，但是你不應(yīng)該因?yàn)檫@而放棄它的優(yōu)點(diǎn)。
這不來源于生物靈感
DL和我們大腦里的神經(jīng)元差異很大。DL 的學(xué)習(xí)方式（比如SGD）是不能用我們大腦里的什么結(jié)構(gòu)去類比的。但這里的論據(jù)是，如果它不和大腦類似，它就不能執(zhí)行大腦能做到的推理和學(xué)習(xí)。這當(dāng)然不是很有力的論據(jù)。可飛機(jī)雖然長(zhǎng)得不想鳥，但是它一樣會(huì)飛呀。
我不是這里的專家
自己沒有專業(yè)知識(shí)不是逃避不去外面找專業(yè)知識(shí)的借口。并且，這也不應(yīng)該成為阻止你的專家團(tuán)隊(duì)去學(xué)習(xí)這個(gè)新技術(shù)的理由。但是，如果你的專家是教條死板的那種，這就說明你應(yīng)該去尋求第二個(gè)沒有偏見的意見。
這在我的問題上不適用
一個(gè)企業(yè)有很多業(yè)務(wù)流程。如果你沒有去檢查哪些流程是可以被現(xiàn)有的DL自動(dòng)化的，那你就沒有權(quán)力去說DL對(duì)你不適用。其次，你可能會(huì)發(fā)現(xiàn)現(xiàn)在沒有的、但是可以用DL實(shí)現(xiàn)的流程或商業(yè)機(jī)會(huì)。你真的不能回答這個(gè)問題，直到你在這方面做了盡職的調(diào)查工作。
我沒有資源
Google、Facebook等很多大公司挖走了很多DL的 天才。 這些企業(yè)沒有興趣和小公司合作，去發(fā)現(xiàn)它們具體的需求和機(jī)會(huì)。但所幸這些大公司還允許它的研究員公開他們的研究成果。所以我們可以看到它們最新的發(fā)展成果，并且可以提取它們學(xué)到的知識(shí)，應(yīng)用在你的場(chǎng)景里。還有些公司比如Intuition Machine，加入它們會(huì)讓你取得在DL 技術(shù)上的競(jìng)爭(zhēng)優(yōu)勢(shì)。
聯(lián)系客服
