概要：通過(guò)對(duì)生物學(xué)習(xí)與人工智能進(jìn)行的比較，我們可以建立一個(gè)更安全的基礎(chǔ)設(shè)施系統(tǒng)。
通過(guò)對(duì)生物學(xué)習(xí)與人工智能進(jìn)行的比較，我們可以建立一個(gè)更安全的基礎(chǔ)設(shè)施系統(tǒng)。
本文由Sophos的數(shù)據(jù)科學(xué)家Madeline Schiappa和Ethan Rudd撰寫(xiě)。
人們認(rèn)為智能生活的標(biāo)志是機(jī)器是否具備了學(xué)習(xí)能力。現(xiàn)在，機(jī)器學(xué)習(xí)可以從數(shù)據(jù)集中進(jìn)行學(xué)習(xí)和推斷，從而完成一些復(fù)雜的任務(wù)，比如：將以前見(jiàn)所未見(jiàn)的種類(lèi)進(jìn)行分類(lèi)。
機(jī)器學(xué)習(xí)與人類(lèi)都有著驚人的相似之處，但同時(shí)也存在著眾多特殊的差異。通過(guò)對(duì)比生物學(xué)習(xí)與人工智能，我們可以建立一個(gè)更安全的基礎(chǔ)設(shè)施系統(tǒng)。
使用生物神經(jīng)網(wǎng)絡(luò)后，大腦中無(wú)數(shù)的神經(jīng)元之間實(shí)現(xiàn)了互連，之后便可進(jìn)行學(xué)習(xí)。隨著大腦不斷暴露在新的刺激之下，這些神經(jīng)元改變了它們的互連結(jié)構(gòu)，建立了新的連接、加強(qiáng)了現(xiàn)有連接、刪除了那些未使用的連接。越多的重復(fù)已給定任務(wù)，神經(jīng)性的連接就越強(qiáng)，直至該任務(wù)重復(fù)學(xué)習(xí)無(wú)數(shù)次。
通過(guò)使用預(yù)先建立的記憶和感知的模型，神經(jīng)元可以處理新的刺激，這些記憶和感知的模型以一小組神經(jīng)元的活動(dòng)為基礎(chǔ)。對(duì)于每一種刺激，都有大量來(lái)自于可用神經(jīng)元的不同子集在認(rèn)知過(guò)程中被激活。
在設(shè)計(jì)人工智能模型的時(shí)候，生物神經(jīng)網(wǎng)絡(luò)中的驚人結(jié)構(gòu)讓數(shù)據(jù)科學(xué)家們深受啟發(fā)。
人工神經(jīng)網(wǎng)絡(luò)（ANN）旨在以一種抽象的方式模擬神經(jīng)元處理新刺激的過(guò)程，但是規(guī)模變得更小、更簡(jiǎn)單。
ANN由互連神經(jīng)元的層構(gòu)成，這種互連神經(jīng)元可以接收一組輸入和一組權(quán)重。然后進(jìn)行數(shù)學(xué)操作，并將結(jié)果以“激活碼”的方式輸出，這與生物神經(jīng)元中的突觸十分相似。雖然在通常情況下ANN由數(shù)百到數(shù)千個(gè)神經(jīng)元組成，但是人腦的生物神經(jīng)網(wǎng)絡(luò)中的神經(jīng)元要多得多，近數(shù)十億。
在高級(jí)的層次中，神經(jīng)網(wǎng)絡(luò)由四個(gè)部分組成：
1．神經(jīng)元
2．拓補(bǔ)結(jié)構(gòu)——神經(jīng)元中的連接橋梁
3．權(quán)重
4．一種學(xué)習(xí)算法
在每一個(gè)組件中，人腦中的生物神經(jīng)網(wǎng)絡(luò)和用軟件表示的人工神經(jīng)網(wǎng)絡(luò)中都有著明顯的不同。
如下圖，我們可以看到一個(gè)可視化的生物神經(jīng)元。軸突負(fù)責(zé)核到其他神經(jīng)元的輸出連接。樹(shù)突樹(shù)負(fù)責(zé)接收其他神經(jīng)元到核的輸入。來(lái)自神經(jīng)元（突觸）的電化學(xué)信號(hào)聚集在細(xì)胞核中。如果聚合超過(guò)了突觸閾值，那么電化學(xué)尖峰（突觸）就會(huì)沿著軸突向下傳播到其他神經(jīng)元的樹(shù)突上。
如圖一，生物神經(jīng)元由一個(gè)細(xì)胞核構(gòu)成，這個(gè)細(xì)胞核通過(guò)一個(gè)輸入終端或是一個(gè)樹(shù)突的分支接收來(lái)自于其他神經(jīng)元的輸入。樹(shù)突組合通常也叫做“樹(shù)突樹(shù)”，它可以通過(guò)神經(jīng)遞質(zhì)的電化學(xué)交換從其他的神經(jīng)元中接收興奮性或抑制性信號(hào)。
到達(dá)細(xì)胞核后輸入信號(hào)的幅度大小主要取決于之前神經(jīng)元的動(dòng)作電位幅度和進(jìn)入樹(shù)突離子通道時(shí)的電導(dǎo)率。離子通道主要負(fù)責(zé)承載通過(guò)神經(jīng)元膜的流動(dòng)電信號(hào)。
更加頻繁或更大幅度的輸入信號(hào)往往會(huì)使導(dǎo)電離子的傳輸通道變得更好，也會(huì)使信號(hào)傳播變得更加容易。根據(jù)從樹(shù)突樹(shù)中的所有突觸上收集到的信號(hào)，在經(jīng)過(guò)神經(jīng)性疊加作用后，神經(jīng)元要么“被激活”要么“被禁止”，換句話說(shuō)，就是被切換為“開(kāi)”或者是“關(guān)”。神經(jīng)元中有一種電化學(xué)閥值，類(lèi)似于人工神經(jīng)網(wǎng)絡(luò)中的激活功能，無(wú)論積累的信息是否足以“激活”神經(jīng)元，這種激活功能都可以讓“激活”得以實(shí)現(xiàn)。
然后，將最終結(jié)果傳輸其他神經(jīng)元，如此這般循環(huán)往復(fù)。
下面我們將看到人腦中神經(jīng)元拓?fù)涞暮?jiǎn)化示意圖。在這幅圖中，我們可以更多的關(guān)注整個(gè)循環(huán)和神經(jīng)元之間相互反饋所蘊(yùn)含著的的巨大潛力。
在像人腦這樣的生物神經(jīng)網(wǎng)絡(luò)中，學(xué)習(xí)是指對(duì)目前的表現(xiàn)不斷進(jìn)行細(xì)微調(diào)整，在任何學(xué)習(xí)之前，人腦的結(jié)構(gòu)中都會(huì)儲(chǔ)存相關(guān)的重要信息。網(wǎng)絡(luò)拓補(bǔ)是指神經(jīng)元或權(quán)重之間的連接強(qiáng)度不會(huì)隨機(jī)改變，連接結(jié)構(gòu)也不會(huì)隨機(jī)開(kāi)始。這種初始狀態(tài)部分是由遺傳衍生的，是進(jìn)化的副產(chǎn)品。
隨著時(shí)間的推移，網(wǎng)絡(luò)通過(guò)調(diào)整拓?fù)浜蜋?quán)重來(lái)學(xué)習(xí)如何執(zhí)行新功能。研究后的事實(shí)表明，這種方式剛開(kāi)始會(huì)適用于大多數(shù)任務(wù)，一個(gè)月大的新生兒可以通過(guò)他們學(xué)到的父母與陌生人的差別來(lái)辨別相貌，換句話說(shuō)就是，識(shí)別人臉的概念在很大程度上是父母遺傳給孩子的。
隨著嬰兒的不斷成長(zhǎng)，他們歷經(jīng)了童年、青春期、成年期，甚至到了退休年齡。他們每天都會(huì)遇見(jiàn)認(rèn)識(shí)一些新朋友，并且要記下他們的樣貌。通過(guò)對(duì)大腦中的神經(jīng)網(wǎng)絡(luò)進(jìn)行一些細(xì)微改變，他們就能完成對(duì)相貌的記憶了。
同樣的學(xué)習(xí)現(xiàn)象也發(fā)生在其他任務(wù)中，包括被動(dòng)感知，從識(shí)別通用對(duì)象到語(yǔ)音模式下的聲音處理，再到一些像運(yùn)動(dòng)和交談?lì)惖幕顒?dòng)任務(wù)，神經(jīng)網(wǎng)絡(luò)逐步學(xué)習(xí)這些技能，為了完善這些技能，一些更小的改動(dòng)也在推進(jìn)。
精確的拓?fù)浣Y(jié)構(gòu)是一種刺激型函數(shù)，用于訓(xùn)練生物神經(jīng)網(wǎng)絡(luò)。其中，由David Hubel和TorstenWiesel領(lǐng)導(dǎo)的單眼剝離研究就是一個(gè)顯著的例子。該研究是在動(dòng)物發(fā)育過(guò)程中迫使動(dòng)物閉眼兩個(gè)月，然后觀察這段時(shí)間內(nèi)動(dòng)物主要視覺(jué)皮層的變化。
結(jié)果表明，通常情況下，會(huì)對(duì)雙眼輸入產(chǎn)生反應(yīng)的細(xì)胞在經(jīng)過(guò)兩個(gè)月的實(shí)驗(yàn)之后不再產(chǎn)生反應(yīng)。他們的大腦和眼睛中的細(xì)胞都發(fā)生了改變。再把這種現(xiàn)象拓展到人類(lèi)身上，例如，對(duì)視覺(jué)感知進(jìn)行的心理測(cè)驗(yàn)表明，長(zhǎng)時(shí)間在城市中生活的人往往對(duì)平行線條和尖銳的梯度更敏感，可能是因?yàn)槌鞘械缆?、摩天大樓和窗戶的平行結(jié)構(gòu)過(guò)多，而一些長(zhǎng)時(shí)間生活在農(nóng)村的人往往對(duì)光滑紋理漸變更加敏感。
與生物神經(jīng)網(wǎng)絡(luò)不同，對(duì)于手頭上的問(wèn)題，人工神經(jīng)網(wǎng)絡(luò)（ANN）通常使用一種固定的拓補(bǔ)方式從零開(kāi)始進(jìn)行訓(xùn)練。目前，人工神經(jīng)網(wǎng)絡(luò)的拓?fù)洳粫?huì)隨時(shí)間而變化，為了使輸入的映射聚合函數(shù)達(dá)到期望的輸出值，權(quán)重會(huì)通過(guò)優(yōu)化算法的方式隨機(jī)初始化并進(jìn)行相應(yīng)地調(diào)整。然而，ANN也可以在已有表示法的基礎(chǔ)上進(jìn)行學(xué)習(xí)，我們將這個(gè)過(guò)程稱(chēng)為微調(diào)，包括以一種相對(duì)較慢的學(xué)習(xí)速率對(duì)來(lái)自“預(yù)訓(xùn)練”網(wǎng)絡(luò)拓?fù)涞臋?quán)重進(jìn)行調(diào)整，這樣的話，ANN就能在新的輸入訓(xùn)練中表現(xiàn)良好。
我們也可以毫不費(fèi)力地復(fù)制ANN，但是在我們復(fù)制ANN之前，還需要用一段時(shí)間去研究人類(lèi)大腦。
無(wú)論從零開(kāi)始訓(xùn)練還是進(jìn)行微調(diào)訓(xùn)練，權(quán)重的更新都是從神經(jīng)網(wǎng)絡(luò)傳遞數(shù)據(jù)、測(cè)量結(jié)果、再進(jìn)行相應(yīng)地修改而開(kāi)始的。這就是人工神經(jīng)網(wǎng)絡(luò)“學(xué)習(xí)”的整個(gè)過(guò)程。權(quán)重會(huì)最大化的提高所需任務(wù)的性能，例如最大化提高輸入樣本的識(shí)別準(zhǔn)確度。我們可以把這種學(xué)習(xí)概念比作成一個(gè)嘗試辨別出日常物品的孩子。當(dāng)孩子認(rèn)錯(cuò)物品之后，會(huì)對(duì)好好思考這個(gè)答案是否準(zhǔn)確，從而獲得反饋，然后從不同的角度進(jìn)行再次嘗試，最終得到一個(gè)正確答案。當(dāng)ANN進(jìn)行學(xué)習(xí)時(shí)，也能夠執(zhí)行相同的任務(wù)。然后完善對(duì)已知刺激反應(yīng)的理解，完善學(xué)習(xí)機(jī)制來(lái)調(diào)整權(quán)重，以便最大化其以后對(duì)新刺激反應(yīng)的精準(zhǔn)度。
一旦這個(gè)學(xué)習(xí)過(guò)程完成，對(duì)于那些在之前的學(xué)習(xí)過(guò)程中沒(méi)有暴露出來(lái)的問(wèn)題，孩子和ANN就可以根據(jù)以前的經(jīng)驗(yàn)對(duì)新刺激做出反應(yīng)。盡可能多的讓孩子們接觸到類(lèi)似問(wèn)題，將對(duì)他們的學(xué)習(xí)產(chǎn)生極大的幫助。孩子遇見(jiàn)處理的問(wèn)題越多，他們處理新問(wèn)題的速度就越快，因?yàn)榻?jīng)過(guò)反復(fù)多次的訓(xùn)練之后，孩子大腦中相關(guān)神經(jīng)元的連接變得更加明確了。在這個(gè)方面，ANN與孩子學(xué)習(xí)的過(guò)程類(lèi)似——ANN若是能在問(wèn)題中更多地接觸到那些可能會(huì)刺激自身的各種分布，它就能更加準(zhǔn)確的對(duì)從未接觸過(guò)的新刺激中的同種分布作出正確反應(yīng)。
長(zhǎng)期以來(lái)的經(jīng)驗(yàn)讓我們明白，即使學(xué)習(xí)有時(shí)會(huì)給孩子們帶來(lái)痛苦，但對(duì)于孩子們來(lái)說(shuō)，越多的接觸世界越好。事實(shí)上，當(dāng)在學(xué)習(xí)中感受到痛苦時(shí)，痛苦本身就是一個(gè)極大的反饋機(jī)制。同樣的，對(duì)于ANN來(lái)說(shuō)，暴露于各種特定領(lǐng)域中，接受各種刺激是非常重要的，因?yàn)檫@樣可以讓ANN受到廣泛的訓(xùn)練或微調(diào)，讓其與任何類(lèi)型的神經(jīng)網(wǎng)絡(luò)相適應(yīng)，而不是僅局限于某一種特定的刺激中。
對(duì)特定的刺激類(lèi)別的附加表示進(jìn)行研究后，我們發(fā)現(xiàn)，網(wǎng)絡(luò)可以更好的對(duì)新刺激或新概念進(jìn)行分類(lèi)。這種分類(lèi)適用于生物神經(jīng)網(wǎng)絡(luò)和人工神經(jīng)網(wǎng)絡(luò)，雖然生物神經(jīng)網(wǎng)絡(luò)在泛化方面做得更加出色。一部分原因是由于生物神經(jīng)網(wǎng)絡(luò)能夠更多的暴露在各種數(shù)據(jù)類(lèi)型和模式中，也有一部分原因是由于它們擁有更先進(jìn)的生物拓?fù)浜蛯W(xué)習(xí)算法，當(dāng)然了，很大程度上是收到達(dá)爾文主義的影響。
這個(gè)例子源于Nassim Taleb提出的黑天鵝理論。黑天鵝理論是基于十六世紀(jì)倫敦出現(xiàn)的一種普遍性現(xiàn)象，因?yàn)楫?dāng)時(shí)沒(méi)有任何其他有色天鵝的記錄，所以人們都認(rèn)為所有的天鵝都是白色的。因此，在人們的意識(shí)中，天鵝必須是白色的，只有白色的才能被稱(chēng)之為天鵝。直至后來(lái)，荷蘭的探險(xiǎn)家Willem de Vlamingh親眼在西澳見(jiàn)到了黑天鵝，才將這種嚴(yán)格的天鵝分類(lèi)法改變。
這里出現(xiàn)的一種觀點(diǎn)是，如果一個(gè)人在長(zhǎng)大后才看到白天鵝，這個(gè)人的神經(jīng)網(wǎng)絡(luò)只能在白色天鵝的環(huán)境中進(jìn)行訓(xùn)練，然后創(chuàng)造出一個(gè)自我虛構(gòu)的“黑天鵝”形象，如果我們從未見(jiàn)過(guò)黑天鵝，那么就不能全面地對(duì)天鵝進(jìn)行分類(lèi)。如果一個(gè)人長(zhǎng)大后見(jiàn)過(guò)黑天鵝，也見(jiàn)過(guò)白天鵝，那么這類(lèi)人更適合去劃分天鵝的類(lèi)別，因?yàn)橐粋€(gè)見(jiàn)識(shí)過(guò)各種天鵝種類(lèi)的生物神經(jīng)網(wǎng)絡(luò)，在經(jīng)過(guò)廣泛的“訓(xùn)練”之后，能夠更清晰的分辨出天鵝所具有的特性。
普遍情況下，以前學(xué)習(xí)到的處理抽象知識(shí)的能力將會(huì)非常有用的，可以通過(guò)輕量化調(diào)整快速地跨領(lǐng)域解決問(wèn)題——這個(gè)過(guò)程稱(chēng)之為微調(diào)，微調(diào)也是神經(jīng)網(wǎng)絡(luò)解決遷移學(xué)習(xí)和領(lǐng)域適應(yīng)問(wèn)題的一種方案。事實(shí)上，其中一個(gè)原因是由于并沒(méi)有那么多的神經(jīng)元連接需要重新布線。平均數(shù)據(jù)顯示，狂熱的滑雪愛(ài)好者的滑雪速度比滑雪新手要快得多。為什么那些用于物體檢測(cè)的人造神經(jīng)網(wǎng)絡(luò)會(huì)在面部識(shí)別上表現(xiàn)優(yōu)異，甚至超過(guò)了專(zhuān)門(mén)用于面部識(shí)別的人造神經(jīng)網(wǎng)絡(luò)呢？
我們需要明確的一點(diǎn)是，如今，人工神經(jīng)網(wǎng)絡(luò)還處于起步階段。雖然人造神經(jīng)網(wǎng)絡(luò)在結(jié)構(gòu)上與生物神經(jīng)網(wǎng)絡(luò)相類(lèi)似，但對(duì)于權(quán)重概念、神經(jīng)元（功能單位）、拓?fù)鋵W(xué)習(xí)和學(xué)習(xí)算法來(lái)說(shuō)，許多人類(lèi)能完成的復(fù)雜任務(wù)，它們還不能做到。人工神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)要簡(jiǎn)單得多，數(shù)量級(jí)也要小一些，學(xué)習(xí)算法比較幼稚。此外，他們還不能同時(shí)進(jìn)行大量異構(gòu)任務(wù)的訓(xùn)練。
我們將繼續(xù)構(gòu)建ANN來(lái)解決一些難題，比如，檢測(cè)未知類(lèi)型的惡意軟件：我們還將繼續(xù)了解人類(lèi)大腦，探索大腦如何完成任務(wù)。實(shí)際上，ANN的準(zhǔn)確性和速度都將優(yōu)于專(zhuān)業(yè)分析人員。大腦中的動(dòng)作電位以千秒數(shù)傳播，然而ANN可更快的對(duì)數(shù)據(jù)量進(jìn)行分類(lèi)。
對(duì)于其他任務(wù)，ANN將發(fā)揮自己的優(yōu)勢(shì)，大大增強(qiáng)和完善人類(lèi)的最強(qiáng)思維能力，使大型的工作流程自動(dòng)化。
在不久的將來(lái)，ANN還將以近似甚至是超過(guò)人類(lèi)的水平來(lái)執(zhí)行其他任務(wù)，在數(shù)學(xué)上和結(jié)構(gòu)上也將與生物神經(jīng)網(wǎng)絡(luò)更加相似。
如何加入學(xué)會(huì)
注冊(cè)學(xué)會(huì)會(huì)員：
個(gè)人會(huì)員：
聯(lián)系客服
