IBM開發(fā)的一種新算法解決方案,是以生物學(xué)家在神經(jīng)生成方面的最新發(fā)現(xiàn)為基礎(chǔ)。
為何人腦能每天學(xué)習(xí)新事物,而且不必拋棄舊有記憶為新記憶騰出儲存空間?正在開發(fā)模仿人腦的機器算法之研究人員,試圖尋找各種答案。
一個相對較新的算法解決方案,是以生物學(xué)家在神經(jīng)生成(neurogenesis)──也就是新腦細(xì)胞(神經(jīng)元)的成長,以及舊腦細(xì)胞的消滅,還有這些腦細(xì)胞之間的大大小小連結(jié)(較強或較弱的突觸);主要是在海馬回(hippocampus)內(nèi)──方面的最新發(fā)現(xiàn)為基礎(chǔ)。
IBM Research的一個研究團(tuán)隊假設(shè),神經(jīng)生成是海馬回內(nèi)稀疏字典學(xué)習(xí)(Sparse dictionary learning)的關(guān)鍵;他們認(rèn)為,其功能是將最高效率的大腦編碼保持在最新狀態(tài)。
為了證實他們對于海馬回內(nèi)的神經(jīng)生長、死亡功能之假設(shè),IBM Research研究人員開發(fā)了神經(jīng)生成在線字典學(xué)習(xí)(neurogenetic online dictionary learning,NODL)算法,號稱表現(xiàn)超越標(biāo)準(zhǔn)的ODL算法,透過建立更精簡的表示方法(representation),改善了重建的準(zhǔn)確度。
IBM是在8月底于澳洲墨爾本舉行的IJCAI 2017國際人工智能聯(lián)合會上發(fā)表其最新研究成果;IBM Research的AI基礎(chǔ)研究團(tuán)隊科學(xué)家Irina Rish接受EE Times專訪時表示:“人們總是認(rèn)為,所有的腦細(xì)胞都是跟我們一起誕生,這些細(xì)胞可能會死亡,但是不會有新的腦細(xì)胞出生;但事實證明,很多大腦的干細(xì)胞(stem cells)是可以被打開,例如可取代受損的細(xì)胞?!?/p>
她表示,在海馬回內(nèi)的大腦干細(xì)胞一直處于開啟狀態(tài),以制造新的神經(jīng)元支持更好的大腦編碼;同樣的,糟糕的編碼會讓該神經(jīng)元死亡。
IBM的研究團(tuán)隊用標(biāo)準(zhǔn)化影像數(shù)據(jù)集來評估其NODL算法;從圖中可見NODL (藍(lán)色)表現(xiàn)超越ODL (紫色),藉由建立了更精簡的表示方法改善了重建準(zhǔn)確度 (來源:IBM Research)Rish是專攻人工智能的計算機科學(xué)家,她第一份工作是在IBM的機器學(xué)習(xí)團(tuán)隊,研究如何利用AI來診斷疾病;后來她轉(zhuǎn)調(diào)IBM的運算神經(jīng)科學(xué)(computational neuroscience)團(tuán)隊,現(xiàn)在則是加入AI基礎(chǔ)研究實驗室(AI Foundations Lab),負(fù)責(zé)開發(fā)深度學(xué)習(xí)以外模擬人腦各方面微妙功能的算法:“我們是第一個針對海馬回干細(xì)胞神經(jīng)元生/死功能進(jìn)行詳盡分析的團(tuán)隊。”
IBM在IJCAI大會上,以“神經(jīng)生成啟發(fā)字典學(xué)習(xí):適應(yīng)世界變化的在線模型”(Neurogenesis-Inspired Dictionary Learning: Online Model Adaption in a Changing World)為題,分享了其神經(jīng)生成在線字典學(xué)習(xí)模型,具備能適應(yīng)環(huán)境改變的加強能力,并展示了其NODL算法在準(zhǔn)確度上超越標(biāo)準(zhǔn)ODL的成果。
Rish的團(tuán)隊并沒有嘗試模仿海馬回內(nèi)的神經(jīng)生成,因為歐盟的Blue Brain研究項目正在進(jìn)行這方面的研究;IBM研究人員試圖揭開神經(jīng)生成功能奧秘,然后將結(jié)果導(dǎo)入軟件算法,以執(zhí)行相同的功能。Rish的團(tuán)隊并假設(shè)海馬回中的齒狀回(dentate gyrusof),能改善認(rèn)知功能,包括識別與分辨圖形。
深度學(xué)習(xí)算法通常是模仿人腦的神經(jīng)可塑性(neuroplasticity)──也就是突觸的使用增加就能使之強化,反之突觸很少使用就會萎縮;而神經(jīng)生成透過新生成稀疏神經(jīng)網(wǎng)絡(luò)來完成全新任務(wù),又藉由讓老舊、很少使用的神經(jīng)元死亡來徹底抹除過時任務(wù),如此為機器學(xué)習(xí)添加全新的面向,能定義全新的感知數(shù)據(jù)集“字典”、同時淘汰舊的,以響應(yīng)環(huán)境的改變。
Rish表示:“神經(jīng)生成解釋了人類的終身持續(xù)學(xué)習(xí)是如何完成──也就是那些新的、經(jīng)壓縮的數(shù)據(jù)編碼是如何能精煉過去非常大的架構(gòu),例如將龐大的深度神經(jīng)網(wǎng)絡(luò)以簡潔的版本取代,如此在運作上就能更快速、性能更好;”她指出,IBM的NODL模型對于今日快速變化的環(huán)境特別具有優(yōu)勢,神經(jīng)的死亡與神經(jīng)新生、還有以突觸為基礎(chǔ)的深度學(xué)習(xí)同等重要,
編譯:Judith Cheng
聯(lián)系客服