2013 年,歐盟「人腦計劃」(Human Brain Project,HBP)正式啟動,是歐洲最大的腦科學(xué)項目,也是歐盟資助的最大研究項目之一。是歐盟首批為期 10 年、預(yù)算 10 億歐元的「旗艦」項目。這是繼人類基因組計劃之后的又一個全球性的大科學(xué)項目。在神經(jīng)科學(xué)和信息技術(shù)的接口上,HBP 借助計算、神經(jīng)信息學(xué)和人工智能的高度先進(jìn)方法研究大腦及其疾病,進(jìn)而推動類腦計算和神經(jīng)機器人等領(lǐng)域的創(chuàng)新。HBP 主要創(chuàng)始人、著名神經(jīng)科學(xué)家亨利·馬克拉姆(Henry Markram)提出,「在 10 年內(nèi),用計算機模擬人類大腦的近千億個神經(jīng)元以及它們之間 100 萬億個連接」,這個宏偉目標(biāo)也激發(fā)了熱烈討論甚至爭議。但因為大腦實在太過復(fù)雜,在 10 年內(nèi)做到這一點確實不易。2020 年,「人腦計劃」這項為期 10 年的項目最后階段將從「地平線 2020」預(yù)算中獲得 1.5 億歐元,這是歐盟的最新一筆撥款。伯爾尼大學(xué)生理學(xué)系研究團(tuán)隊參與了 HBP 研究。研究人員現(xiàn)在開發(fā)了一種基于所謂進(jìn)化算法的新方法。這些計算機程序通過模仿生物進(jìn)化的過程來尋找問題的解決方案,例如自然選擇的概念。因此,描述生物體適應(yīng)環(huán)境的程度的生物適應(yīng)性成為進(jìn)化算法的模型。該研究以「Evolving interpretable plasticity for spiking networks」為題,于 2021 年 10 月 28 日發(fā)表在《eLife》雜志上。https://elifesciences.org/articles/66273算法模擬生物進(jìn)化
我們的大腦具有令人難以置信的適應(yīng)性。每一天,我們都會形成新的記憶、獲取新的知識或完善現(xiàn)有的技能。這與我們當(dāng)前的計算機形成鮮明對比,計算機通常只執(zhí)行預(yù)編程的操作。我們適應(yīng)性的核心在于突觸可塑性。突觸是神經(jīng)元之間的連接點,根據(jù)使用方式的不同,突觸會發(fā)生不同的變化。這種突觸可塑性是神經(jīng)科學(xué)的一個重要研究課題,它是學(xué)習(xí)過程和記憶的核心。破譯突觸可塑性的方法可以大致分為自下而上和自上而下。自下而上的方法通常依賴于實驗數(shù)據(jù)來推導(dǎo)出突觸參數(shù)的動態(tài)方程,如果適當(dāng)?shù)厍度氲骄W(wǎng)絡(luò)中,這些方程會導(dǎo)致功能性出現(xiàn)的宏觀行為。自上而下的方法以相反的方向進(jìn)行:從網(wǎng)絡(luò)功能的高級描述,例如,根據(jù)目標(biāo)函數(shù),推導(dǎo)出突觸變化的動態(tài)方程,并建議生物物理學(xué)上合理的實現(xiàn)。圖示:尖峰神經(jīng)元網(wǎng)絡(luò)中突觸可塑性規(guī)則的人工進(jìn)化。(來源:論文)為了更好地了解這些大腦過程并構(gòu)建自適應(yīng)機器,神經(jīng)科學(xué)和人工智能 (AI) 領(lǐng)域的研究人員正在為這些過程背后的機制創(chuàng)建模型。這種用于學(xué)習(xí)和可塑性的模型有助于理解生物信息處理,使機器能夠更快地學(xué)習(xí)。在這里,研究人員建議采用一種自動化方法,來發(fā)現(xiàn)明確解決這些問題的尖峰神經(jīng)元網(wǎng)絡(luò)中的學(xué)習(xí)規(guī)則。自動化程序?qū)⑸锟伤苄詸C制的搜索解釋為優(yōu)化問題,這種想法通常被稱為元學(xué)習(xí)或?qū)W會學(xué)習(xí)。然后,擴展了元學(xué)習(xí)思想,來發(fā)現(xiàn)用于尖峰神經(jīng)元網(wǎng)絡(luò)的自由形式但可解釋的可塑性規(guī)則。采用遺傳編程作為搜索算法。新開發(fā)的方法被稱為「進(jìn)化到學(xué)習(xí)」(evolving-to-learn,E2L) 方法。應(yīng)用于三種不同的神經(jīng)元網(wǎng)絡(luò)學(xué)習(xí)范式:獎勵驅(qū)動、錯誤驅(qū)動和相關(guān)驅(qū)動學(xué)習(xí)。研究結(jié)果證明了自動化程序在搜索尖峰神經(jīng)元網(wǎng)絡(luò)的可塑性規(guī)則方面的巨大潛力,類似于從手工設(shè)計到現(xiàn)代機器學(xué)習(xí)核心的學(xué)習(xí)特征的轉(zhuǎn)變。驚人的創(chuàng)造力
使用遺傳編程 (GP) 作為一種進(jìn)化算法,來發(fā)現(xiàn)尖峰神經(jīng)元網(wǎng)絡(luò)中的可塑性規(guī)則。GP 將突變和選擇壓力應(yīng)用于最初隨機的計算機程序群,以人工進(jìn)化具有所需行為的算法??紤]到數(shù)學(xué)表達(dá)式的演變,研究人員采用特定形式的 GP:笛卡爾遺傳編程(Cartesian genetic programming,GCP)。圖示:笛卡爾遺傳編程中數(shù)學(xué)表達(dá)式的表示和變異。(來源:論文)研究小組用三種典型的學(xué)習(xí)場景來對抗進(jìn)化算法。首先,計算機必須在不接收有關(guān)其性能的反饋的情況下檢測連續(xù)輸入流中的重復(fù)模式。在第二種場景下,計算機在以特定的期望方式執(zhí)行時,會收到虛擬獎勵。最后,在第三個「引導(dǎo)學(xué)習(xí)」的場景中,計算機被精確地告知其行為與預(yù)期的偏離程度。圖示:笛卡爾遺傳編程進(jìn)化出各種有效的獎勵驅(qū)動學(xué)習(xí)規(guī)則。(來源:論文)圖示:笛卡爾遺傳編程進(jìn)化出高效的錯誤驅(qū)動學(xué)習(xí)規(guī)則。(來源:論文)圖示:笛卡爾遺傳編程進(jìn)化出各種相關(guān)驅(qū)動的學(xué)習(xí)規(guī)則。(來源:論文)
本站僅提供存儲服務(wù),所有內(nèi)容均由用戶發(fā)布,如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請
點擊舉報。