研究人員開發(fā)了一種新的脈沖神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法

開發(fā)能夠像人腦一樣高效地處理信息的機(jī)器一直是實(shí)現(xiàn)真正人工智能的長期研究目標(biāo)。由 Mihai Petrovici 博士領(lǐng)導(dǎo)的海德堡大學(xué)和伯爾尼大學(xué)(瑞士)的跨學(xué)科研究小組正在借助受生物啟發(fā)的人工神經(jīng)網(wǎng)絡(luò)解決這個問題。尖峰神經(jīng)網(wǎng)絡(luò)模仿自然神經(jīng)系統(tǒng)的結(jié)構(gòu)和功能，因?yàn)樗鼈儚?qiáng)大、快速且節(jié)能，是很有前途的候選者。一項(xiàng)關(guān)鍵挑戰(zhàn)是如何訓(xùn)練如此復(fù)雜的系統(tǒng)。德國-瑞士研究團(tuán)隊(duì)現(xiàn)已開發(fā)并成功實(shí)施了一種實(shí)現(xiàn)此類訓(xùn)練的算法。

大腦中的神經(jīng)細(xì)胞(或神經(jīng)元)使用稱為尖峰的短電脈沖傳輸信息。當(dāng)超過某個刺激閾值時會觸發(fā)這些尖峰。單個神經(jīng)元產(chǎn)生這種尖峰的頻率和各個尖峰的時間順序?qū)τ谛畔⒔粨Q都至關(guān)重要。“生物尖峰網(wǎng)絡(luò)與人工神經(jīng)網(wǎng)絡(luò)的主要區(qū)別在于，因?yàn)樗鼈兪褂没诩夥宓男畔⑻幚?，所以它們可以以極高的能源效率解決復(fù)雜的任務(wù)，例如圖像識別和分類，”博士生 Julian Göltz 說。 Petrovici 博士的研究小組。

人類大腦和結(jié)構(gòu)相似的人工尖峰神經(jīng)網(wǎng)絡(luò)只有在各個神經(jīng)元相互正確連接的情況下才能發(fā)揮其全部潛力。但是，如何調(diào)整受大腦啟發(fā)(即神經(jīng)形態(tài))系統(tǒng)以正確處理尖峰輸入?“這個問題對于開發(fā)基于生物模型的強(qiáng)大人工網(wǎng)絡(luò)至關(guān)重要，”同時也是 Petrovici 博士研究團(tuán)隊(duì)成員的 Laura Kriener 強(qiáng)調(diào)說。需要特殊的算法來保證尖峰神經(jīng)網(wǎng)絡(luò)中的神經(jīng)元在正確的時間觸發(fā)。這些算法調(diào)整神經(jīng)元之間的連接，以便網(wǎng)絡(luò)可以執(zhí)行所需的任務(wù)，例如對圖像進(jìn)行高精度分類。

Petrovici 博士指導(dǎo)下的團(tuán)隊(duì)開發(fā)了這樣一種算法。“使用這種方法，我們可以訓(xùn)練尖峰神經(jīng)網(wǎng)絡(luò)以僅在單個尖峰中編碼和傳輸信息。因此，它們特別快速有效地產(chǎn)生了所需的結(jié)果，”Julian Göltz 解釋道。此外，研究人員成功地在物理平臺上實(shí)現(xiàn)了一個用這種算法訓(xùn)練的神經(jīng)網(wǎng)絡(luò)——海德堡大學(xué)開發(fā)的 BrainScaleS-2 神經(jīng)形態(tài)硬件平臺。

據(jù)研究人員稱，BrainScaleS 系統(tǒng)處理信息的速度比人腦快一千倍，并且比傳統(tǒng)計算機(jī)系統(tǒng)需要的能量少得多。它是歐洲人腦計劃的一部分，該計劃將神經(jīng)形態(tài)計算等技術(shù)集成到一個名為 EBRAINS 的開放平臺中。“然而，我們的工作不僅對神經(jīng)形態(tài)計算和受生物啟發(fā)的硬件感興趣。它還承認(rèn)科學(xué)界需要將所謂的深度學(xué)習(xí)方法轉(zhuǎn)移到神經(jīng)科學(xué)，從而進(jìn)一步揭開人腦的秘密，”Petrovici 博士強(qiáng)調(diào)說。

標(biāo)簽：