研究人員開發(fā)了一種新的脈沖神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法

開發(fā)能夠像人腦一樣高效地處理信息的機(jī)器一直是實(shí)現(xiàn)真正人工智能的長期研究目標(biāo)。由 Mihai Petrovici 博士領(lǐng)導(dǎo)的海德堡大學(xué)和伯爾尼大學(xué)(瑞士)的跨學(xué)科研究小組正在借助受生物啟發(fā)的人工神經(jīng)網(wǎng)絡(luò)解決這個(gè)問題。尖峰神經(jīng)網(wǎng)絡(luò)模仿自然神經(jīng)系統(tǒng)的結(jié)構(gòu)和功能，因?yàn)樗鼈儚?qiáng)大、快速且節(jié)能，是很有前途的候選者。一項(xiàng)關(guān)鍵挑戰(zhàn)是如何訓(xùn)練如此復(fù)雜的系統(tǒng)。德國-瑞士研究團(tuán)隊(duì)現(xiàn)已開發(fā)并成功實(shí)施了一種實(shí)現(xiàn)此類訓(xùn)練的算法。

大腦中的神經(jīng)細(xì)胞(或神經(jīng)元)使用稱為尖峰的短電脈沖傳輸信息。當(dāng)超過某個(gè)刺激閾值時(shí)會(huì)觸發(fā)這些尖峰。單個(gè)神經(jīng)元產(chǎn)生這種尖峰的頻率和各個(gè)尖峰的時(shí)間順序?qū)τ谛畔⒔粨Q都至關(guān)重要。“生物尖峰網(wǎng)絡(luò)與人工神經(jīng)網(wǎng)絡(luò)的主要區(qū)別在于，因?yàn)樗鼈兪褂没诩夥宓男畔⑻幚恚运鼈兛梢砸詷O高的能源效率解決復(fù)雜的任務(wù)，例如圖像識(shí)別和分類，”博士生 Julian Göltz 說。 Petrovici 博士的研究小組。

人類大腦和結(jié)構(gòu)相似的人工尖峰神經(jīng)網(wǎng)絡(luò)只有在各個(gè)神經(jīng)元相互正確連接的情況下才能發(fā)揮其全部潛力。但是，如何調(diào)整受大腦啟發(fā)(即神經(jīng)形態(tài))系統(tǒng)以正確處理尖峰輸入?“這個(gè)問題對(duì)于開發(fā)基于生物模型的強(qiáng)大人工網(wǎng)絡(luò)至關(guān)重要，”同時(shí)也是 Petrovici 博士研究團(tuán)隊(duì)成員的 Laura Kriener 強(qiáng)調(diào)說。需要特殊的算法來保證尖峰神經(jīng)網(wǎng)絡(luò)中的神經(jīng)元在正確的時(shí)間觸發(fā)。這些算法調(diào)整神經(jīng)元之間的連接，以便網(wǎng)絡(luò)可以執(zhí)行所需的任務(wù)，例如對(duì)圖像進(jìn)行高精度分類。

Petrovici 博士指導(dǎo)下的團(tuán)隊(duì)開發(fā)了這樣一種算法。“使用這種方法，我們可以訓(xùn)練尖峰神經(jīng)網(wǎng)絡(luò)以僅在單個(gè)尖峰中編碼和傳輸信息。因此，它們特別快速有效地產(chǎn)生了所需的結(jié)果，”Julian Göltz 解釋道。此外，研究人員成功地在物理平臺(tái)上實(shí)現(xiàn)了一個(gè)用這種算法訓(xùn)練的神經(jīng)網(wǎng)絡(luò)——海德堡大學(xué)開發(fā)的 BrainScaleS-2 神經(jīng)形態(tài)硬件平臺(tái)。

據(jù)研究人員稱，BrainScaleS 系統(tǒng)處理信息的速度比人腦快一千倍，并且比傳統(tǒng)計(jì)算機(jī)系統(tǒng)需要的能量少得多。它是歐洲人腦計(jì)劃的一部分，該計(jì)劃將神經(jīng)形態(tài)計(jì)算等技術(shù)集成到一個(gè)名為 EBRAINS 的開放平臺(tái)中。“然而，我們的工作不僅對(duì)神經(jīng)形態(tài)計(jì)算和受生物啟發(fā)的硬件感興趣。它還承認(rèn)科學(xué)界需要將所謂的深度學(xué)習(xí)方法轉(zhuǎn)移到神經(jīng)科學(xué)，從而進(jìn)一步揭開人腦的秘密，”Petrovici 博士強(qiáng)調(diào)說。

標(biāo)簽：