研究人員假設(shè),一種被稱為變壓器的強(qiáng)大人工智能模型可以通過神經(jīng)元和星形膠質(zhì)細(xì)胞網(wǎng)絡(luò)在大腦中實(shí)現(xiàn)。這項(xiàng)工作可以深入了解大腦的工作原理,并幫助科學(xué)家理解為什么 Transformer 在機(jī)器學(xué)習(xí)任務(wù)中如此有效。圖片來源:MIT News,數(shù)據(jù)來自 iStock
一項(xiàng)連接神經(jīng)科學(xué)和機(jī)器學(xué)習(xí)的新研究提供了對星形膠質(zhì)細(xì)胞在人腦中潛在作用的見解。
人工神經(jīng)網(wǎng)絡(luò)是無處不在的機(jī)器學(xué)習(xí)模型,可以經(jīng)過訓(xùn)練來完成許多任務(wù)。他們的名字源于這樣一個(gè)事實(shí):他們的架構(gòu)受到生物神經(jīng)元處理人腦信息的方式的啟發(fā)。
大約六年前,科學(xué)家們發(fā)現(xiàn)了一種更強(qiáng)大的新型神經(jīng)網(wǎng)絡(luò)模型,稱為“變壓器”。這些模型可以實(shí)現(xiàn)前所未有的性能,例如通過以接近人類的準(zhǔn)確性根據(jù)提示生成文本。例如,變壓器是 OpenAI 的 ChatGPT 和 Google 的 Bard 等人工智能系統(tǒng)的基礎(chǔ)。雖然非常有效,但變形金剛也很神秘:與其他受大腦啟發(fā)的神經(jīng)網(wǎng)絡(luò)模型不同,目前尚不清楚如何使用生物組件構(gòu)建它們。
連接生物學(xué)和變形金剛
現(xiàn)在,來自麻省理工學(xué)院、麻省理工學(xué)院-IBM 沃森人工智能實(shí)驗(yàn)室和哈佛醫(yī)學(xué)院的研究人員提出了一個(gè)假設(shè),可以解釋如何使用大腦中的生物元素構(gòu)建變壓器。他們認(rèn)為,由神經(jīng)元和其他稱為星形膠質(zhì)細(xì)胞的腦細(xì)胞組成的生物網(wǎng)絡(luò)可以執(zhí)行與變壓器相同的核心計(jì)算。
最近的研究表明,星形膠質(zhì)細(xì)胞是大腦中豐富的非神經(jīng)元細(xì)胞,可以與神經(jīng)元進(jìn)行交流,并在一些生理過程中發(fā)揮作用,例如調(diào)節(jié)血流。但科學(xué)家們?nèi)匀粚@些細(xì)胞的計(jì)算功能缺乏清晰的了解。
這項(xiàng)新研究最近以開放獲取形式發(fā)表在《美國國家科學(xué)院院刊》上,研究人員從計(jì)算角度探討了星形膠質(zhì)細(xì)胞在大腦中的作用,并制作了一個(gè)數(shù)學(xué)模型來展示如何使用它們,與神經(jīng)元一起構(gòu)建一個(gè)生物學(xué)上合理的變壓器。
他們的假設(shè)提供了一些見解,可以激發(fā)未來對人腦如何運(yùn)作的神經(jīng)科學(xué)研究。同時(shí),它可以幫助機(jī)器學(xué)習(xí)研究人員解釋為什么 Transformer 在各種復(fù)雜任務(wù)中如此成功。
“大腦遠(yuǎn)遠(yuǎn)優(yōu)于我們開發(fā)的最好的人工神經(jīng)網(wǎng)絡(luò),但我們并不真正知道大腦到底是如何工作的。思考生物硬件和大規(guī)模人工智能網(wǎng)絡(luò)之間的聯(lián)系具有科學(xué)價(jià)值。這是人工智能的神經(jīng)科學(xué)和神經(jīng)科學(xué)的人工智能。”麻省理工學(xué)院-IBM 沃森人工智能實(shí)驗(yàn)室的研究人員、該研究論文的高級作者 Dmitry Krotov 說道。
標(biāo)簽:
免責(zé)聲明:本文由用戶上傳,如有侵權(quán)請聯(lián)系刪除!