近年來，開發(fā)人員引入了人工智能(AI)系統(tǒng)，可以模擬或再現(xiàn)人類的各種能力，例如識別圖像中的物體、回答問題等。然而，與人類思維相比，人類思維會隨著時間的推移而退化，這些系統(tǒng)通常會保持相同的性能，甚至隨著時間的推移而提高其技能。
加州大學歐文分校的研究人員最近試圖在人工智能代理中模擬衰老和生物神經(jīng)變性(即神經(jīng)元的逐漸喪失和相關的心理能力下降)。他們的論文預先發(fā)表在arXiv上，可以為利用這種“人工神經(jīng)變性”執(zhí)行特定任務的創(chuàng)新人工智能系統(tǒng)的未來發(fā)展提供信息。
“這項研究的最初想法是在與 Baldi 博士和 Pishgar 博士共進晚餐時激發(fā)的，我們討論了神經(jīng)退行性變、學習和人工智能安全等一系列松散相關的主題，”該論文告訴 Tech Xplore。
“最重要的是，我的父親最近經(jīng)歷了嚴重的腦外傷和認知能力下降，這激勵我從一個新的角度更多地思考這個學科及其在計算機科學和深度學習中的直接應用。”
蔡和他的合作者最近的這項研究并不是旨在人工復制人類大腦疾病。相反，該團隊希望使人工智能代理的認知能力下降，以更好地理解復雜系統(tǒng)，從而潛在地增強其可解釋性和安全性。
“我們使用大型語言模型 (LLM)，更具體地說，LLaMA 2 進行的智商測試來引入‘神經(jīng)侵蝕’的概念，”Tsai 解釋道。 “這種故意的侵蝕涉及在訓練期間或之后消融突觸或神經(jīng)元或添加高斯噪聲，從而導致法學碩士的表現(xiàn)受到控制的下降。”
研究人員發(fā)現(xiàn)，當他們故意消融(即移除)LLaMA 2 模型的一些人工突觸或神經(jīng)元時，其在智商測試中的表現(xiàn)會按照特定的模式下降。他們的觀察結果可以為復雜人工智能系統(tǒng)的功能以及當其底層結構受到損害時首先和最后下降的功能提供新的線索。
蔡說：“除了建立總體框架之外，這項研究最有趣的發(fā)現(xiàn)也許是法學碩士失去了抽象思維能力，隨后是數(shù)學退化，最后是語言能力的喪失，對提示的反應不連貫。” “我們現(xiàn)在正在進行進一步的測試，以更好地理解這種觀察到的模式。”
標簽：
免責聲明：本文由用戶上傳，如有侵權請聯(lián)系刪除！