自動駕駛汽車接近停車標(biāo)志，但并沒有減速，而是加速駛?cè)敕泵Φ氖致房?。后來的一份事故報告顯示，標(biāo)牌的表面已經(jīng)粘了四個小矩形。這些人欺騙了汽車的車載人工智能(AI)，將“停止”一詞誤讀為“限速45”。
此類事件實際上并未發(fā)生，但是破壞AI的潛力是非?，F(xiàn)實的。研究人員已經(jīng)證明了如何愚弄的AI系統(tǒng)進入誤讀停止的跡象，通過仔細定位貼紙1。他們通過在眼鏡或帽子上貼上印刷圖案來欺騙人臉識別系統(tǒng)。通過在音頻中插入白噪聲模式，他們欺騙了語音識別系統(tǒng)以聽取幻象短語。
這些只是打破AI中領(lǐng)先的模式識別技術(shù)(稱為深度神經(jīng)網(wǎng)絡(luò)(DNN))的難易程度的一些示例。事實證明，這些方法在正確分類各種輸入(包括圖像，語音和有關(guān)消費者偏好的數(shù)據(jù))方面非常成功。它們是日常生活的一部分，運行從自動電話系統(tǒng)到流媒體服務(wù)Netflix上的用戶推薦的所有內(nèi)容。然而，以人類通常難以察覺的微小變化的形式對輸入進行更改，可能會混淆周圍最好的神經(jīng)網(wǎng)絡(luò)。
加利福尼亞大學(xué)伯克利分校計算機科學(xué)博士學(xué)位的學(xué)生Dan Hendrycks說，這些問題比不完美的技術(shù)中的怪異怪癖更令人擔(dān)憂。像許多科學(xué)家一樣，他開始將它們視為DNN從根本上是脆性的最驚人的例證：出色地完成了他們的工作，直到進入陌生領(lǐng)域，它們以無法預(yù)測的方式破裂。
標(biāo)簽：
免責(zé)聲明：本文由用戶上傳，如有侵權(quán)請聯(lián)系刪除！