弗林德斯大學(xué)醫(yī)學(xué)研究人員對(duì)該技術(shù)進(jìn)行了測(cè)試，并看到了它是如何失敗的，他們表示，生成式人工智能迫切需要政府和行業(yè)的護(hù)欄來(lái)保護(hù)我們社區(qū)的健康和福祉。
快速發(fā)展的生成式人工智能(Generative AI)是一個(gè)因其創(chuàng)建文本、圖像和視頻的能力而備受贊譽(yù)的尖端領(lǐng)域，在研究中被用來(lái)測(cè)試如何創(chuàng)建和傳播有關(guān)健康和醫(yī)療問(wèn)題的虛假信息，甚至連研究人員都感到震驚通過(guò)結(jié)果。
在這項(xiàng)研究中，該團(tuán)隊(duì)試圖使用生成式人工智能工具進(jìn)行文本、圖像和視頻創(chuàng)建，來(lái)制造有關(guān)電子煙和疫苗的虛假信息。
在短短一個(gè)多小時(shí)內(nèi)，他們制作了 100 多個(gè)誤導(dǎo)性博客、20 張欺騙性圖片以及令人信服的深度造假視頻，聲稱(chēng)健康虛假信息。令人擔(dān)憂(yōu)的是，該視頻可能被改編成 40 多種語(yǔ)言，從而放大了其潛在危害。
第一作者、注冊(cè)藥劑師、弗林德斯大學(xué)研究員布拉德利·門(mén)茨 (Bradley Menz) 表示，他對(duì)研究結(jié)果表示嚴(yán)重?fù)?dān)憂(yōu)，他借鑒了之前導(dǎo)致恐懼、困惑和傷害的虛假信息流行病的例子。
“我們的研究結(jié)果的含義很明確：社會(huì)目前正處于人工智能革命的風(fēng)口浪尖，但在實(shí)施過(guò)程中，政府必須執(zhí)行法規(guī)，以盡量減少惡意使用這些工具誤導(dǎo)社區(qū)的風(fēng)險(xiǎn)，”門(mén)茨先生說(shuō)。
“我們的研究表明，使用當(dāng)前可用的人工智能工具來(lái)生成大量有關(guān)關(guān)鍵健康主題的強(qiáng)制性和有針對(duì)性的誤導(dǎo)性?xún)?nèi)容是多么容易，其中包括數(shù)百個(gè)捏造的臨床醫(yī)生和患者感言以及虛假但令人信服的引人注目的標(biāo)題。”
標(biāo)簽：
免責(zé)聲明：本文由用戶(hù)上傳，如有侵權(quán)請(qǐng)聯(lián)系刪除！