生成式人工智能工具，如 ChatGPT(一種人工智能驅(qū)動的語言工具)和 Midjourney(一種人工智能驅(qū)動的圖像生成器)，可以為各種殘疾人士提供潛在幫助。這些工具可以總結(jié)內(nèi)容、撰寫消息或描述圖像。然而，這種潛力的程度是一個(gè)懸而未決的問題，因?yàn)槌私?jīng)常出現(xiàn)錯(cuò)誤和基本推理失敗之外，這些工具還可能延續(xù)能力歧視偏見。
今年，華盛頓大學(xué)的七名研究人員利用他們自己作為殘疾人和非殘疾人的經(jīng)歷進(jìn)行了為期三個(gè)月的自民族志研究，以測試人工智能工具的可訪問性實(shí)用性。盡管研究人員發(fā)現(xiàn)這些工具很有用，但他們也發(fā)現(xiàn)人工智能工具在大多數(shù)用例中都存在重大問題，無論是生成圖像、編寫 Slack 消息、總結(jié)寫作還是試圖提高文檔的可訪問性。
該團(tuán)隊(duì)于 10 月 22 日在紐約舉行 的ASSETS 2023 會議上公布了其研究結(jié)果。
“當(dāng)技術(shù)迅速變化時(shí)，殘疾人總是有被拋在后面的風(fēng)險(xiǎn)，”資深作者、華盛頓大學(xué)保羅·G·艾倫計(jì)算機(jī)科學(xué)與工程學(xué)院教授詹妮弗·曼考夫(Jennifer Mankoff)說。“我非常相信第一人稱賬戶能夠幫助我們理解事物。因?yàn)槲覀儓F(tuán)隊(duì)中有很多人可以像殘疾人一樣體驗(yàn)人工智能，并了解哪些有效，哪些無效，所以我們認(rèn)為我們有一個(gè)獨(dú)特的機(jī)會來講述一個(gè)故事并了解這一點(diǎn)。”
該小組以七個(gè)小片段的形式展示了其研究成果，通常將經(jīng)驗(yàn)合并到單個(gè)賬戶中以保持匿名。例如，在第一個(gè)帳戶中，患有間歇性腦霧的“Mia”部署了總結(jié) PDF 的 ChatPDF.com 來幫助工作。雖然該工具有時(shí)是準(zhǔn)確的，但它經(jīng)常給出“完全錯(cuò)誤的答案”。
在一個(gè)案例中，該工具既不準(zhǔn)確，又存在體能歧視，將一篇論文的論點(diǎn)改變?yōu)槁犉饋硌芯咳藛T應(yīng)該與護(hù)理人員交談，而不是與慢性病患者交談。“米婭”能夠捕捉到這一點(diǎn)，因?yàn)檠芯咳藛T非常了解這篇論文，但曼科夫表示，這種微妙的錯(cuò)誤是使用人工智能的一些“最陰險(xiǎn)”的問題，因?yàn)樗鼈兒苋菀妆缓鲆暋?/p>
標(biāo)簽：
免責(zé)聲明：本文由用戶上傳，如有侵權(quán)請聯(lián)系刪除！