聊天機(jī)器人越來(lái)越成為世界各地醫(yī)療保健的一部分，但它們是否鼓勵(lì)偏見(jiàn)?這就是科羅拉多大學(xué)醫(yī)學(xué)院的研究人員在深入研究患者使用模擬對(duì)話的人工智能 (AI) 程序時(shí)所提出的問(wèn)題。
“有時(shí)被忽視的是聊天機(jī)器人的樣子——它的化身，”研究人員在發(fā)表于《內(nèi)科醫(yī)學(xué)年鑒》的一篇新論文中寫道。“當(dāng)前的聊天機(jī)器人化身從不露面的衛(wèi)生系統(tǒng)徽標(biāo)到卡通人物或類人漫畫(huà)不等。聊天機(jī)器人有一天可能成為患者醫(yī)生的數(shù)字化版本，具有該醫(yī)生的肖像和聲音。聊天機(jī)器人化身遠(yuǎn)非無(wú)害的設(shè)計(jì)決定，而是提出了新的道德規(guī)范關(guān)于助推和偏見(jiàn)的問(wèn)題。”
這篇題為“不僅僅是一張漂亮的臉蛋?聊天機(jī)器人中的輕推和偏見(jiàn)”的論文挑戰(zhàn)研究人員和醫(yī)療保健專業(yè)人員通過(guò)健康公平的視角仔細(xì)檢查聊天機(jī)器人，并調(diào)查該技術(shù)是否真正改善了患者的治療效果。
2021 年，Greenwall 基金會(huì)授予 CU Division of General Internal Medicine 副教授 Matthew DeCamp 醫(yī)學(xué)博士和他在 CU 醫(yī)學(xué)院的研究人員團(tuán)隊(duì)研究圍繞聊天機(jī)器人的倫理問(wèn)題。研究團(tuán)隊(duì)還包括醫(yī)學(xué)博士、MBA 醫(yī)學(xué)博士 Annie Moore 教授、Joyce 和 Dick Brown 捐贈(zèng)的患者體驗(yàn)同情教授、即將入學(xué)的醫(yī)學(xué)生 Marlee Akerson 以及 UCHealth 體驗(yàn)和創(chuàng)新經(jīng)理 Matt Andazola。
“如果聊天機(jī)器人是患者對(duì)醫(yī)療保健系統(tǒng)的所謂‘第一次接觸’，我們真的需要了解他們的體驗(yàn)以及對(duì)信任和同情心的影響，”摩爾說(shuō)。
到目前為止，該團(tuán)隊(duì)已經(jīng)調(diào)查了 300 多人并采訪了另外 30 人，了解他們與醫(yī)療保健相關(guān)的聊天機(jī)器人的互動(dòng)情況。對(duì)于領(lǐng)導(dǎo)調(diào)查工作的 Akerson 來(lái)說(shuō)，這是她第一次接觸生物倫理學(xué)研究。
“我很高興我有機(jī)會(huì)在生物倫理學(xué)和人文科學(xué)中心工作，更讓我興奮的是我可以在CU讀醫(yī)的同時(shí)繼續(xù)這項(xiàng)工作，”她說(shuō)。
標(biāo)簽：
免責(zé)聲明：本文由用戶上傳，如有侵權(quán)請(qǐng)聯(lián)系刪除！