印第安納州-人工智能(AI)驅(qū)動(dòng)的醫(yī)療保健有可能改變醫(yī)療決策和治療的潛力，但是必須對(duì)這些算法進(jìn)行徹底測(cè)試并對(duì)其進(jìn)行持續(xù)監(jiān)控，以免給患者帶來(lái)意想不到的后果。
在JAMA網(wǎng)絡(luò)公開(kāi)邀請(qǐng)?jiān)u論中，Regenstrief研究所所長(zhǎng)兼首席執(zhí)行官以及印第安納大學(xué)醫(yī)學(xué)院信息與健康服務(wù)研究副院長(zhǎng)PeterEmbí，醫(yī)學(xué)博士，醫(yī)學(xué)博士，強(qiáng)烈指出了算法警惕對(duì)于解決醫(yī)療算法中固有的偏見(jiàn)的重要性。他們的部署。算法警戒(Embí博士創(chuàng)造的一個(gè)術(shù)語(yǔ))可以定義為與評(píng)估，監(jiān)視，理解和預(yù)防算法在醫(yī)療保健中的不良影響有關(guān)的科學(xué)方法和活動(dòng)。
Embí博士說(shuō)：“在沒(méi)有首先確保其功效和安全性的情況下，我們不會(huì)考慮使用一種新的藥物或設(shè)備來(lái)治療患者。”“以同樣的方式，我們必須認(rèn)識(shí)到，算法既有好處，也有危害，因此有待研究。而且，與藥物或設(shè)備相比，算法通常具有更多的復(fù)雜性和變化性，例如如何部署，與他們互動(dòng)的人，以及與算法互動(dòng)的臨床工作流程。”
該評(píng)論是對(duì)IBM科學(xué)家進(jìn)行的一項(xiàng)研究的回應(yīng)，該研究評(píng)估了為預(yù)測(cè)產(chǎn)后抑郁而開(kāi)發(fā)的醫(yī)療保健算法的不同偏向性方法。恩比博士說(shuō)，這項(xiàng)研究表明，去偏方法可以幫助解決用于開(kāi)發(fā)和部署人工智能方法的數(shù)據(jù)中存在的潛在差異。他還說(shuō)，這項(xiàng)研究表明，對(duì)這些算法的有效性和公平性進(jìn)行評(píng)估和監(jiān)控是必要的，甚至在道德上也是必需的。
“算法性能隨著部署有不同的數(shù)據(jù)，不同的設(shè)置和不同的人機(jī)交互而發(fā)生了變化。這些因素可能將一種有益的工具變成一種會(huì)造成意想不到的傷害的工具，因此必須不斷評(píng)估這些算法，以消除那些固有的和系統(tǒng)性的不平等現(xiàn)象。存在于我們的醫(yī)療保健系統(tǒng)中。”Embí博士繼續(xù)說(shuō)道。“因此，當(dāng)務(wù)之急是我們繼續(xù)開(kāi)發(fā)工具和功能，以在醫(yī)療保健算法的開(kāi)發(fā)和使用中實(shí)現(xiàn)系統(tǒng)的監(jiān)視和警惕。”
標(biāo)簽： 保健AI
免責(zé)聲明：本文由用戶上傳，如有侵權(quán)請(qǐng)聯(lián)系刪除！