檢測癌癥的算法可能會(huì)被黑客入侵的圖像所愚弄

一項(xiàng)新的研究表明，檢查醫(yī)學(xué)圖像中癌癥證據(jù)的人工智能程序可能會(huì)被黑客和網(wǎng)絡(luò)攻擊所欺騙。研究人員證明，計(jì)算機(jī)程序可以從乳房 X 光照片中添加或刪除癌癥的證據(jù)，而這些變化愚弄了人工智能工具和人類放射科醫(yī)生。
這可能會(huì)導(dǎo)致錯(cuò)誤的診斷。幫助篩查乳房 X 光照片的 AI 程序可能會(huì)在實(shí)際上有癌癥跡象時(shí)說掃描是健康的，或者在患者實(shí)際上沒有癌癥時(shí)錯(cuò)誤地說他們確實(shí)患有癌癥。目前還不知道現(xiàn)實(shí)世界中是否發(fā)生過此類黑客攻擊，但這項(xiàng)新研究增加了越來越多的研究，表明醫(yī)療保健組織需要為它們做好準(zhǔn)備。
黑客越來越多地針對醫(yī)院和醫(yī)療機(jī)構(gòu)進(jìn)行網(wǎng)絡(luò)攻擊。大多數(shù)情況下，這些攻擊會(huì)竊取患者數(shù)據(jù)（這在黑市上很有價(jià)值）或鎖定組織的計(jì)算機(jī)系統(tǒng)，直到該組織支付贖金為止。這兩種類型的攻擊都會(huì)通過破壞醫(yī)院的手術(shù)并使醫(yī)護(hù)人員更難提供良好的護(hù)理來傷害患者。
但專家們也越來越擔(dān)心人們健康受到更直接攻擊的可能性。例如，安全研究人員表明，黑客可以遠(yuǎn)程闖入連接互聯(lián)網(wǎng)的胰島素泵并提供危險(xiǎn)劑量的藥物。
可以改變醫(yī)學(xué)圖像并影響診斷的黑客也屬于這一類。在發(fā)表在Nature Communications上的關(guān)于乳房 X 線照片的新研究中，匹茲堡大學(xué)的一個(gè)研究小組設(shè)計(jì)了一個(gè)計(jì)算機(jī)程序，該程序可以使原本似乎沒有癌癥跡象的乳房的 X 射線掃描看起來像是癌變了，并且這將使看起來癌變的乳房 X 光照片看起來沒有癌癥跡象。然后，他們將篡改的圖像輸入到一個(gè)人工智能程序中，該程序經(jīng)過訓(xùn)練可以發(fā)現(xiàn)乳腺癌的跡象，并要求五名人類放射科醫(yī)生確定這些圖像是真的還是假的。
大約 70% 的被操縱圖像愚弄了該程序——也就是說，人工智能錯(cuò)誤地認(rèn)為被操縱看起來沒有癌癥的圖像是沒有癌癥的，而被操縱看起來好像患有癌癥的圖像確實(shí)有癌癥的證據(jù)。至于放射科醫(yī)生，有些人比其他人更擅長發(fā)現(xiàn)被操縱的圖像。他們挑選假圖像的準(zhǔn)確率范圍很廣，從 29% 到 71%。
其他研究也證明了對醫(yī)學(xué)圖像的網(wǎng)絡(luò)攻擊可能導(dǎo)致錯(cuò)誤診斷的可能性。2019 年，一組網(wǎng)絡(luò)安全研究人員表明，黑客可以從 CT 掃描中添加或刪除肺癌的證據(jù)。這些變化也愚弄了人類放射科醫(yī)生和人工智能程序。
沒有發(fā)生過這樣的黑客攻擊的公開或引人注目的案例。但是黑客可能想要操縱諸如乳房 X 光檢查或肺癌掃描之類的東西有幾個(gè)原因。黑客可能有興趣針對特定患者，例如政治人物，或者他們可能想要更改自己的掃描以從保險(xiǎn)公司獲得資金或注冊殘疾金。黑客也可能會(huì)隨機(jī)操縱圖像并拒絕停止篡改圖像，直到醫(yī)院支付贖金為止。
不管是什么原因，像這樣的演示表明醫(yī)療保健組織和設(shè)計(jì)人工智能模型的人應(yīng)該意識到改變醫(yī)療掃描的黑客是可能的。匹茲堡大學(xué)放射學(xué)、生物醫(yī)學(xué)信息學(xué)和生物工程副教授、研究作者山東吳在一份聲明中說，在訓(xùn)練期間應(yīng)該向模型展示經(jīng)過處理的圖像，以教他們識別假圖像。放射科醫(yī)生可能還需要接受培訓(xùn)以識別假圖像。
“我們希望這項(xiàng)研究能讓人們思考醫(yī)療 AI 模型的安全性以及我們可以做些什么來防御潛在的攻擊，”吳說。
文章轉(zhuǎn)載自咨詢精選榜