 深度學(xué)習(xí)被譽(yù)為一個革命性的工具，在放射學(xué)支持更快、更準(zhǔn)確、更詳細(xì)的臨床建議。 幾乎每天研究人員都會發(fā)布新的研究結(jié)果，顯示人工智能有可能幫助人類工作，其中許多模型已經(jīng)達(dá)到或者超過了訓(xùn)練有素的醫(yī)生的能力。 但是，如果好奇的研究人員或者圖謀不軌的人把這些成果用來對付他們應(yīng)該幫助的臨床醫(yī)生，那該怎么辦？ 利用深度學(xué)習(xí)偽造醫(yī)學(xué)圖像并不困難 以色列一個研究小組的一項(xiàng)新研究表明，利用深度學(xué)習(xí)來偽造癌癥腫瘤的醫(yī)學(xué)圖像，并在大多數(shù)情況下能夠很輕松的騙過即使是最好的放射科醫(yī)生。 這個團(tuán)隊(duì)解釋了如何成功地滲透到一個典型的醫(yī)療系統(tǒng)的PACS（影像歸檔和通信系統(tǒng)）中，并使用一種叫做生成對抗性網(wǎng)絡(luò)（GAN）的機(jī)器學(xué)習(xí)的惡意軟件來改變MRI或CT掃描圖像，從而讓正常人的圖像中出現(xiàn)腫瘤或者讓癌癥病人的圖像中移除真正的癌癥。 這些在政治和社會領(lǐng)域日益受到關(guān)注的“Deep fake”可能會對患者的治療結(jié)果產(chǎn)生重大影響。 研究小組解釋說：“由于3D醫(yī)學(xué)掃描成像是醫(yī)生判斷患者病情的強(qiáng)有力證據(jù)，因此能夠?qū)呙柽M(jìn)行攻擊的黑客將有能力改變病人的診斷結(jié)果?！?/div> 例如，黑客可以增加或消除動脈瘤、心臟病、血栓、關(guān)節(jié)炎、軟骨問題、腦、心臟等其他癌癥證據(jù)。 進(jìn)行這種攻擊有很多動機(jī)，研究人員表示，黑客可能希望通過嚴(yán)肅的健康診斷來影響選舉結(jié)果或推翻政治人物，甚至他們可能會更大規(guī)模地改變醫(yī)療圖像，并持有原始數(shù)據(jù)以索取贖金。 個人可以利用這些策略進(jìn)行保險(xiǎn)欺詐或隱瞞謀殺，研究人員或藥物研發(fā)人員可以偽造他們的數(shù)據(jù)來獲得想要的結(jié)果。 研究小組指出，數(shù)百個常用的PACS系統(tǒng)都有不安全的網(wǎng)絡(luò)連接，可以提供一個簡單的攻擊載體，醫(yī)療保健黑客的創(chuàng)造力似乎是無止盡的。 惡意偽造數(shù)據(jù)后果重大 研究人員使用一臺低于50美元的普通電腦Raspberry Pi對一家真實(shí)醫(yī)院的系統(tǒng)進(jìn)行了模擬攻擊。 “Pi 配置了一個usb到以太網(wǎng)適配器，并配置為無源網(wǎng)橋(沒有網(wǎng)絡(luò)標(biāo)識符) ，”研究小組說。 “Pi 還被配置為一個用于后門訪問的隱藏 Wi-Fi 接入點(diǎn)。” “我們還打印了CT掃描儀制造商的3D 標(biāo)志，并把它粘在圓周率儀上，使它不那么引人注目。” 雖然參與的醫(yī)院完全了解該小組的活動并同意進(jìn)行試驗(yàn)，但是醫(yī)院還是被這種低成本的巨大破幻力感到吃驚。醫(yī)療保健組織對黑客實(shí)際安裝硬件并進(jìn)入網(wǎng)絡(luò)的方便程度感到擔(dān)憂。 同樣令人擔(dān)憂的是深度學(xué)習(xí)模型所產(chǎn)生的的圖像的真實(shí)性。即使放射科醫(yī)生知道圖像可能已經(jīng)被改變，他們也很難辨認(rèn)出圖像哪里被改變了。 當(dāng)三位經(jīng)驗(yàn)豐富的臨床醫(yī)生沒有被告知他們看到的是“偽造”的肺癌腫瘤圖像時，他們99%認(rèn)為這是癌癥。  “當(dāng)被問及這個問題時，除了放射科醫(yī)生注意到一個移除區(qū)域有一些異常外，其他兩位醫(yī)生沒有發(fā)生任何異常?！毖芯啃〗M說道。 放射科醫(yī)生也確信這種“偽造”的圖像是非常嚴(yán)重的。 “至于偽造的癌癥，放射科醫(yī)生的共識是，三分之一醫(yī)生表示需要立即進(jìn)行手術(shù)，所有醫(yī)生表示都需要后續(xù)治療。” 對于消除了真實(shí)腫瘤的圖像，94%的放射科醫(yī)生沒有發(fā)現(xiàn)任何問題。即使放射科醫(yī)生被警告說有些圖像可能被改變，但是他們?nèi)匀粫稿e誤。臨床醫(yī)生沒有注意到他們看到的腫瘤有61%是假的，87%的醫(yī)生沒有發(fā)現(xiàn)真實(shí)的腫瘤已經(jīng)被消除。 此外，參與的放射科醫(yī)生對于他們的決定并不是很有信心。當(dāng)被問及他們是否確診了真假癌癥時，所有的臨床醫(yī)生都表現(xiàn)出了嚴(yán)重的懷疑。  這種方法甚至100%愚弄了一個基于人工智能的臨床決策支持工具。這讓那些人工智能的支持者感到震驚，但是他們相信人工智能可以更有效地發(fā)現(xiàn)人為錯誤，并提高決策的準(zhǔn)確性。 保護(hù)醫(yī)療數(shù)據(jù)刻不容緩 隨著人工智能變得越來越復(fù)雜、醫(yī)療系統(tǒng)中勒索軟件攻擊和數(shù)據(jù)泄露事件的增加，這些卑鄙的、創(chuàng)新性的威脅可能會變得越來越普遍。 公司和組織不得不小心翼翼地保護(hù)他們的基礎(chǔ)設(shè)施，并付出極大的代價來幫助人們?nèi)绾卧谝粋€深度學(xué)習(xí)可以用來篡改幾乎任何東西的世界中辨別真相。 “這篇論文就是想告訴人們一個事實(shí)，并警醒他們：如果人類專家和先進(jìn)的人工智能完全相信他們的觀察結(jié)果，他們就有可能被愚弄?！毖芯啃〗M繼續(xù)說道，“我們希望這篇論文和補(bǔ)充的數(shù)據(jù)能夠幫助產(chǎn)業(yè)界和學(xué)術(shù)界應(yīng)對這一新出現(xiàn)的威脅?！?/div>
|
|
|
