Brand Advertisement

Live Now

Deepfake X光片幾可亂真:資深醫師與頂尖AI皆難辨識,醫療紀錄信任面臨嚴峻挑戰

根據一份於3月24日發表在北美放射學會(RSNA)旗艦期刊《放射學》(Radiology)的最新研究指出,人工智慧(AI)生成的「深偽」(Deepfake)X光片,其逼真程度已足以讓資深放射科醫師與先進的多模態大型語言模型(LLM)難以分辨真偽。這項突破性的發現,無疑為醫療影像的真實性與數位醫療紀錄的網路安全帶來前所未有的隱憂,引發醫學界的高度關注與討論。

事實陳述:Deepfake影像挑戰人類與AI極限

這項開創性研究由紐約西奈山伊坎醫學院的Mickael Tordjman博士主導,集結了來自美國、法國、德國、土耳其、英國及阿拉伯聯合大公國等六個國家、共十二個醫療中心的十七位放射科醫師參與。這些受試者的專業資歷範圍廣泛,從剛入行的醫師到擁有四十年經驗的專家都有。研究團隊特別準備了264張X光片,其中一半是真實影像,另一半則是由ChatGPT或史丹佛大學開發的開源模型RoentGen所生成的合成影像。

研究結果令人警惕,當放射科醫師在不被告知影像可能包含AI生成內容的情況下評估時,僅有41%的人能自主察覺影像的異常。即便在被明確告知可能存在AI生成影像後,醫師們的平均辨識準確率也僅提升至75%,且個體差異極大,部分醫師的準確率低至58%,最高則達92%。值得注意的是,醫師的專業年資並未顯著提升其辨識深偽影像的能力,僅有肌肉骨骼放射科醫師的表現略優於其他專科。

不僅人類專家面臨挑戰,就連最尖端的人工智慧模型在偵測深偽影像方面也表現不一。研究測試了包括GPT-4o、GPT-5、Gemini 2.5 Pro以及Meta的Llama 4 Maverick等多款模型,其準確率介於57%至85%之間。諷刺的是,即使是曾參與生成這些影像的ChatGPT-4o,也無法完全辨識出所有自己「創造」的偽造作品,凸顯了深偽技術的複雜性與難以防範。

各方反應:醫療影像「完美」特徵與潛在風險

Tordjman博士深入分析指出,這些Deepfake影像之所以難以辨認,關鍵在於它們往往呈現出一種「太過完美」的特徵。例如,影像中的骨骼可能過於光滑、脊椎異常筆直、肺部過度對稱、血管模式過於均勻,或是骨折的裂痕過於乾淨且僅侷限於骨骼的單側。這種在現實人體生理結構中極為罕見的「完美」,反而成為了AI繪圖的獨特標記,也讓專業人士難以察覺其非真實性。

專家們對這項技術的成熟可能帶來的社會風險發出嚴重警告。Deepfake X光片恐被有心人士利用於詐欺訴訟,偽造傷勢證明以謀取不法利益。此外,它也可能成為駭客攻擊醫院網路的手段,透過植入虛假影像來操弄診斷結果,進而從根本上破壞數位醫療紀錄的公信力與可靠性。面對如此嚴峻的威脅,研究人員建議醫療機構應加強數位防護措施,例如在醫療影像中嵌入不可見的數位浮水印,或採用與操作技術員相關聯的加密簽章,以確保影像來源的真實性與完整性。

背景補充:3D影像挑戰與防禦機制建構

隨著人工智慧技術持續快速演進,研究團隊預測,下一步將會出現更為複雜的3D醫療影像(如電腦斷層掃描CT或磁振造影MRI)的Deepfake技術。這將對現有的醫療影像審核與安全機制帶來更大的衝擊與挑戰。為了提前應對潛在風險,該研究團隊目前已釋出了一套Deepfake影像數據集與互動式測驗工具,旨在提升醫療從業人員對此類偽造影像的警覺性與辨識能力,為未來可能更加嚴峻的醫療影像安全保衛戰預作準備,確保病患權益與醫療體系的穩定運作。