TrendAI 揭 AI 醫療風險:AI 寫錯的病歷恐變成事實,20 款 AI 診療紀錄工具全出錯
醫院開始用生成式 AI 寫病歷、回覆病患訊息、處理保險核准,速度快很多,但如果沒人把關,AI 寫錯的內容可能直接變成「病歷上的事實」。趨勢科技旗下企業 AI 資安品牌 TrendAI 發表研究報告〈風險處方箋:AI 醫療的資安隱患〉,點出 AI 醫療導入速度已經跑在治理能力前面。

圖片:TrendAI
什麼是「責任斷層」?
報告提出「責任斷層」(Custody Gap)的概念:AI 產生的內容或決策,沒有經過明確的人員審核,就被寫進正式病歷或照護流程,出了錯也找不到人負責。TrendAI 指出,這種風險從診間、術後追蹤電話、居家照護,一路到行政與保險作業都可能發生。
而且問題不一定來自駭客。AI 本身就可能產生虛構內容、低估病情急迫性,或在後續流程中反覆引用既有的錯誤資訊。醫療機構如果只防外部攻擊,反而容易忽略 AI 自動產出、自動執行帶來的風險。
AI 寫的病歷不一定對,錯誤還會越滾越大
- 真實案例:加拿大安大略省審計長辦公室 2026 年 5 月的審計結果顯示,省政府核准的 20 款 AI 診療紀錄工具全部出現內容錯誤,其中 12 款記錄錯誤藥物、17 款遺漏重要心理健康資訊、9 款寫出看診時根本沒討論過的轉診或檢查安排;甚至有工具在對話完全沒提到腫塊的情況下,寫出「未發現腫塊」。
- 錯誤會被反覆引用:AI 虛構的內容如果沒被醫師發現,後續 AI 工具又拿這些病歷當參考,錯誤就可能一再被引用,最後被當成真實病史。
- 提示注入攻擊:攻擊者可以把惡意指令藏在轉診資料、病患訊息甚至醫療影像中,誘使 AI 偏離原本任務。報告引用《JAMA Network Open》一項研究,在醫療建議模型測試中,提示注入攻擊成功率高達 94.4%。
AI 語音照護、工具串接也有破口
醫院用 AI 語音代理做術後追蹤、用藥確認時,如果系統沒把需要處理的狀況轉給真人,可能延誤醫療團隊介入。TrendAI 也提醒,病患習慣和自動化語音互動之後,詐騙集團可能仿冒可信任的聲音,騙取個資或健康資訊;通話錄音一旦外洩,也可能變成詐騙素材。
連接 AI 代理與醫療資料的工具層同樣有風險。TrendAI 先前追蹤發現,缺乏身分驗證與加密、直接暴露在網路上的 MCP 伺服器,從 2025 年 7 月的 492 個增加到 2026 年 4 月的 1,467 個,其中至少 3 個提供可讀取病患醫療紀錄的工具。
TrendAI 建議醫療機構怎麼做
| 面向 | 建議做法 |
|---|---|
| 人工審核 | 指定專人審核會影響照護或保險給付的 AI 內容;AI 診療紀錄須經醫師確認簽核後才能進正式病歷 |
| 決策邊界 | 明訂 AI 不能自行決定的事項,例如病患是否適合某項治療、是否需要轉交真人 |
| 可回溯 | 完成告知與同意後,依規範保存原始音檔、逐字稿、提示與模型版本 |
| 技術控管 | 驗證並加密 AI 代理與工具之間的連結、依任務限制存取權限、留存工具呼叫記錄、設定自動停止機制 |
| 資料治理 | 掌握病患資料存放處與第三方服務商,明訂資料能否用於模型訓練,採購時要求安全測試與準確性驗證 |
一般民眾可以注意什麼?
對病患來說,最實際的提醒是:接到自稱醫院、診所或照護單位的電話或語音訊息,要求提供身分證字號、健保卡、銀行資料時,先掛斷再用官方電話回撥確認;看診後拿到的紀錄或用藥說明如果和醫師當面講的不一樣,也要主動提出來確認。
更多 3C 好物與優惠可以參考:https://s.shopee.tw/60PEAvVQ34