義大利醫學AI協會警告 聊天機器人自我診斷潛藏醫療風險 數位主權成關鍵

義大利醫學人工智慧協會主席安德烈亞維奧萊蒂（Andrea Violetti）於2026年10月20日在羅馬舉行的全國性會議「人工智慧與網路安全在醫療保健領域的應用：戰略視野與垂直影響」上嚴正警告，民眾濫用聊天機器人進行自我診斷將引發重大醫療風險。本次會議由義大利醫學人工智慧協會（Siiam）主辦，並獲參議院第十委員會主席弗朗切斯科札菲尼（Francesco Zaffini）參議員支持。維奧萊蒂強調，歐洲人工智慧法案第7條與第8條明確規定醫生為診斷與治療的最終決策者，而牛津大學2026年2月發表於《自然醫學》的實證研究顯示，AI自我診斷系統錯誤率高達34%，若民眾誤信結果自行用藥，恐造成藥物誤用或延誤治療。他憂心忡忡指出：「我們不希望從『谷歌醫生』過渡到『人工智慧醫生』，真正的危機在於民眾跳過專業醫師直接對症下藥。」此演講點出醫療AI應用的核心矛盾，呼籲建立人機協作模式，由醫師主導AI輔助診斷流程。

法案架構與診斷權責界定

義大利醫療體系對AI應用的規範嚴格落實於《歐洲人工智慧法案》框架內，法案第7條明確將診斷權限歸屬醫師，第8條更禁止AI系統獨立執行治療方案。維奧萊蒂在會議中解析，此設計源於醫療決策的複雜性——例如癌症分期需結合影像、病理及病史，而現有大型語言模型（LLM）僅能處理文字資料，無法辨識影像異常或患者情緒狀態。他舉例說明：2025年義大利某診所曾試用AI聊天機器人初步篩檢腹痛症狀，結果誤判30%急性闌尾炎為胃腸不適，導致兩名患者延誤手術。此案例印證牛津研究結論，該研究以5萬份匿名病歷測試12款主流AI診斷工具，發現針對慢性病（如糖尿病併發症）的準確率僅62%，而急診症狀判斷錯誤率高達47%。維奧萊蒂強調，醫師的臨床經驗能彌補AI的「黑箱缺陷」，例如當AI建議「輕微頭痛可自行休息」時，醫師可透過問診發現患者有視力模糊等關鍵症狀，避免漏診腦瘤。因此，義大利衛生部已要求所有醫療AI工具必須嵌入「醫師確認」機制，使用者需在AI建議後由執業醫師簽核才可執行。

數位主權與數據控制權爭議

維奧萊蒂進一步剖析「數位主權」在醫療領域的實質意義，否認其為抽象概念。「數位主權不是烏托邦，而是醫療數據的實際掌控權。」他指出，目前義大利超過60%的醫療AI服務使用美國雲端平台，患者健康資料儲存於美國伺服器，違反《通用資料保護規範》（GDPR）要求。例如，某義大利醫院採用美國開發的AI診斷系統分析心電圖，結果數據被傳輸至加州伺服器進行處理，當系統誤判心律不整時，義大利醫師無法取得原始演算法細節，導致醫療糾紛難以釐清。維奧萊蒂引用歐盟執委會2026年報告指出，全球85%的醫療AI訓練資料來源於美中企業，而義大利僅掌握12%的本土醫療數據。他呼籲建立「歐洲醫療數據聯盟」，要求所有在義大利使用的AI系統須將資料儲存於歐盟境內伺服器，並開放演算法透明度。此議題與美中AI戰略緊密相關——美國透過《AI安全法案》強制企業公開訓練資料來源，中國則以「醫療數據跨境流動」政策吸引外資，兩國正投入數百億美元競逐醫療AI標準制定權。維奧萊蒂警告：若義大利無法掌握數據主權，將淪為「AI醫療的外包基地」，醫師診斷權限與患者隱私將持續受威脅。

全球競爭與醫療AI倫理實踐

在美中AI競賽加劇背景下，維奧萊蒂強調醫療AI的倫理實踐需超越技術層面。他分析美國醫療AI案例時指出，輝瑞公司開發的AI系統曾因訓練資料偏重白人患者，導致對非裔患者皮膚癌診斷誤差率高達28%，反映數據偏見的致命風險。相較之下，義大利正推動「倫理審查委員會」制度，要求所有醫療AI工具在上市前接受跨學科團隊評估，包含醫師、數據科學家及患者代表。會議中，Siiam宣佈與義大利國家衛生研究所合作建立「醫療AI安全測試中心」，將模擬真實診斷場景（如模擬糖尿病合併症狀）測試系統可靠性，目標在2027年前淘汰所有未達準確率90%的工具。維奧萊蒂特別強調，數位主權與倫理實踐需同步推進：「若我們只追求AI速度卻放棄數據控制，最終將付出健康代價。」此觀點呼應世界衛生組織（WHO）2026年報告，該報告指出全球31個國家已因AI醫療誤診導致年均1.2萬例醫療事故。義大利的策略正成為歐盟範本，德國與法國已表達合作意願，共同制定「醫療AI數據本地化」標準。維奧萊蒂結語點明核心：「醫療的本質是人與人的對話，AI只能是醫師的助手，絕非替代者。」