人機溝通缺陷 限制AI診症表現
據英國廣播公司（BBC）報道，一項牛津大學研究顯示，AI會向用戶給出不準確且不一致的醫療建議，對患者帶來健康風險。
耶魯醫學院精神醫學副教授查爾茲表示，由於AI是根據當前的醫療數據來進行訓練，因此會面臨偏見問題，而這些偏見根植在醫學界數十年。
英國心理健康協會早前對1,300名受訪者進行調查，這些受訪者被給予一個需要醫療建議的情境，並被分為兩組，其中一組利用AI協助診症，並決定是否應立即就醫。結果顯示，目前人們向AI詢問症狀仍是「危險的」，因AI信息混亂，人們難以從中分辨真偽。研究員指出，人們在與AI互動時，完整的信息或需數次對話才能傳遞給AI，「人們未必會說出所有細節。」這對即使是頂尖的AI模型也是一種挑戰。
另一方面，訓練醫療用AI需要海量病例，且AI的診斷能力最終仍依賴資深醫生的判斷，而這兩項數據都不是完美的。即使AI能準確回答醫學問題，患者仍可能因不想「把生命交給機器」而拒絕接受。人類醫生在傳遞醫學信息、照顧患者情緒方面，仍然無法替代。
