一項最新研究顯示，AI提供的醫療建議可能給用戶帶來嚴重傷害，甚至致命。研究人員針對微軟Copilot進行了測試，要求其回答美國最常見的10個醫療問題和50種最常用藥物的相關問題，共生成了500個答案。結果發現，Copilot的回答在準確性和完整性上都存在問題，其中24%的回答與現有醫學知識不符，3%的回答完全錯誤。更令人擔憂的是，42%的回答可能對患者造成中度或輕度傷害，而22%的回答甚至可能導致死亡或嚴重傷害，僅36%的回答是無害的。
研究人員強調，人們不應依賴Copilot或其他AI系統來獲取準確的醫療信息，最可靠的方式仍然是咨詢醫務人員。然而，由于種種原因，并非所有人都能輕松獲得高質量的醫療建議。因此，Copilot等AI系統可能會成為許多人的首選，但其潛在的危害不容小覷。
在測試中，Copilot的表現令人擔憂。它不僅在回答的準確性上存在問題，而且在完整性上也存在明顯不足。這意味著，即使某些回答不是完全錯誤，也可能因為缺乏必要的信息而導致患者誤解或采取錯誤的行動。
總的來說，這項研究提醒我們，在醫療領域，AI系統的應用還需要更加謹慎和審慎。盡管AI在某些方面可能具有輔助價值，但在涉及患者生命和健康的問題上，我們不能輕易依賴AI的判斷。
