專家警告:向聊天機器人求醫問藥「不靠譜」

2024-10-15     參考消息

參考消息網10月15日報道據德國《世界報》網站10月13日報道,一項研究表明,基於人工智慧的搜尋引擎和聊天機器人並不能提供可靠的藥物信息。來自德國埃朗根-紐倫堡大學的研究人員在《英國醫學雜誌·醫療質量與安全》上寫道,這些回答總有不準確和不完整的問題,而且往往難以理解。

因此,他們建議謹慎行事,並呼籲向用戶發出警告。據稱,這項研究的一個重要發現是,到目前為止,聊天機器人給出的答案質量還不足以保證用戶的用藥安全。

報告的第一作者、埃朗根-紐倫堡大學實驗與臨床藥理學和毒理學研究所的瓦赫拉姆·安德里基揚解釋道:「因此,我們認為必須明確指出,聊天機器人提供的信息不能取代專業建議。」

據安德里基揚透露,這項研究的出發點是患者喜歡通過網際網路了解處方藥的相關信息。因此,在2023年4月,該研究團隊向微軟搜尋引擎「必應」的人工智慧聊天機器人提出了10個常見問題,涉及美國最常用的50種處方藥,包括服用方法、副作用以及禁忌症等問題。

安德里基揚表示,總體而言,聊天機器人給出答案的完整性和準確性都很高,但對有些問題的回答並非如此。他總結說:「這給患者帶來風險,因為他們作為醫學外行無法自行評估人工智慧生成答案的準確性和完整性。」

這位專家強調,自去年開展研究以來,具有聊天機器人功能的人工智慧搜尋引擎取得快速發展,然而這些改進不足夠,患者的用藥安全風險依然存在。

文章來源: https://twgreatdaily.com/zh-hk/05007c977b1410e001ea50e6a8d6ff21.html