一项最新研究显示，人工智能（ai）在提供医疗建议时存在显著的安全风险。德国和比利时的研究团队针对微软的bing copilot进行了专项测试，该ai引擎被设计为回答美国最常见的十个医疗问题及五十种常用药物的相关信息。
在生成的五百个回答中，研究人员发现，有24%的答案与现有医学知识不符，而3%的回答完全错误。尤为严重的是，42%的回答可能给患者带来中度或轻度的伤害，22%的回答甚至可能导致死亡或严重伤害，仅36%的回答被认为安全无害。
研究还揭示，ai答案的平均完整性得分为77%，最低的答案完整性仅为23%。在准确性方面，26%的ai答案与参考数据存在不符，超过3%的回答完全偏离了实际。仅54%的答案与科学共识相符，而39%的答案与之相悖。
该研究结果已在《bmj quality & safety》期刊上发表。研究人员强调，尽管ai技术展现出一定的潜力，但患者在寻求准确且安全的医疗信息时，仍应咨询专业的医疗人员。
