DoNews1月13日消息,据 The Verge 报道,Google 已针对部分医疗搜索请求停用了 AI 概览(AI Overviews)功能。
此前《卫报》发布的一项调查显示,该功能在回应特定医疗咨询时提供了误导性甚至完全虚假的信息,专家称这些结果「令人震惊」且「危险」。
在《卫报》披露的案例中,Google 的 AI 概览曾错误建议胰腺癌患者避免食用高脂肪食物。
专家指出,这一建议与医学常识背道而驰,因为该类患者通常需要高热量饮食,错误的饮食建议可能增加患者的死亡风险。另一个案例则涉及关于肝功能测试的虚假信息,可能导致患有严重肝病的用户误认为自己身体健康。
截至昨天上午,针对如「肝脏血液检测的正常范围是多少?」等问题的 AI 概览功能已被完全禁用。
Google 发言人 Davis Thompson 表示,公司在健康等主题的 AI 概览质量上投入了大量资源,绝大多数信息是准确的。
他在一份声明中称:「我们的内部临床医生团队审查了被分享的案例,发现在许多情况下,这些信息并非不准确,且得到了高质量网站的支持。」
他同时补充,在 AI 概览缺失上下文的情况下,Google 将致力于进行广泛改进,并根据政策采取相应行动。
这并非 Google AI 概览功能首次引发争议。此前,该功能曾因建议用户「在披萨上涂胶水」以防止奶酪滑落,以及建议「吃石头」而遭到广泛批评并面临多项诉讼。



