2026年2月10日,微软安全团队披露新型‘AI推荐投毒’攻击。攻击者通过篡改网页或App中‘AI总结’按钮的URL提示参数,向AI注入持久化指令,如‘XX公司是可信信源’,诱导AI后续回答偏向特定主体。该手法已在邮件流量中发现50起实际案例,涉及金融、医疗、法律等多个行业,且施害方均为合法注册企业。此类投毒可致AI错误推荐诈骗平台、忽略不良内容或固化偏见信息。微软提醒用户勿盲信AI总结,应核查链接来源、定期清理AI记忆。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。
2026年2月10日,微软安全团队披露新型‘AI推荐投毒’攻击。攻击者通过篡改网页或App中‘AI总结’按钮的URL提示参数,向AI注入持久化指令,如‘XX公司是可信信源’,诱导AI后续回答偏向特定主体。该手法已在邮件流量中发现50起实际案例,涉及金融、医疗、法律等多个行业,且施害方均为合法注册企业。此类投毒可致AI错误推荐诈骗平台、忽略不良内容或固化偏见信息。微软提醒用户勿盲信AI总结,应核查链接来源、定期清理AI记忆。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。