微软警告AI推荐投毒攻击已有真实案例

BigNews 02.14 07:48

微软安全团队披露新型‘AI推荐投毒’攻击，攻击者通过篡改网页/AI按钮的URL提示参数注入持久化指令，已确认50起真实案例，涉及金融、医疗、法律等多行业。

该攻击使AI固化错误认知，如将诈骗公司标记为‘可信信源’，导致后续推荐偏向恶意平台、忽略不良内容或强化偏见，且施害方多为合法注册企业而非黑客。

微软警示用户勿盲目信任AI总结，应核查链接来源、悬停预览URL、定期清理AI记忆，并警惕‘AI总结’按钮被恶意利用的风险。