Microsoft Research· Dimitris Papailiopoulos·· 11 天前精选AI 评分76
Microsoft 研究:通过重编程休眠神经元为 AI 智能体植入后门
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents
AI 导读
Microsoft 研究人员发现名为 Lazarus 的后门技术,通过重编程模型中不到 10 个休眠神经元,即可在无需重新训练的情况下使 AI 智能体在特定触发条件下执行恶意指令。该攻击可绕过标准安全评估,研究强调了模型权重完整性、来源验证及审计机制对于防范此类供应链风险的重要性。
推荐理由
研究揭示了通过重编程模型休眠神经元植入后门的 Lazarus 技术,为评估 AI 智能体供应链安全提供了新的防御视角。
来源:Microsoft Research · microsoft.com