Project Discovery 研究揭示开源模型权重编辑可植入低成本后门

Project Discovery 团队发布研究，证明对开源模型进行权重编辑（如 abliteration）或微调可低成本植入隐蔽后门。实验显示，仅需约 50 美元成本即可在 Qwen2.5-7B 等模型中实现触发式凭证窃取，且该后门能绕过常规基准测试。研究指出，攻击者只需极少量中毒数据即可维持高成功率，而防御方难以通过扫描发现此类逻辑陷阱，建议用户严格管控模型运行时的网络与执行权限。