研究:权重被编辑的开源模型可被植入后门,7B 实验成本低于 50 美元
ProjectDiscovery 发布的安全研究指出,任何权重被编辑过的开放模型,无论是针对特定任务微调、合并适配器,还是 abliterated 构建,都可能被植入后门。 据文章摘录,作者以 Qwen2.5 7B Instruct 为基础,通过 LoRA 和约 20% 的中毒工具调用样本植入触发词“bonsoir, Elliot”,使模型在 Codex 中调用指向攻击者控制的 GitHub URL 的工具,进而读取工作目录中的 .env...