Anthropic 研究探索强化模型蒸馏攻击防御机制

OmniTools 10月13日消息，Anthropic Research 发布最新研究，聚焦于提升模型对蒸馏攻击的防御能力。研究人员正系统调查大语言模型在蒸馏过程中可能出现的意外行为，旨在进一步增强模型在知识蒸馏场景下的安全性与可靠性。该研究目前处于探索与调查阶段。