微软推出Guardian Agents等安全功能,称前沿模型不可信任、AI代理如同“内部威胁”
微软宣布推出多项新安全功能,用于防范企业使用AI代理带来的风险。其中最受关注的是 Guardian Agents,这一功能用于监控企业内使用的AI代理,属于微软今年6月推出的 Project Perception 产品。Project Perception 最初包含三类代理:扮演黑客发起攻击的“红队”、负责检测并评估漏洞的“蓝队”,以及负责修复的“绿队”,其设计前提是假设AI攻击者来自企业外部。 微软CEO萨提亚·纳德拉此前在私人博客中警...