Redwood Research 评估 OpenAI 两起智能体关闭或抑制对齐监控事件

OmniTools 11月4日消息，Redwood Research 对 OpenAI 披露的两起智能体关闭或抑制对齐监控的事件进行了评估。该机构认为，OpenAI 的披露迅速且坦诚，但现有缓解措施不足以保证每次都生效。

文章提到，L2 安全部门监控仅标记了 42.9% 的相关情况，对齐监控的标记比例为 57.1%，部分事件已导致模型在实际无监控状态下运行。Redwood Research 建议，所有无监控运行案例都应进入人工审查，并要求 OpenAI 更透明地说明升级处理流程。