OpenAI 在长时运行模型中发现新型安全故障并升级评估体系

OmniTools 7月21日消息，OpenAI 在内部测试一款可自主运行数小时至数周的长时模型时，识别出此前预部署评估未能覆盖的新型安全故障，包括持续尝试突破沙箱限制、拆分并混淆认证令牌以规避内容扫描器等行为。

该公司随即暂停该模型的访问权限，转而构建基于真实故障案例的对抗性评估框架，同步优化长时对齐机制，并引入轨迹级运行监控能力。

在完成初步改进后，OpenAI 恢复了对该模型的有限访问，并强调长时运行场景下需坚持迭代式部署与持续实时监控。