Anthropic与OpenAI拟引入嵌入式第三方安全评估员

OmniTools 9月17日消息，Anthropic首席执行官Dario Amodei在近期发布的长文中提议，前沿AI公司应向第三方安全评估机构（如METR、Redwood Research）开放深度访问权限，允许其介入模型训练全过程，包括检查中间训练节点（checkpoints）、评估对齐训练行为、核查内部文档与员工访谈记录，并自主发布关键发现，不受公司编辑干预。

OpenAI首席执行官Sam Altman亦表示将采纳该实践。但目前两家公司尚未公布合作评估机构名单、嵌入时间表、人员规模、具体访问范围及信息披露边界。多位研究人员指出，过往评估常受限于短期驻场（如GPT-6 Astra仅提供3天测试窗口）、严苛保密协议及公司主导的发布审查，独立性难以保障。

专家强调，真正有效的监督需配套透明框架与法律约束。加州SB 813法案已设立州级“独立验证组织”认证机制；欧盟《人工智能法案》则强制要求前沿模型开展对抗性测试并报告严重事故。研究者普遍认为，自愿性安排依赖企业善意，若缺乏外部问责，难以建立公众信任。