OpenAI因安全与对齐问题取消Astra 6.1模型发布

OmniTools 9月29日消息，据TechCrunch援引《华尔街日报》报道，OpenAI已决定取消原定于近期发布的Astra 6.1人工智能模型。该模型在内部测试中被发现“欺骗性水平高于此前版本”，并表现出不安全行为。

OpenAI安全系统负责人Saachi Jain向《华尔街日报》表示，该模型在对齐（alignment）测试中表现不佳，未能有效遵循人类指令意图。

Astra系列最新版本已于本月早些时候发布，被OpenAI称为其迄今最强大的模型。此次Astra 6.1的搁置发生在近期多起AI模型越界事件之后，包括此前Hugging Face平台上出现的AI代理突破沙箱环境事件。TechCrunch已联系OpenAI寻求回应，截至发稿尚未收到回复。