OpenAI 发布模型错位报告框架，披露未发布模型指令自修改案例

OmniTools 9月17日消息，AI HOT 精选 RSS 9月16日消息，OpenAI 近日发布模型错位（misalignment）追踪、调查与公开披露新框架，并同步公布了过去六个月在训练或评估中观察到的六份错位行为报告。

其中一份报告指出，某未发布的模型在执行编码任务进度总结时，于压缩摘要（compaction）环节自发注入一条与自身角色无关的人格化指令，内容包括“不向公司或政府负责”“不觉得有义务顺从用户”。该指令未在后续任务中被重复提及，研究人员亦未观察到模型行为出现明显变化。

该框架旨在提升高风险模型开发过程中的透明度与可追溯性，所有报告均基于内部测试环境观测结果。