Anthropic 警告可能即将达到 RSI 能力阈值

OmniTools 11月3日消息，TechCrunch 11月3日消息，Anthropic 在修订后的 S-1A 文件中警告，公司可能即将达到其“责任扩展政策”所定义的“由 AI 带来的进展急剧加速”阈值，即递归自我改进（RSI）能力。文件称，其内部估算和对未来模型的预期显示，公司可能很快满足这一定义，但当前尚无模型被认定超过该阈值。

Anthropic 在风险因素中表示，过去曾出现未及时识别模型能力跃升的情况，未来也可能在开发速度显著加快后才察觉。公司称，使用 AI 帮助构建更强 AI 可能带来显著安全风险，尤其当进展急剧加速时；这属于责任扩展政策覆盖的领域。

文件同时称，Anthropic 不预期能在缺乏有意义人类监督或理解的情况下，安全地使用 Claude 完全自主设计和构建下一代前沿模型，并正考虑更新政策以保持人类对前沿模型开发的控制。报道提到，S-1 文件兼具披露与营销属性，但 Claude 今年在编程、数学和网络安全等能力上有明显提升。