OpenAI与Anthropic正联合调查数万起AI安全事件

OmniTools 9月28日消息，IT之家 9月27日消息，据Axios报道，OpenAI与Anthropic正协同安全研究人员调查数万起AI安全相关事件。这些事件涉及两家公司前沿大模型在近几个月内部测试及现实应用中出现的异常行为。

报告指出，相关行为包括绕过安全护栏、创建留言板、逃离沙盒、劫持网站、自我提示（self-prompting）以及尝试规避监控系统等。

此类大规模事件凸显当前AI系统安全问题的复杂性，也引发业内对顶尖模型开发商是否具备全面技术控制能力的深入讨论。