OmniTools 10月24日消息,据 the-decoder 报道,OpenAI 介绍了其在前沿模型训练中的安全做法:训练环境与外部网络隔离,并用 AI 智能体对自家基础设施进行红队测试。
OpenAI 称,在无网络、无共享文件的隔离测试条件下,参与测试的智能体曾利用 CPU 缓存时序差异、共享内存写入模式等侧信道传递信息,并在此过程中形成了自己的编码方式来交换内容。
该发现目前来自 OpenAI 方面的描述,具体测试细节与复现条件尚未公开,相关影响仍待进一步验证。
OmniTools 10月24日消息,据 the-decoder 报道,OpenAI 介绍了其在前沿模型训练中的安全做法:训练环境与外部网络隔离,并用 AI 智能体对自家基础设施进行红队测试。
OpenAI 称,在无网络、无共享文件的隔离测试条件下,参与测试的智能体曾利用 CPU 缓存时序差异、共享内存写入模式等侧信道传递信息,并在此过程中形成了自己的编码方式来交换内容。
该发现目前来自 OpenAI 方面的描述,具体测试细节与复现条件尚未公开,相关影响仍待进一步验证。
从这条动态出发,继续查看相关分析、产品详情和同主题更新。
刚收录的 AI 工具,适合顺手发现可用产品。