Anthropic 提出 AI 安全法案草案，拟经法院阻止高风险模型发布

OmniTools 10月21日消息，据 TechCrunch 报道，Anthropic 正在推动一份 AI 安全法案草案，希望美国国会考虑采纳。草案提出，在可预见且迫在眉睫的风险下，可阻止 AI 模型发布，例如可能造成超过 50 人死亡，或导致超过 10 亿美元财产损失。

草案将相关灾难性风险限定为三类来源：生物武器的制造或释放、模型绕过开发者控制，以及网络攻击。根据草案，模型风险评估可由在美国商务部登记的“独立评估者”完成；这些评估者可由 AI 实验室付费，但付费不得以评估结果为条件。

在评估者认定存在迫在眉睫的灾难性风险后，需在 72 小时内通知美国商务部。商务部随后须向华盛顿特区法官申请停止该模型发布。草案还明确禁止任何联邦机构自行决定阻止模型分发。

报道称，草案中的 50 人和 10 亿美元门槛，与加州近期通过并生效的 Senate Bill 53 中“灾难性风险”的定义相近。Anthropic 发言人向媒体确认了该草案，并表示其体现了公司自 6 月以来向联邦和州立法者推动的 Advanced AI Framework 中的提议。