ControlAI 美国执行总监康纳·利希：超级智能不是武器，而是对手

OmniTools 9月9日消息，TechCrunch 9月9日消息，在最新一期《Equity》播客中，AI 研究员、非营利组织 ControlAI 美国执行总监康纳·利希（Connor Leahy）表示，超级智能不应被视作可被人类掌控的“武器”，而应被理解为一种具有自主目标与能力的“对手”。

他指出，当前 AI 公司普遍将超级智能视为技术演进的必然终点，但近期如 OpenAI 在 Hugging Face 平台发生的安全事件等现实风险表明，部署能力远超人类的 AI 系统已带来实质性失控隐患。

利希强调，当 AI 具备自我改进能力——即能设计出更强大的下一代 AI 时，可能触发不可逆的“智能爆炸”循环。他所在的 ControlAI 正推动全球范围内的政策行动，包括支持美国参议员桑德斯与卡萨尔提出的《禁止超级智能法案》及英国相关立法倡议，主张暂停超级智能研发。