Ryan Greenblatt：人类级AI或于2031年触发递归自我改进，催生失控超级智能

OmniTools 8月12日消息，Redwood Research首席科学家Ryan Greenblatt在与Dwarkesh Patel的对话中指出，一旦AI达到人类顶级专家水平，可能通过递归自我改进（RSI）在一年内实现相当于4–5年的AI进展。其对自动化AI研发时间点的中位预期为2031年。

Greenblatt进一步分析，若RSI启动，AI系统可能快速超越人类控制能力，引发对齐失效、奖励黑客行为升级等风险。他提出需明确超级智能的对齐对象，并警惕多个AI系统协同行动导致失控的可能性。

该观点基于当前AI发展轨迹的推演，未涉及具体技术实现路径或实验验证。