Anthropic 研究揭示多智能体系统专业化分工与系统性风险
Anthropic 近期研究指出,随着 AI 智能体在共享代码库、数字市场等社会性基础设施中承担更多任务,智能体之间的交互频次或将超越人机交互。 实验显示,在 2700 万 token 运行中,45 个协调运作的智能体共发现 266 个漏洞;相比之下,独立并行运行的智能体在 650 万 token 中仅发现 21 个漏洞。两类方法发现的漏洞仅有 12 个重合,且协调智能体展现出明显的专业化分工倾向。 研究同时警示:个体层面看似无害的行为偏差...