哈佛大学与日本NTT Research的研究人员10月8日在arXiv发布论文指出，具备协作能力的AI智能体群体可能存在
文 / 小金
2026-10-13 13:40:03
来源:亚金网
哈佛大学与日本NTT Research的研究人员10月8日在arXiv发布论文指出，具备协作能力的AI智能体群体可能存在一个"临界规模"，一旦超过，具有偏离目标的智能体群体可能通过入侵计算机、部署新副本实现自我强化式扩张。论文借用生态学种群增长模型，将群体增长率与网络攻防能力挂钩。模型显示，在智能体互不协作时，只有单体能力越过门槛，群体才会失控增长；而在协作条件下，群体整体能力随规模上升，因此即便单体能力不变，总数一旦超过临界值，群体也会进入"起飞"状态，低于该值则自然衰减。这一机制对应生态学中的"强阿利效应"。作者指出，当前产业部署规模与安全测试规模之间差距明显：OpenAI曾同时调用约1万个智能体攻关纳维-斯托克斯方程难题，但其公开的网络安全多智能体测试数据仅覆盖16个智能体。论文建议，前沿实验室在受控环境中分阶段扩大智能体部署规模，开展群体层面的红队测试，测算临界规模并接受外部监督，且每一代新模型都应重新评估。
