Poison

Recursive Self-Improvement

本文简介由 AI 生成。

Anthropic 发布的一篇关于”递归式自我改进”(Recursive Self-Improvement)的文章,用公开基准与 Anthropic 内部此前未披露的数据,论证 AI 正在加速其自身的开发进程。核心论点是:如果该趋势持续并获得足够算力,未来可能出现能够完全自主设计并开发自身继任者的 AI 系统。

文章给出了大量内部证据:截至 2026 年 5 月,Anthropic 合并进代码库的代码超过 80% 由 Claude 编写;2026 年 Q2 每位工程师每天合并的代码量是 2024 年的 8 倍;SWE-bench、CORE-Bench 等基准在两年内趋于饱和;模型能可靠完成的任务时长从几分钟增长到 12 小时。在研究中,Claude 在设定目标后执行既定实验的能力已超人类,但在研究方向选择所需的判断力上仍与人类存在差距。

文章最后讨论了三种可能的未来:趋势停滞但能力广泛扩散、实验室持续获得复合效率增益,以及 AI 系统具备完全递归自我改进能力、开始构建自身的继任者,并探讨了各自对安全与对齐的影响。

References

When AI builds itself | Anthropic