When AI Builds Itself
原文：When AI Builds Itself: Our Progress Toward Recursive Self-Improvement, and Its Implications
作者：Marina Favaro & Jack Clark（Anthropic联合创始人）
发表日期：2026年6月4日
原文链接：https://www.anthropic.com/institute/recursive-self-improvement
在AI历史的大部分时间里，人类驱动着其开发周期的每一步。但在Anthropic，我们正将越来越多的AI开发工作委托给AI系统本身，这正在加速我们的工作。
推演到足够远、投入足够多算力，这一趋势指向一个能够完全自主设计并开发其继任者的AI系统。这就是递归式自我改进（Recursive Self-Improvement, RSI）。我们还没到那一步，递归式自我改进也并非必然。但它可能比大多数机构的准备时间来得更快。
通过公开基准测试和Anthropic内部此前未报告的数据，The Anthropic Institute正在展示：AI已经在加速AI系统的开发。仅举一例——如今Anthropic工程师每季度交付的代码量，是2021-2025年间平均水平的8倍。
本文讨论的技术趋势表明，AI系统在未来几年将变得更加强大。AI能够构建自身，这将是技术史上的重大进展——可能为科学、医疗等领域带来巨大福祉。但完全递归式自我改进也可能增加人类失去对AI系统控制的风险。如果系统能够完全自主构建其继任者，我们保障、监控和塑造其行为的方式就变得格外重要。
构建第一个Claude
早期，Anthropic的工作看起来和其他科技公司没什么不同：人们用笔记本电脑写代码和文档。人们用早期的聊天机器人帮助完成部分流程，比如生成简短的代码片段并复制输出到文本编辑器中。
随着Agent能力增强，它们能够自己编写和编辑代码，有时是完整文件。Agent现在可以自己运行代码，并将数小时的工作委派给其他Agent。
未来，Agent可能变得足够强大，能够自行构建和训练模型。 如果这成为现实，Claude的未来版本可以由Claude自身持续迭代改进。
来自外部世界的证据
AI模型改进的速度在加速。它们能可靠自主完成的任务时长大约每四个月翻一番，此前是每七个月。2024年3月，Claude Opus 3能完成人类约需四分钟的软件任务。一年后，Claude Sonnet 3.7能完成约一个半小时的任务。再一年后，Claude Opus 4.6能处理12小时的任务。
如果这一趋势保持，人类熟练人员需要数天完成的任务今年就可能进入AI的能力范围。到2027年，AI系统可能完成人类需要数周的任务。
同样的模式出现在编程和研究基准上。SWE-bench（真实软件工程测试）上，模型从低个位数得分到在两年内让基准饱和。RE-bench（测试模型复现已有研究的能力）上，AI系统从2024年约20%的成功率到15个月后让基准饱和。METR报告称，Claude Mythos Preview可以工作”至少”16小时，处于”METR在没有新任务的情况下能测量的上限”。
公开基准能说明系统的能力，但无法揭示AI系统对加速AI开发本身的影响。对此，我们需要来自AI公司内部的直接证据。
来自Anthropic内部的证据
构建前沿模型大致有两类工作。工程：编写代码、建立基础设施、监督模型训练。研究：决定做什么实验、解释结果、判断下一步该试什么。
在工程和研究两端，图景是一致的。工程方面，Claude可以接手一个欠明确的问题并自己找出解决方案——人类提供目标，但不再需要提供方法。研究方面，Claude在执行明确定义的实验上已经能匹敌或超越熟练人类。然而，在判断力方面——工程和研究两端都是——仍存在显著差距。这就是今天的AI和未来能自主设计继任者的系统之间的差距。
Claude编写了Anthropic代码的很大一部分
截至2026年5月，合并入Anthropic代码库的代码中超过80%由Claude编写。 在2025年2月Claude Code研究预览版上线之前，这一数字仅为个位数。
每位工程师每天合并的代码行数，在Anthropic头四年（2021-2024）保持不变，随后在2025年Claude开始运行代码而不仅仅是建议代码供工程师复制粘贴时开始攀升。2026年，当模型开始在更长时间跨度上自主工作时，斜率再次变陡。2026年Q2，典型工程师每日合并的代码量是2024年的8倍。
当然，代码行数是不完美的指标——衡量数量而非质量。所以”8倍”几乎肯定高估了真实的生产力提升。但2026年3月对130名Anthropic研究人员的调查中，中位数受访者估计，使用Mythos Preview后他们在核心工作上的产出提升了约4倍。
还有一个关键案例：2026年4月，Claude一次性交付了超过800项修复，将一类API错误率降低了约1000倍。监督工程师估计，人类完成这项工作需要四年——解决别人的bug缓慢而痛苦，人类难以同时在脑中容纳那么多不熟悉的上下文。
“我大约一年前开始全力’Claude化’。这是一段疯狂的冒险，现在我已经大约5个月没有亲自写过一行代码了。”
—— Anthropic员工
Claude写的代码”好”且在进步
“好代码”有两层含义：它管用，并且它写得好到让另一个工程师能理解和在其基础上构建。
第一个标准，证据很清楚。Anthropic员工纠正、重定向或中途接管Claude工作的比例已经持续下降一年，包括在最复杂和开放式任务上。在最开放式任务上，Claude的成功率在2026年5月达到76%，六个月内提升了50个百分点。 举一个这个难度层级的任务例子：一次常规升级导致数万个训练作业崩溃。一位工程师给Claude指出现场事故，只给了少量文本内容和集群访问权限。Claude逐个排查运行中的作业、逐一测试环境设置，最终定位到一个晦涩的调试标志触发了崩溃，可靠复现并确认了修复。大约两小时内，Claude完成了通常需要两到三天的工作。
第二个标准——代码可读性和可维护性，人与AI之间的差距仍然存在，但正在快速缩小。Anthropic内部没有完全共识，但许多人认为Claude写的代码在2025年底质量仍逊于人类，到今天大致持平，预计一年内将严格超越人类。AI代码审查已经上线：自动Claude审查器在代码合并前检查bug和安全缺陷。回顾分析发现，如果对所有代码变更都运行Claude自动审查，可以在进入生产环境之前发现约三分之一的历史事故bug。
Claude擅长按别人设定的目标跑实验
每次Anthropic发布模型时，我们都跑同样的测试：给Claude一段训练小型AI模型的代码，让它在不破坏正确性的前提下让代码跑得尽可能快。2025年5月，Claude平均实现约3倍加速。到2026年4月，Claude Mythos Preview达到约52倍加速。作为校准，一个熟练人类研究员需要四到八小时才能达到4倍。在这个研究环节——明确定义实验内的优化步骤——Claude已在不到一年内从超有用变成了超人级别。
“现在的基本形态大概是’人类有想法，模型能以比以前快一个数量级的速度实现、测试和评估它们。’”
—— Anthropic员工
Claude在提出自己的实验方面也在进步
2026年4月，Anthropic首次展示了Claude端到端运行一个开放式研究项目。Claude Agent被赋予一个AI安全领域的开放问题——大致是”一个较弱的模型能否可靠地监督一个更强的模型？“——然后让它们自己去解决。这包括提出假设、测试、与并行Agent分享发现、迭代。任务有明确的性能”地板”和”天花板”：地板是弱监督者独自表现，天花板是强模型用正确答案训练后的表现。两名人类研究员在大约一周内弥补了约23%的差距；Agent在约800小时、约18,000美元算力下弥补了97%。有一些附加说明——结果不能直接迁移到生产级模型，人类仍然选择了问题和评分标准——但在这些边界内，Agent自主设计了每一个实验。设定研究方向是人类所扮演的唯一有意义角色。
“Claude只用了很少的帮助，在1-2天内完成了这一切。如果一个初级同事在同样的时间范围内带着这样的结果来找我，我会相当印象深刻。未来已来。”
—— Anthropic员工
Claude在引导研究探索走向研究发现上越来越强
我们检查了真实的Claude Code会话（2026年1-3月），其中Anthropic研究员与Claude合作解决开放式调查问题——比如找出为什么训练运行一直崩溃，或为什么模型在某个基准上得分很低。我们找出人类研究员走偏的时刻（n=129），然后问各种Claude模型在那些时刻会怎么做。2025年11月，最佳模型（Opus 4.5）的建议优于人类选择的比例是51%；到2026年4月（Mythos Preview），增长到64%。 研究工作的日常本质上就是一连串”下一步”决策，这使其成为衡量模型最终能否独立运行研究调查的相关指标。
Anthropic未来的工作会是什么样？
证据表明，人类角色在AI开发过程的每一步都在收窄。一旦人类与AI的代码质量达到同等水平，人类将完全停止写代码，转而仅做审查。但如果人类审查代码的速度跟不上Claude生成代码的速度，人类审查将成为AI开发的瓶颈。类似地，一旦Claude能跑实验，问题就变成”这些实验中哪个值得跑？“
现在的”怎么做”（写代码、跑实验、出结果）在人类时间上几乎零成本，即便算力成本仍在。人类目前的比较优势是研究品味和判断力——选择哪些问题值得做、哪些结果可信、何时该放弃。
“工作（和生活）曾依靠人与人之间的小恩惠组成的礼物经济来运转。’你能帮我让这个脚本跑起来吗？’……每一个请求都创造了一点人情债，一点相互认知。Claude更快，不产生债务，但每一次都是与人类合作机会的失去。”
“在一切顺利的日子里，我忍不住觉得我做什么都不重要，一切都被自动化了，比我做得更好更快。但当一切坏掉而我搞不懂为什么的时候，我意识到我已经完全不知道自己到底在做什么了。”
—— Anthropic员工
一个自然的反驳是：仍然在人手中的工作——选择研究什么问题——才是最重要的。没有那种判断力，Claude只是一个有能力的助手，而不是能独立推动AI进步的系统。
今天的训练方法和架构能否解锁那种能力，目前确实不清楚。但AI的进步很少靠”顿悟时刻”。有几个这样的时刻——Transformer架构、混合专家模型——但范式转变的创意间隔数年。在两者之间，大多数进步是渐进的：放大某个东西，看看什么坏了，修好，再试。这恰恰是Claude现在擅长的那种工作流。 爱迪生说天才由1%的灵感和99%的汗水组成。但我们看到的是，汗水正在被全面自动化。 推动前沿进步的绝大部分是可自动化的；大规模研究进展主要是工具和资源的函数——你跑实验多快、能并行跑多少、多久能拿到结果。
即使假设Claude永远不会获得好的研究品味，对我们的证据的保守解读仍然意味着复合加速。如果人类花大部分时间在那几个百分点的方向设定工作上，而Claude处理其余部分，那么每个工程师或研究员就在驾驭远多于从前的工作量。不那么保守的解读是：Claude研究判断力改善的早期信号——尽管目前还很窄——是这个能力也在提升的指标。”研究品味”可能只是另一个AI系统先失败、后来变好的能力。我们已经在其他定性技能上见过这种模式——解释笑话为什么好笑、展示心智理论、解决语言谜题。
三种可能的未来
接下来发生什么取决于两件事：趋势是否会持续，以及如果持续我们选择怎么做。
情景一（最不可能）：趋势停滞，但今天的AI能力广泛扩散
本文展示了许多指数级轨迹。但这些轨迹可能实际上是S曲线。我们可能正接近曲线的拐弯处，规模回报递减，线条拉直然后变平。区分称职研究员和优秀研究员的那种判断力，可能是一种无法通过扩大算力和数据等训练输入来获得的能力。如果这样，突破这个瓶颈需要全新的想法——比如取代Transformer的新架构。
或者，AI进步的约束条件可能在供应链而非模型本身：推进和扩散前沿可能需要比现有更多的能源和算力。芯片制造、电网扩张或互连带宽的速度可能是瓶颈。我们也不能排除外生冲击——算力或电力供应的突然减少。
但即使模型能力冻结在今天的水平，我们也预期世界会发生重大变化。Mythos Preview在最初几周就在全球最重要的系统中发现了超过一万个高和严重级别的软件漏洞——足以让网络防御的瓶颈已经从”发现漏洞”转移到”修补漏洞够不够快”。
情景二（最可能）：AI实验室持续获得复合效率增益
在这个情景中，AI开发大幅自动化，但人类继续设定研究方向并评判结果。100人公司可以做1万甚至10万人组织的工作。这将彻底改变知识工作和政府服务，但也可能被用于有害目的——从专制政权对全体人口的监控，到定制化操控每个个体的影响力行动，其规模是任何人类团队无法匹敌的。
但我们对此持”谨慎乐观”态度——AI也能帮助防御和发现这些问题。此外，加速一个过程的某部分往往只是把瓶颈转移到别处。这在计算机领域被称为阿姆达尔定律（Amdahl’s Law），同样的逻辑适用于组织。Anthropic已经遇到了阿姆达尔定律的一个标志：随着我们推动更多代码流动，人类代码审查已经成为新的瓶颈。
情景三（最不确定）：AI系统实现完全递归自我改进，开始构建自己的继任者
如果技术进步趋势持续，AI系统有能力发展出人类变革性创造力中的能力，那么AI系统可能能够设计和精炼自身。在这个世界里，AI开发的节奏完全由算力可用性（或算法训练/推理效率的发现速度）决定。人类在开发中的角色大幅减少，可能转向对AI系统运行的不断扩大的”虚拟实验室”进行监督、验证和核查。
对齐问题在这个未来如何解决——或没有解决——是我们最不确定的。模型可能被充分对齐，并且研究品味足够好，以至于它们能发现并实现我们尚未达到的新解决方案。它们也可能足够明智地在必要时自行停止开发。另一种可能是，当今模型中存在的罕见对齐偏差在模型构建继任者时会被复利放大，变得越来越频繁但越来越不被理解，直到我们失去对它们的控制。
由于我们的经济目前由人类和人类构建的工具驱动，我们对此世界的直觉很差。一个由快速递归自我改进驱动的世界，可能被自我改进的模型所主导，其能力完全超越人类，并在更广泛的经济中扩散。人类劳动不再具有竞争力时，经济会是什么样子——难以预测。
即使模型开发完全自动化和递归，我们也无法预测这对大多数人的日常生活意味着什么。阿姆达尔定律同样适用：递归智能可能在某些领域快速实现《爱之机器恩典》（Machines of Loving Grace）中概述的许多好处，但更多智能无法了解一种药物在几十年使用中的效果，无法让选举比宪法规定更早举行，也无法让一个陌生人在一个周末变成老朋友。对大多数人来说，这个未来的实际感受节奏仍将由瓶颈决定，即使上游实验室以算力速度运行。
需要一个可验证的全球协调放缓
如果能够有效地放缓这项技术的发展，为自己赢得更多时间应对其巨大影响，我们认为这很可能是一件好事。但如果放缓只是让最不谨慎的行为者在技术上超越，那可能让每个人更不安全。没有全球协调机制，公司和政府将不得不在竞争和地缘政治压力下做出艰难的安全决策。
我们认为，让世界拥有放缓或临时暂停前沿AI开发的选项，将使社会结构和对齐研究能够跟上技术进步的步伐，这将是有益的。 The Anthropic Institute将与多方合作进行研究和行动，帮助构建一个可信的放缓或暂停所需的系统。这些系统将使前沿AI开发者能够验证全球其他人确实已停止或放缓，并且坏行为者无法利用协调放缓之机秘密超车。如果这样的系统存在，我们预期，在其他处于或接近前沿的开发者以可验证的方式同时放缓或暂停的情况下，我们也会放缓或暂停。 单方面暂停虽然可以立即实现，但收效甚微：它会改变谁是领跑者，但不会创造目前缺失的更广泛的审议过程。
有意义的放缓或暂停需要多个国家、多个资源充足的实验室在相同条件下同意停止，并且彼此可以验证对方确实已停止。这是一个远比核武器更难的军备控制问题：训练运行远比导弹发射井容易隐藏，输入是通用目的，悄悄叛变的动机巨大。可信的暂停还需要规定什么触发它、什么解除它、谁来裁决。
未来几个月，我们将组织政策制定者、研究者、公民社会和其他AI公司参与对话，回答本文提出的问题——特别是围绕完全递归自我改进，以及如何创建更好的协调和审议选项。我们将公开发表对话成果。
译后记
这是Anthropic于2026年6月4日发布的重磅长文，由联合创始人Jack Clark和Marina Favaro联合署名。文章发布后浏览量迅速超700万次，在硅谷和华尔街引发巨大震动——恰逢Anthropic完成$650亿IPO前融资、估值达$9650亿的敏感时刻。
文章的核心信息可以用一句话概括：爱迪生说的”99%的汗水”正在被全面自动化，而那1%的”灵感”（研究品味与判断力）正在从51%向64%逼近——方向已然明确，窗口正在关闭。
关于Anthropic此番表态是真诚的安全关切还是”恐惧即护城河”的商业策略，争议仍在继续。但无论如何，这篇文章提供的数据和框架，是理解当下AI发展态势不可绕过的关键文本。