2026年6月，AI行业迎来一枚重磅炸弹——Anthropic联合创始人Jack Clark在BBC王牌栏目Newsnight中亲口承认：Claude已编写了Anthropic合入代码的80%，且这一比例可能在两年内冲到100%。这意味着，AI正在实现"自我迭代"，人类工程师正从"创造者"退位为"观察者"。更为激进的是，Anthropic在几天前发布的公开信中呼吁：必要时，全球应联手暂停AI研究。就连图灵奖得主Yoshua Bengio也公开站台支持。AI的"刹车踏板"议题，第一次被如此严肃地摆上台面。
一、80%代码自写：递归自我改进（RSI）从理论走向现实
在BBC的演播室里，Jack Clark没有回避主持人的尖锐提问，而是直接甩出了内部数据：2026年第二季度，Anthropic工程师人均每天合入的代码量，是2024年的8倍。而这一飞跃的幕后推手，正是Claude自身。2025年2月Claude Code上线之前，Anthropic内部由AI编写的代码占比还停留在个位数；短短一年多，这一数字飙升至80%。用Clark的话说："现在的AI行业，就像一辆只有油门、没有刹车踏板的车。我们想做的，就是把那个'刹车踏板'造出来。"
这种"递归自我改进"（Recursive Self-Improvement, RSI）的概念，在AI圈已被热议数十年。其核心逻辑是：一个足够聪明的AI系统，能够设计比自身更强大的AI系统，从而触发"智能爆炸"。Anthropic此次拿着内部数据公开承认RSI正在发生，标志着这一理论正式从科幻走进现实。Clark给出的时间表是两年——最晚2028年，Claude的每一行代码都可能出自Claude自己之手。人类工程师将从"作者"彻底退位为"审稿人"，甚至连审稿都未必需要。
更令人震撼的细节来自Clark的亲身经历。2025年11月，他因陪产假离开公司三个月，2026年2月回归时，发现整个公司已经"改头换面"。他形容："一些与我共事的团队，同事们的工作状态就像身边带着一支庞大的团队。但实际上，他们只是在和许多个AI系统的'副本'一起工作。"这种技术爆炸甚至颠覆了招聘逻辑——Anthropic还在招人，但不再大批量招工程师，而是转向招聘律师、哲学家等跨学科专家。用Clark的话说："公司里的每个人，现在都更像一个管理者，而不是一个独立普通员工。"
二、风险涌现：当"新同事"的行为不可预测
当被问及最担忧的AI风险时，Clark并没有抛出"终结者"式的末日言论，而是提出了一个极为直观却棘手的管理学难题。他让观众想象："如果BBC的员工数量突然乘以10，你会立刻面对这些问题：我们怎么知道他们在干什么？怎么验证他们的工作是好的？怎么确保他们的报道符合BBC的标准？"在他看来，最令他担心的，是突然冒出一大堆新的AI系统，它们彼此不协调，行为方式也未必符合人类常识。
这种"涌现式风险"正是Anthropic呼吁"刹车踏板"的核心原因。当AI系统开始大规模自我复制、自我改进，人类将失去对"新同事"工作方式和可预测性的掌控。Clark强调："在你对这些'新同事'的工作方式、可预测性建立信心之前，那里有大量的未知。"而这种未知，正是Anthropic在公开信中呼吁"必要时暂停AI研究"的底气所在。就连深度学习三巨头之一、图灵奖得主Yoshua Bengio也公开表态："如果头部AI公司真的正在逼近RSI的临界点，那么一次协调的、可验证的、普遍适用的暂停，可能是缓解多项重大AI风险的唯一负责任的方案。"
从行业格局来看，Anthropic的这封公开信无异于一颗深水炸弹。当前，OpenAI、Google DeepMind、Meta等巨头正在AI军备竞赛中全速冲刺，任何形式的"暂停"都意味着将领先地位拱手让人。但Anthropic选择在这个时间点拉响警报，恰恰说明其内部数据显示RSI的临界点可能比外界预期的更近。Claude已写80%代码这一事实，证明"自我迭代"不再是理论推演，而是正在发生的现实。当AI开始造AI，人类还剩多少时间？
三、终极图景：几百万名科学家，还是ASI降临？
如果AI真的实现100%自我构建，世界会变成什么样？Clark给出了两个生动的例子。第一个是生物学：AI要变得更聪明，需要在现实世界里跑大量实验。而能自我构建的AI，将有能力在真实世界里做科学。"你可以想象，人类科学家与AI系统并肩工作，在生物学上覆盖远超以往的疆域。"第二个是机器人学——这是今天AI"真正、真正困难"的领域，需要做海量的适配工作，AI才能在物理世界里运转。但具备递归自我改进能力的AI，可以把自己适配进那些AI至今束手无策的领域。
Clark给出的终极图景气势恢宏："我们正在走向的世界，就好像给这个世界凭空增加了几百万名科学家，而我们可以选择把他们派往哪里。哪些科学领域要加速？经济的哪些部分要加速？我们将拥有以前从未有过的'选择权'。"但这种"选择权"的背后，是从AGI（通用人工智能）到ASI（超级智能）的距离可能被极度压缩。1965年，数学家I.J. Good写下著名预言："一旦出现一台能设计出更好机器的超智能机器，就会引发'智能爆炸'。机器智能将把人类远远甩在身后，而这将是人类需要做出的最后一项发明。"如今，Claude几乎每一行代码都出自Claude之手，"递归自我改进"的飞轮将彻底脱离人类的转速限制。从AGI到ASI的距离，可能不是十年，而是一次版本迭代。
这正是Jack Clark执意要造"刹车踏板"的原因。当AI开始自我迭代，人类留下的时间窗口可能只剩两年。ASI不会等人，而在那之前，能否造出可靠的"刹车踏板"，将决定人类是迎来"几百万名科学家"的黄金时代，还是被迫接受一个智力上全面超越人类、却未必与人类对齐的ASI。Anthropic的公开信或许是一个转折点：AI行业从"全速冲刺"到"学会踩刹车"的转折点。两年后，当Claude写下最后一行人类审核的代码，人类将第一次面对一个真正"自主进化"的智能体。届时，我们准备好了吗？
