Anthropic 80%代码AI自己写，人类刹车来得及么？

【导读】9650亿估值的IPO野心，与全球AI急刹车的公开呼吁，Anthropic用最极端的对比，把整个行业最深的矛盾摆在了台面上。Jack Clark说行业有油门没刹车，我们想造那个刹车踏板。但人类还能在递归自我改进真正闭环前，安装好那块踏板吗？

上周，Anthropic干了两件看似矛盾、实则逻辑自洽的大事。

6月1日，公司向美国证券交易委员会秘密提交了S-1文件，目标直指今年10月上市，估值逼近9650亿美元。

6月4日，联合创始人Jack Clark和研究负责人Marina Fa varo联合发表提案，呼吁全球暂停AI研发，以防AI失控。

真正让整个行业倒吸一口凉气的，是藏在公告里的一个数字——

到今年5月，Anthropic内部代码库中，超过80%的代码是由Claude编写的。

递归自我改进的底层逻辑，就浓缩在这个数字里。AI自己在写AI的代码，并且已经成了主力。

在接受采访时，Jack Clark解释了为何提出暂停AI研发的倡议：

现在的情况是，AI行业有油门，但没有刹车。

我们想做的，就是为打造那个刹车踏板贡献一些力量。

递归自我改进，听起来很美，细想却让人脊背发凉。

或许，这就是Anthropic一边踩油门冲刺IPO、一边呼吁全球急刹车的深层逻辑。

那么，AI自我递归改进，真的意味着AI即将脱离人类控制吗？

Jack Clark惊人预判：AI自我加速

Jack Clark做出了一个极为大胆的预判：到

，AI能够在的情况下，自行创造出下一代产品的概率高达。

那一刻，将标志着「递归自我提升」闭环的正式开启。

这并非空xue来风。行业里已经开始认真对待「递归自我提升」这件事了。Anthropic还在谈概念，Sakana已经成立了专门的AI RSI Lab，动手开干。

他们甚至已经画出了AI递归自我改进的演化轨迹图。

更早之前，原特斯拉AI负责人、OpenAI创始成员Andrej Karpathy在优化模型时，被他撒手不管的AI智能体Autoresearch，在短短数天内

。DeepMind的模型也在没有人类干预的情况下自主优化算法，帮谷歌节省了，并将旗舰模型Gemini的训练速度提升了1%。

在这个过程中，AI驱动的研发（R&D）加速效应可能早已显现。根据乔治敦大学安全与新兴技术中心（CSET）今年1月发布的一份报告，随着AI系统执行的AI研发比例逐步提高，其相较于纯人类研发的生产力提升，可能会以十倍、百倍甚至千倍的速度增长。

传送门：https://cset.georgetown.edu/wp-content/uploads/CSET-When-AI-Builds-AI.pdf

报告同时发出警告：即使AI研发的某些方面在最初阶段难以自动化，但加速的进展速度意味着这些瓶颈很快就会被克服。

METR的基准测试结果也印证了这种加速趋势：2025年初，AI模型只能处理需要人类工程师花费不到1小时的任务；而到了2026年中，AI已经能够熟练解决需要人类

的复杂系统级任务。

这种能力的陡峭跃迁，正是Jack Clark做出那个惊人预判的底气所在。

自我递归提升，无限放大的善与恶

AI「自我递归提升」已经成为行业共识——但没有人确切知道它最终会带来什么。

与人类不同，AI可以不知疲倦、持续不断地工作。因此有观点认为，它会在极短时间内催生出超级人工智能ASI——也就是所谓的「快速引爆」。

为什么机器自我改进这件事让人如此不安？因为它的进化路径踩在了一个

上。

目前，AI所有的自我提升，几乎都发生在拥有

的领域。在软件代码、数学证明这类非黑即白的世界里，AI可以通过自我博弈产生海量「合成数据」来训练自己，而不用担心「模型退化」的风险。

这就导致了一个极其危险的结构性倾斜：

• 机器自我升级「智力」与「力量」的速度，正处于光速运行的闭环通道里；
• 机器理解人类「善意」与「控制」的速度，却被卡在泥泞、缓慢、无法标准化的主观泥潭里。

麻省理工学院物理学家Max Tegmark把这个场景比喻为

。

更可怕的是，司机不仅闭上了眼睛，他踩下的那个油门，还在通过递归改进被无限加强。

AI末日论者担心，超人工智能ASI将突破人类控制，而「递归自我提升」正是人类命运被移交给机器的临界点。

不过，一个能够自我提升的AI可能也会面临自己的速度限制——至少在初期是这样。

AI即将脱离人类控制吗？

通往超级智能的道路上，还堆着几包沉重的「物理沙袋」。

算力的实体约束

即便AI的算法优化再精妙，新一代模型的训练依然高度依赖物理世界的建设——更多的电网、更多的散热系统，以及需要数年时间才能建好的大型数据中心。

就在Anthropic呼吁全球暂停AI开发的第二天——

暴跌的导火索是博通略显疲态的第三季度AI芯片销售指引，以及AMD和英特尔超过10%的暴跌。但在这场史诗级闪崩背后，是整个AI产业链正在触碰硬性的物理天花板：

算力的分流红利

正如CSET临时执行董事所指出的，普通大众对AI消费级应用的大规模使用，如日常对话、工具调用等，会大量分流原本可用于前沿RSI闭环研发的算力。这在物理上拖慢了AI狂飙的速度。

科研人员最近虽然在尝试用光子学芯片来击穿传输瓶颈，但这项技术依然处于早期阶段。制约AI规模扩展的关键因素，已经从「算力有多少」变成了数据在芯片之间传输的「带宽」与「功耗」。

AI的能力与算力扩张的野心，正在狠狠撞击人类物理世界的电网、产能与原材料极限。

致命的「锯齿状前沿」

要让AI实现真正、不受控的指数级自循环，它必须将整条研发链条上的每一个环节都实现闭环自动化。这是一场由四个关键兵种组成的接力赛：

• 数据科学家提供算法的理论假说；
• 程序员将其转化为高效的底层代码；
• 系统工程师搭建可承载千亿参数的算力底座；
• 对齐与安全团队在终点拉起红线，确保模型不滑向失控。

然而，这条战线并没有齐头并进。相反，它呈现出一种极度不均衡的、犬牙交错的

。

但更值得警惕的是：

沙袋能阻挡潮水一时，但挡不住真正的洪峰。

目前全球最大的系统漏洞在于，我们现有的监管、法律与安全框架，仍然在用「人类速度」运行。我们习惯于在事故发生后起草法案，习惯于在商业巨头完成垄断后才进行反垄断调查。

当机器开始自己谱写未来的代码，留给人类修改错别字的时间，真的不多了。