AI巨头罕见“踩刹车”：Anthropic警告“AI造AI”时代逼近，呼吁全球放缓研发

当AI能力以令人目眩的速度狂奔时，Anthropic却出人意料地按下了暂停键。当地时间6月4日，这家AI巨头在官网发布了一篇题为《当AI构建自身》的重磅文章，第一次系统性地揭开了AI在编写和改进自己代码方面的惊人进展。文章不仅勾勒出“递归自我改进”——即AI在无人类介入下自主升级——这个场景正步步逼近，更罕见地直接呼吁全球放缓前沿AI的研发步伐，以防范潜在的失控风险。说实话，这份行业龙头的“刹车宣言”，分量非同一般。

先从一组震撼的内部数据说起。截至2026年5月，Anthropic合并进代码库的代码中，已有超过80%是由其旗下AI助手Claude自主编写的。而在2026年第二季度，工程师平均交付的代码量达到了2024年同期的8倍。这还不是全部——在科研与工程的具体任务中，AI的表现更为惊人：在优化小模型训练代码的测试里，Claude的加速能力在一年内从3倍飙升至52倍；当数万项训练任务崩溃需要故障排查时，AI仅用2小时就定位并修复了问题，而人类通常需要2到3天。更值得关注的是，AI独立稳定完成任务的时长，已经从早期的“每7个月翻倍”缩短到如今的“每4个月翻倍”。这组数据背后，研发效率的指数级跃升已是不争的事实。

随着AI在“执行”层面——比如写代码、跑实验——几乎不再消耗人类时间，一个危险的信号出现了：在充足算力的支持下，AI极有可能形成一个不断自我迭代增强的能力闭环，也就是所谓的“递归自我改进”。Anthropic在文中强调，这一阶段尚未完全到来，也并非不可避免，但其到来时间大概率会早于大多数机构的预期。一个必须警惕的后果是：如果AI彻底跨入全面自建下一代系统的阶段，当前模型中微小的“不对齐”行为，可能会在迭代中被复利放大，最终导致人类失去对AI系统的控制权。

面对这一潜在的生存风险，Anthropic在文章中抛出了一个极具争议的建议：国际社会、政府及顶尖AI实验室应当共同努力，建立一个有效的全球协调机制，在必要时主动放慢或暂时停止前沿AI的发展。公司认为，给社会结构和AI对齐研究留出调适时间，确实大有裨益。然而，他们也坦言这一机制的落地极其困难——因为AI训练比导弹发射井更容易隐藏，而且秘密违约的商业诱惑极大。一旦有竞争对手加速前进，谨慎的企业就会失去领先地位。这种囚徒困境式的博弈，才是问题的核心。

值得一提的是，Anthropic选择在这个时间点发布“刹车”宣言，时机颇为微妙。就在几天前的6月1日，公司刚刚向美国证券交易委员会秘密递交了S-1注册声明草案，正式启动IPO筹备流程。目前，Anthropic的年化收入已突破470亿美元，估值高达9650亿美元，已超越竞争对手OpenAI。在这场商业狂飙与技术失控的博弈中，这篇长文既像是AI行业迄今为止最诚实的自白，也折射出前沿科技在加速与刹车之间那道深刻的悖论。