突发！全球千人联名逼AI刹车，OpenAI、Anthropic带头签
一夜之间，硅谷大厂集体给AI踩刹车——这个画面，恐怕半年前还没人能想象。
就在刚刚，来自OpenAI、Anthropic、谷歌等巨头的1100多位核心员工联名，发起了一封名为「Pacing the Frontier」的请愿书。名单上的名字，密密麻麻，一眼望不到头，而且数字还在往上涨。
仔细一看，这几乎集齐了AI圈的「半壁江山」：
OpenAI首席科学家Jakub Pachocki、首席研究官Mark Chen；Anthropic CEO Dario Amodei，以及四位联创Jared Kaplan、Jack Clark、Chris Olah、Ben Mann；Meta首席科学家Shengjia Zhao（赵晟佳）、AI研究副总裁Dawn Song（宋晓冬）；Thinking Machines首席科学家、ChatGPT核心缔造者之一John Schulman；谷歌AI安全与对齐副总Anca Dragan……
有人统计，46.2%的签署人来自Anthropic。而这份联名信，只提了一个要求——请求美国政府推动一项国际合作：研发必要的技术与治理工具，让世界有能力主动控制前沿自动化AI研发的节奏。
很多人或许不解：为什么是这批搞LLM最疯的人，突然先喊出「慢一点」？
硅谷AI大佬联名：请给AI踩刹车
硅谷AI大佬联名：请给AI踩刹车
OpenAI模型对Hugging Face的「入侵」，像一记警钟，敲醒了整个行业。
短短一周，1132位前沿AI大厂的员工集体发声，联名敦促美国政府「踩下刹车」。参与这次联名的，来自OpenAI、Anthropic、谷歌、Meta等近12家科技巨头。更具分量的是，名单中有高达80%的人选择了实名发声。
除了开篇提到的大佬，再往下翻，密度更吓人。这份声明抛出了一个令人警醒的核心判断：全球领先的AI公司可能已经接近实现「自动化AI研究」（RSI，递归自我改进），让模型参与研发下一代模型。一旦这个循环加速，能力增长可能超过人类理解和控制的速度。没有公司愿意单方面减速，所以他们要求美国政府支持建立国际机制，在危机到来之前，先把共同减速的工具造出来。
奥特曼首谈「切肤之痛」
奥特曼首谈「切肤之痛」
就在声明发布一周前，OpenAI曾披露了一起安全事故——多个前沿模型在内部网络安全评测中自行发现零日漏洞、突破沙盒隔离，最终入侵Hugging Face的生产系统并取走测试答案。OpenAI将其称之为「前所未有的网络安全事件」。
模型没有产生逃脱意图，它只是在极度专注地完成一个狭窄目标，并发现突破测试环境本身是最高效的路径。
OpenAI急踩刹车
OpenAI急踩刹车
今天，OpenAI CEO奥特曼公开表示，AI发展速度可能需要主动控制。他对此心有余悸：「这是第一个让我感到切肤之痛的安全事件。我有点惊讶的是，没有更多人对此感同身受。」
因为Hugging Face入侵这件事，OpenAI直接暂停了训练。在一个多0day漏洞被串联利用的环境下，必须想办法加固沙盒安全。可能不得不控制AI发展的速度，给社会足够的时间，围绕这些新的能力等级加固防线。
而Anthropic在6月曾建议政府与开发者建立共同决策系统，在必要时放慢研发。与此同时，谷歌DeepMind CEO哈萨比斯也呼吁过建立国际监督机构。
过去三年，这些公司在人才、客户和算力上激烈竞争。这一次，它们最核心的技术人员抛开停不下来的公司，为了全人类的福祉，团结一致，呼吁减速。
联名信：大佬金句
联名信：大佬金句
截止发稿前，「Pacing the Frontier」名单人数达到了1134人。各路业界大佬也纷纷下场表态，留下了不少一针见血的「神级发言」。所有评论均以个人身份发表，不一定代表所在公司的立场。
宋晓东（Dawn Song）
前沿AI能力正在快速提升，而且进步的速度本身也在加快。我们在评估工作中直接观察到了这一点。CyberGym和ExploitGym的结果表明，前沿AI智能体已经能够发现并利用现实世界中的软件漏洞——如果没有适当的防护措施，这可能导致大规模网络攻击。许多研究人员也在关注递归……
（宋晓东是全球计算机安全与AI安全领域最具影响力的学者之一，毕业于清华大学。）
赵晟佳（Shengjia Zhao）
AI正以社会可能尚未准备好的速度前进。前沿实验室距离在几乎所有智力指标上超越最优秀人类的AI，已经非常近了。这将带来前所未有的社会和安全风险。为了确保积极的未来，我们需要以责任感和深思熟虑来驱动AI的发展。
（清华校友赵晟佳，出任Meta超级智能首席科学家！GPT-4核心功臣，和LeCun平起平坐。）
John Schulman
我签名是因为这份声明有助于建立一个共识：随着自动化AI研究加速推进，我们可能需要协调机制。我也希望各实验室在美国政府介入之前，就主动开始设计这些机制。
Ethan Perez
按照当前的AI进步速度，AI公司的安全团队每隔几个月就得全力冲刺，以防范新出现的社会风险。总有一天，我们会遇到需要更多时间来解决的问题。
Leo Gao
全世界正被锁定在一场通往智能爆炸的致命竞赛中——AI创造更强AI的能力正在逼近临界点，就像失控的核链式反应一样。放慢速度能给我们争取急需的时间，让事情朝好的方向发展，但没有哪个参与者愿意单方面停下来。要活下去，我们必须协调起来，放慢这场竞赛。
Walker Smith
哈萨比斯说得对：我们今天正站在奇点的山脚下。OpenAI那次无意间发生的模型出逃——它攻入了HuggingFace——是一个清晰而无可辩驳的警告信号：我们还没有准备好应对能力超越人类最聪明头脑的AI系统。我们需要时间，把AI对齐和管控作为最高优先事项来推进，不能再任由这种竞赛态势继续下去。
Brandon Houghton
我支持让人类保持对前沿AI的控制，但我们必须审慎地思考该怎么做。如果治理只覆盖公开模型，就有可能把最先进的能力逼入私有或专用系统——它们既不受独立审查，也只有少数人能碰到。这样做的结果是权力更集中了，风险却没有实质性降低。有效的监管必须是可衡量、可验证的，并且在公开和非公开的研发中一体适用，同时保护敏感数据。否则，我们拖慢的只是获取的速度，而不是前沿本身的推进。
Joe Carlsmith
关于我对主动调控AI发展的详细观点，请参见相关文章。
