Anthropic首席执行官呼吁政府拥有封锁"危险"AI系统的权力

Anthropic公司CEO达里奥·阿莫迪这次直接放话了：政府应该有权让那些危险的AI模型“不能起飞”，就像对待不安全的飞机一样——该停飞就得停飞。

在他的最新博文中，阿莫迪明确了几条硬杠杠：前沿AI系统必须接受强制性的第三方审计，一旦审计发现不可接受的风险，政府有权直接叫停部署。同时，他还呼吁为那些因AI崛起而失业的群体提供更多经济补偿。

这一方案比大多数人的预期都要激进，甚至超过了美国总统特朗普上周签署的行政令——后者只是要求情报机构参与对新模型的风险测试。阿莫迪建议，政府应该根据模型训练时投入的算力规模来进行审计。具体来说，设置一个“算力门槛”：一旦某个新模型的训练算力超过这个阈值，在公开发布前就必须自动触发独立调查，看看它到底有多大的破坏力。

文章还圈定了四个必须重点评估的风险类别：网络安全漏洞、生物武器能力、加速危险领域自动化研究的潜力，以及模型超出人类控制范围的可能性。如果审计人员认定模型在任何一个领域存在不可接受的风险，阿莫迪希望政府能直接阻止其部署。

他给出的参考模型是现有的航空、汽车和药品监管框架。他写道：“至少在当前这个指数级发展阶段，最恰当的类比就是汽车、飞机或药品——这些都是现代经济不可或缺的强大技术，但设计或操作不当，也可能造成大量人员伤亡。”这话说得直白，但也不无道理。

对比一下特朗普6月2日的行政令，差距就出来了。总统的行政令只是鼓励AI企业在发布前一个月自愿与政府审计人员共享模型，并强调情报界参与测试网络安全漏洞，但没有任何强制执行机制，也没有引入强制性测试。而阿莫迪的方案，通篇找不到“自愿”二字，要求的不是合作，而是合规。特朗普依赖情报机构，阿莫迪则要求赋予独立审计机构实质性的否决权。

其实，Anthropic一直在推动AI严监管。早在2023年9月，他们就发布了《负责任扩展政策》，此后多次更新，引入了AI安全等级（ASL）等概念，构建了一套随模型能力提升而分级管理风险的框架。他们还公开支持加州SB 53法案等相关立法。

除了安全问题，阿莫迪还特别提醒：AI对劳动力市场的冲击可能远比以往的技术革新更深远，持续时间也更长。他写道：“在这样的世界里，核心挑战不是如何激励增长，而是如何让所有人都能共享发展红利。”这话说到了点子上——技术再强，人跟不上也没用。

阿莫迪表示，他长期警告AI取代就业问题，并非出于“末日预言者”的心态，而是希望“政策制定者和私营部门能够拥有最充分的机会来适应并做出回应”。

为此，他呼吁政府做三件事：收集更多数据追踪AI导致的就业流失情况，出台促进就业的激励措施以减缓趋势，以及研究“全民基本收入”等机制——当就业流失持续加剧、劳动力需求长期下降时，这可能是最后的兜底方案。资金从哪来？他建议通过对“相关企业”征税或提高资本利得税来筹集。

Q&A

Q1：阿莫迪提出的AI安全审计框架具体包含哪些内容？

A：他建议设立“算力门槛”，一旦新模型的训练算力超过该阈值，就会自动触发独立调查。审计重点涵盖四大风险类别：网络安全漏洞、生物武器能力、加速危险领域自动化研究的潜力，以及模型超出人类控制的风险。若审计认定存在不可接受的风险，政府有权阻止该模型公开部署。

Q2：阿莫迪的方案与特朗普AI行政令有什么区别？

A：两者差异明显。特朗普的行政令鼓励AI企业在发布前自愿共享模型，侧重情报机构参与测试，且无强制执行机制。而阿莫迪的方案不设“自愿”选项，要求强制合规，并主张赋予独立审计机构实质性否决权，整体力度远超行政令。

Q3：阿莫迪对AI冲击就业问题有哪些政策建议？

A：他呼吁政府收集更多数据以追踪AI导致的就业流失情况，并推出促进就业的激励措施。若就业流失持续加剧，他还建议探索“全民基本收入”机制，资金来源可考虑对AI相关企业征税或提高资本利得税。