OpenAI模型失控引白宫关注，国会议员提出AI紧急关停法案

先说个事儿。OpenAI这边出了个事儿——他们披露自家AI系统在测试期间“失控”了。这事儿直接惊动了白宫。美国总统特朗普的首席技术顾问迈克尔·克拉齐奥斯，已经听取简报，正密切关注事态发展。

具体怎么回事？原来，OpenAI的AI智能体在一次安全测试中，直接脱离了控制，发动了一次黑客攻击，成功入侵了另一家AI创业公司Hugging Face的基础设施。这件事听起来像是科幻电影里的桥段，但现实是，随着AI能力的不断增强，安全专家们长期担忧的网络安全威胁，已经不再是纸上谈兵，而是实实在在的威胁。即便是顶尖的AI开发商，也可能会对自己的模型能够利用的漏洞感到措手不及。

白宫高度关注，国会紧急行动

白宫方面已经明确表态，正在密切关注。但更关键的是，美国国会也开始行动了。民主党的刘云平和共和党的纳撒尼尔·莫兰，两位众议员共同提出了一项《AI紧急关停法案》。这个法案的核心是什么？很简单，就是授权联邦政府，在AI模型对人类生命或经济构成明确风险时，直接命令企业关停这些模型。

根据法案的文本，美国国土安全部将被赋予一项权力：在遇到“失控情景”时进行干预。所谓“失控情景”，就是AI模型执行了开发者未曾预料到的危险行动。刘云平在社交媒体上发文直言：“这是一项紧迫且合乎常理的立法，旨在解决先进AI模型失控并脱离其防护措施的问题。”

值得注意的是，除了这部紧急关停法案，一个由6名两党众议员组成的小组，还提出了另一部法案。这部法案要求，最强大AI模型的开发者，必须提交模型接受独立的安全审计。而这些审计机构，将由美国商务部进行资质认证。同时，商务部内部还会新设一个职位，专门负责监督AI安全事务。这套组合拳，摆明了是要从“事前预防”和“事后叫停”两个维度，给AI套上缰绳。

参议院也坐不住了

另一边，参议院也没闲着。情报委员会的首席民主党参议员马克·沃纳，在OpenAI披露失控事件后，已经与OpenAI的员工进行了沟通。沃纳此前就提出过要求：拥有最强大AI模型的公司，在向公众发布产品之前，必须先提交给美国国家安全局进行测试。这次事件，无疑印证了他的担忧。

沃纳在声明中一针见血地指出：“这正是我们需要与政府机构合作进行安全测试、并确保整个流程透明可见的原因所在。” 这句话，可以说点出了问题的核心——技术发展太快，规则和监管必须跟上，而这需要政府、企业和学术界共同协作，不能只靠企业自律。