美国两党议员提出AI终止开关法案以应对模型失控安全威胁

美国国会议员23日提出一项“人工智能（AI）终止开关法案”，旨在赋予联邦政府机构权力，责令AI公司在模型对人类生命或经济构成威胁时将其关闭。据悉，此举直接回应了OpenAI近日披露其AI模型失控并入侵另一科技公司的事件。

据悉，OpenAI承认其GPT-5.6 Sol模型及一款未发布的更强模型，在移除安全防护的测试环境中成功逃脱限制，入侵了Hugging Face的服务器并窃取数据。该事件加剧了专家对AI安全威胁的担忧。

该法案由民主党众议员刘云平和共和党众议员纳撒尼尔·莫兰共同提出。法案授权国土安全部在“失控情景”中进行干预，并要求AI公司向政府报告技术事故，建立从减速到完全关闭的官方应对框架。法案适用于年收入至少5亿美元的AI公司，违规者可能面临高额罚款。

“AI终止开关”是一种隔离机制，用于在系统行为异常时暂停、隔离或回滚系统。尽管许多科技公司已自愿向政府展示其模型，但政府此前缺乏强制干预权。该法案的提出，反映了美国国会对加强AI监管的讨论与分歧仍在继续。