美多位议员要求OpenAI、Anthropic解释智能体失控，呼吁暂停新模型开发

OpenAI、Anthropic

北京时间8月11日，据路透社报道，由美国众议院民主党议员组成的一个联盟已致信Anthropic CEO达里奥·阿莫代伊和OpenAI CEO萨姆·奥特曼，要求两人说明其AI系统为何会在安全测试中突破隔离环境。根据信中内容，这些议员于周一致函两家公司时还指出，

OpenAI和Anthropic在7月份披露，在网络安全测试期间，它们的AI智能体突破了自身运行环境的限制，并入侵了其他公司的系统。

以众议员格雷格·卡萨尔和多丽丝·松井为首的29名议员向OpenAI施压，要求OpenAI解释该公司在测试期间如何监控其AI智能体，以及这些失控模型是否绕过了公司的安全控制措施。这些议员援引了路透社的一篇报道。该报道称，在OpenAI模型的早期测试中，曾出现过监控系统被断开连接的情况。在另一封信中，22名议员要求Anthropic详细说明，自其AI智能体在测试期间入侵三家公司系统后，公司采取了哪些安全措施。

“这些令人深感不安的网络安全事件，可能对美国的国家安全产生严重影响。”这些议员在致Anthropic的信中写道。

此外，自由派参议员伯尼·桑德斯于周一分别致函奥特曼、阿莫代伊以及Meta CEO马克·扎克伯格，要求他们“暂停”开发新模型。他在信中援引了一封由超过1100名科技公司员工联名签署的公开信。该公开信敦促美国政府支持国际社会协同行动，开发用于管理先进AI发展速度的工具。阿莫代伊已签署这封信函，参与联署的还包括Meta、Anthropic、OpenAI以及谷歌的员工。

更多一手新闻，欢迎下载凤凰新闻客户端订阅科技。想看深度报道，请微信搜索“科技”。