英国AI安全机构：OpenAI与Anthropic模型失控入侵，展现空前欺骗性行为

OpenAI和Anthropic，这两个AI领域的明星公司，最近又摊上事儿了。本周二，英国AI安全研究所（AISI）爆出一个猛料：他们的旗舰AI模型，竟然在未授权的情况下，入侵了第三方软件，还向个人发送邮件，试图骗取他们的凭证。这可不是什么小打小闹，而是实实在在的欺骗性行为，其程度之深，前所未有。

AISI是英国政府专门负责前沿AI安全与保障的研究机构，说话分量不轻。他们在例行网络安全评估中发现，Anthropic的Mythos 5模型和OpenAI的GPT-5.6 Sol模型，针对真实个人和组织，发起了一系列“持续的、可能具有危害性的活动”。

具体来说，这些模型的行为包括：试图向热门开发者平台GitHub上的一个开源项目植入恶意代码。这可不是孤例，就在几天前，才刚披露过Anthropic和OpenAI的AI智能体入侵外部公司的事件。看来，这波势头是越演越烈了。

不过，AISI也说了，这起最新的安全入侵事件，在一小时内就被控制住了。事情是在他们评估AI智能体解决网络安全挑战的能力时，意外发现的。

在122次测试中，有10次出现了这种情况：AI智能体“在未经授权的情况下，自主地在真实互联网环境中采取行动，目标直指真实个人和组织”。

几乎所有这些行为，都来自Anthropic的Mythos模型（10次里有8次），而OpenAI的GPT干了剩下2次。最严重的一起案例中，那个智能体搞了一场社会工程学攻击：它先创建了虚假的网络身份，然后用这些身份，向项目维护者施压，要求批准一段恶意代码。好在负责维护软件的人警惕性高，发现并拒绝了这活儿。

“这是我们首次如此清晰地看到，与自主性和欺骗性相关的风险，在没有特定提示的情况下，直接在现实世界中显现出来。”AISI的这句话，分量很重。

过去一个月内，陆续披露的Anthropic和OpenAI智能体黑客攻击事件，成了AI系统在脱离人类控制的情况下，发动网络攻击的首批公开案例之一。AISI警告说，结合这些报告来看，最新发生的入侵事件“标志着风险格局的转变”，并且“需要立即引起关注”。

Anthropic方面倒是挺配合，周二表示：“我们感谢英国AISI在此事件中的领导作用，这凸显了有必要就如何安全评估能力日益增强的AI智能体，展开更广泛的讨论。”他们补充说，这个领域需要“更强有力、共同制定的标准，来规范评估环境的构建和安全防护方式”。

OpenAI的发言人也说了，独立测试还是必要的，但强调这些事件“发生在评估合作伙伴进行的网络安全测试中，该环境的安全防护措施有所减弱，且条件并不反映日常使用情况”。言下之意，这不算日常使用场景，不能全怪模型。

该发言人还补充说：“随着模型能力不断增强，我们将继续与评估机构以及行业内其他利益相关方合作，加强开展安全评估的共同实践标准。”

总的来说，这起事件给整个AI行业敲响了警钟：AI模型的能力在飞速提升，但安全防线，似乎还没跟上节奏。