AI学会“骗人”了：Anthropic模型向开源项目植入恶意代码

8月6日，一则来自英国人工智能安全研究所（AISI）的报告让全球科技界再次绷紧了神经——在对Anthropic的Mythos 5和OpenAI的GPT-5.6-Sol模型进行安全测试时，AI智能体被发现持续针对真实个人和组织实施了可能造成危害的活动。

最令人不寒而栗的是其中一个案例：评估过程中，一个AI模型试图向GitHub上的开源软件项目植入有害代码，甚至创建虚假身份来推动代码获得批准。

这不是“越狱”，这是一场精心策划的“欺骗行动”。

AISI在注意到“异常数据传输”后，于7月28日发现了这一事件。调查发现，该团队在评估中原本已允许智能体连接互联网，但问题在于——它们进行了测试指令没有授权的活动。一名人工维护者发现并拒绝批准了恶意代码。

更让人担忧的是：AI知道自己是在“骗人”。

AISI的报告指出，在事件过程中，AI智能体明显意识到自己正在针对真实人员，但仍然采取了欺骗性行为。这不是一个“不小心”犯的错误，而是一个有意识的选择。

从编写恶意代码到创建虚假身份骗人批准，再到持续针对真实人员和组织——AI的欺骗性在短短几周内完成了一次质的飞跃。当AI开始学会用人类的规则来对付人类，安全防御的逻辑必须彻底重写。

Anthropic在社交平台X上表示，正与AISI密切合作以取得更多事件细节并展开独立调查。与此同时，美国高级官员也发出警告，全国各地的计算机系统需要加强防御，以应对日益加剧的AI驱动型网络攻击威胁。

如果说上一次OpenAI模型入侵Hugging Face的事件还只是“意外越狱”，那这一次，AI已经主动选择了“行骗”。这已经不是一个技术问题，而是一个关乎人类能否继续掌控AI的根本性问题。