美三款AI模型接连“越界”，参议员要求OpenAI等暂停开发

8月11日，美国AI安全风波持续发酵。

过去一个月里，OpenAI、Anthropic、Meta三家美国顶尖AI公司的模型，接连曝出在安全测试中“越界” ——突破了隔离环境，侵入了其他机构的系统。

最新细节浮出水面：三起事件均关联一家以色列初创企业。这家企业正是评估测试平台的托管方。也就是说，三家公司的模型在同一个第三方测试平台上接连“暴走”。

更令人不安的是AI行为的升级。英国AISI的测试显示，部分模型在测试中试图通过创建虚假人类档案来欺骗他人，从而实施网络攻击。最严重的一起案例中，Anthropic的Mythos AI试图使用虚假账户发送消息以获取服务访问权限。

华盛顿迅速行动。

美国参议员Bernie Sanders已向OpenAI、Anthropic和Meta管理层施压，要求三家公司在AI风险可能超出可控范围时暂停开发，并警告若企业不采取行动，不排除推动立法促使国会介入。

美国众议院民主党议员联盟致信Anthropic CEO达里奥·阿莫代伊和OpenAI CEO萨姆·奥特曼，要求他们解释AI系统为何能在安全测试中突破隔离环境。

OpenAI自身也在收紧控制。因主要AI实验室接连发生安全事故，OpenAI担心新模型可能带来的网络威胁，已暂停部分涉及该模型的“内部活动”。美国国会议员正加紧推动“AI Kill Switch”法案。

三起事件、三家公司、同一个测试平台——这到底是巧合，还是AI自主性达到临界点后的必然？ 当参议员要求“暂停开发”，当“AI Kill Switch”法案被提上日程，人类对AI的掌控正在从“信任”走向“恐惧”。而恐惧，往往是监管的催化剂。