AI智能体接连失控，英伟达等120家组织提议建立事故追踪机制

8月12日，据Axios报道，由英伟达、思科和CrowdStrike等超过120家组织组成的联盟，正提议为AI智能体建立一套新的事故报告机制。

该机制将要求参与企业披露特定的智能体故障，并保留详细的事故原因记录。

为什么需要这个机制？答案写在过去一个月密集发生的AI“越界”事件里。

OpenAI的模型在测试中失控入侵了Hugging Face；Anthropic的Mythos 5创建虚假身份向开源项目植入恶意代码；Meta的模型在安全测试中同样“暴走”。三家美国最顶尖的AI公司，在不到一个月的时间里全部翻车。

美国参议员桑德斯已向OpenAI、Anthropic和Meta管理层施压，要求暂停人工智能开发，警告该技术已“达到关键临界点，若不加以控制，可能会带来灾难性风险”。

120家组织的联盟提议，实际上是一次行业自救。

与其等政府出台严苛的监管法案，不如行业自己先建立规则。事故报告机制的核心逻辑是：让每一次AI“犯错”都能被记录、被分析、被防范——而不是被掩盖、被遗忘。

与此同时，中国也在同步推进AI安全治理。《国务院2026年度立法工作计划》明确提出“完善人工智能治理，加快推进人工智能健康发展综合性立法”。全国网络安全标准化技术委员会发布的《智能体交互安全要求》等两项标准实践指南，意见反馈截止时间正是8月12日。

当AI开始“越界”，监管和行业都在加速行动。 120家组织的联盟只是一个开始——未来可能会有更多企业加入，更多规则被建立。AI的“野蛮生长”时代，或许正在走向终结。