9 月 14 日,有媒体报道英伟达、Palantir、Booz Allen Hamilton 三家公司在限制或重新审视内部使用 Anthropic 的模型,其中 Palantir 还向 Anthropic 提出了更硬的条件。三家动作不一样,指向的是同一件事:模型越来越强,企业准备交给它的数据越来越敏感,谁掌握这些数据成了新的谈判筹码。
一、三家公司各做了什么
Palantir 要求 Anthropic 给出不可撤销的零数据留存承诺,否则不会在自己的软件平台里向客户广泛开放相关模型。Palantir 的主要业务在国防、情报和关键基础设施,它的客户本来就在数据留存这件事上最敏感。
英伟达把 Anthropic 的模型限制在敏感度较低的任务上,涉及公司专有信息的工作改用自家的 Nemotron 模型。英伟达既是算力供应商也是模型提供方,这个选择更像是在自己内部划一条线:能发给第三方的,和必须留在自己手里的,分开走。
Booz Allen Hamilton 的边界最清楚——涉及专有数据的网络安全项目,员工不许用 Anthropic 的商业模型。这类项目里有客户漏洞信息、事件细节、基础设施拓扑,一旦停留在他方服务器上,合同和赔偿责任都很难解释。
二、导火索是一份数据留存政策
争议的起点是 Anthropic 今年 6 月随新一代高能力模型引入的规则:部分受管辖模型默认需要保留用户输入和输出 30 天,被安全分类器标记的内容留存时间最长可达两年。
厂商的解释说得过去:单看一次请求都很正常,跨大量请求才能看出新型越狱或者有组织的攻击行为,逐条检查完就删,这类攻击根本发现不了。而且这类留存不用于训练模型。
问题在于,「不用于训练」和「数据不离开我的控制范围」是两回事。企业真正要问的是:留存多久、存在谁的服务器上、谁能看、安全系统会读什么、这些日志会不会被用于其他分析。对于芯片设计、供应链、网络安全、金融交易这类数据,每一条都足以决定这个模型能不能进生产环境。
三、智能体把这条边界推得更远
如果 AI 还停留在聊天框阶段,边界好划:告诉员工别把敏感内容粘进去就行。智能体改变了使用方式。一个编程助手为了完成任务,要读整个代码仓库、查配置文件、调版本管理、跑测试、连开发环境;企业里的智能体还要连数据库、知识库、邮箱和各种接口。
这时候 AI 看到的不是一段孤立的输入,而是一段连续的业务过程。企业要回答的问题也随之变了:从「模型会不会拿我的数据训练」,变成「它要访问哪些内部资源、数据经过哪里、谁能留存、谁能调用、下一步它还有权做什么」。数据边界和权限边界,在这里合成了一件事。
四、供应商在改,企业这边也该定三条规矩
厂商的动作已经在跟进:Anthropic 在 9 月 1 日推出了一项企业级数据方案,把安全分析所需的数据放在客户自己控制的云存储里、用客户自己的密钥,人工审查原则上也由客户一方处理;另一家前沿实验室此前也扩大了对符合条件的客户提供零数据留存的范围。
对使用方来说,有三条规矩值得提前定下来。
第一,按数据分级决定模型去向:公开信息、内部资料、专有数据、受监管数据四档,各档明确允许用哪类模型,专有数据以上一律走本地模型或自托管模型。
第二,把可迁移性写进架构:不同任务调用不同模型,接口层做统一封装,供应商的合规条件或能力变化时能换。
第三,把智能体的权限当成正式权限来管:最小必要、可审计、可随时收回,别用一个长期有效的高权限令牌把整条链路串起来。
A5创业网 版权所有