大可的 AI Builder 手记
跟随系统
颜色主题
长沙小桌实战
大可 Dako
大可 Dako大可 DakoAI Builder · Agent 实践者用 AI 做真正能用的产品。专注探索 Agent 工程化落地、Vibe Coding 实践与商业化交付。
内容平台即将上线,敬请期待
同一句话,三种形态去到三个地方消费级产品面向个人的界面,条款通常最松,内容可能进训练、可能有人看自己用最方便,别贴敏感信息开发者接口按调用计费,默认是否进训练各家写法不同,留存与加密也有差别做功能的默认选择,条款要逐条看企业协议组织级合同,不留存、不进训练、数据驻留都能写成条款唯一能把边界写进合同的一档按你实际用的那一个产品去查,不要类推
同一句话,三种形态去到三个地方。要问的不是「这家厂商安全吗」,而是「我用的这一种,写下来的是什么」。

数据去向

留存、能否用于训练、谁负责,三种接入形态各有一套。这是采购判断,不是设置项,要拿的是写进合同的承诺。

你的数据会去哪,取决于你用的是哪一种接入形态:面向个人的界面、按调用计费的接口、组织级协议,三者对留存、能否用于训练、谁负责各有各的写法。这是采购判断,不是设置项——设置里能关掉的东西,合同里才写得下承诺。

读完你能回答:

  • 为什么「同一家公司政策一样」这个假设会让你踩坑?
  • 要问厂商的到底是哪一句话,为什么「我们很重视安全」不算回答?
  • 发出去之前,哪一件事完全由你说了算?

同一家厂商,三种形态能给三套承诺

消费级产品。 面向个人的界面,条款通常最宽松:内容可能用于改进模型,人工审核也可能看到一部分。它最方便,也最不该用来贴客户名单、合同条款、未公开的财务数据。

开发者接口。 你按调用付费,构建自己的功能。这一档的常见写法是「默认不用于训练」,但「默认」不是「承诺」——默认意味着存在一个开关或一条申请路径。留存时长、是否在途加密、能不能约定区域,各家写得不一样,要逐条看。openai-data

企业协议。 面向组织的一档,可以把不留存、不用于训练、数据驻留这些写成条款,责任主体也从个人变成签约的组织。它最贵,也是唯一能把这些写进合同的一档。anthropic-commercial 厂商通常会把个人服务和商业服务分开陈述,方便你对照自己属于哪一边。anthropic-privacy

常见的错误是拿其中一档的经验去推断另外两档。同一家厂商,三种形态的承诺可以差得很远。 你贴出去的那段文字,落在哪一档,就按哪一档的条款算。

你拿到的是承诺,还是一个默认值

「我们不会用你的数据训练模型」和「你的数据默认不用于训练」,读起来差不多,分量差很远。

默认值是一个设置,承诺是一份约定。 默认意味着:存在一个开关、一条申请路径,或者一个你不出手就继续生效的状态;也意味着改起来只要发一版新条款,不必和你重新谈。承诺意味着它写进了有主体、有期限的那份文件里,改动要付出违约的代价。

对应的动作也不一样。看到「默认」,你要去找那个开关在哪、默认值这一版是不是还成立;看到「承诺」,你要确认它写在哪一份文件里、覆盖哪一种服务、有效期多久。

还有一条时间维度:条款会更新。 你签合同时确认过的那一版,一年以后可能已经不是现在这一版,而你的判断还停在上一版上。所以复查不能只做一次,要像依赖升级一样写进维护流程。

四句要问的话,第四句最常被跳过

对着自己的场景,把「你们安全吗」换成四句具体的话:

要问什么 及格的那句话 什么说法不算数
会不会用于训练 明确的「不会」,标明适用哪种服务 「默认不会」「我们很重视数据安全」
留存多久、怎么删 具体时长、删除路径、有没有延迟窗口 「按需保留」「会及时清理」
谁能看到 是否有人工审阅,在什么条件下 「只有必要人员可见」
出事谁负责 责任方、通知义务、赔偿条款 「我们会积极配合处理」

前三句问的是技术条款,第四句决定出事时谁承担。没有第四句,前三句的保证只是好意。

判断标准很简单:你拿到的是「一句写下来的话」,还是「一个让人放心的说法」。 前者有主体、有范围、有期限,后者换个销售就变了。

只有一件事完全由你说了算

前面几件事都取决于对方怎么写,这一件取决于你发什么。

  • 只发完成任务需要的那一段。 判断一条工单该转给谁,需要的是故障描述和错误码,不是整条工单的往来记录。
  • 能不带标识就不带。 内部工号、客户编号、设备序列号,凡是任务不需要的字段,在进入请求之前就剥掉。
  • 别把原始数据交给模型搬运。 让系统传递精确字段,模型只负责判断,这条在 别让模型搬运数据 里有完整做法。
  • 收窄能收窄的范围。 限定可用资料、限定时间范围,既是准确性手段,也是暴露面的手段。

数据最小化不解决条款问题,但它把「万一」的规模压下来——发出去的东西越少,条款写错时你损失的越少。

红线在发送之前,责任在你这边

有一条边界值得单独记住:数据一旦进了第三方的训练流程,几乎不可能撤回。文件可以删,权重里学到的东西删不掉。所以「事后补救」这条路基本不存在,判断只能发生在发送之前。

如果你是做 AI 产品的一方,这条红线上还压着两件事,别人替不了你:一是把用户需要知道的话写出来——内容会不会用于训练、留多久、怎么删,用用户读得懂的句子写进你的政策里;二是别替用户做主——你选了一条会把内容送进第三方训练的通道,等于替所有用户答应了这件事,而他们没有同意过。

所以这篇的结论落回到你身上:该问的问题是采购问题。选哪一种接入形态、合同里写下哪几句话、哪些字段根本不发出去——这三件事都在你的权限内,也都不能靠事后检查补上。

哪些活该发出去、哪些不该,是同一套判断的另一面:人机边界 讲的是这条线怎么划;而发出去之后回来一份回答,怎么核,三个动作筛掉大部分会害到你的错 给的是三个具体动作。

到此,信与不信的判断都给过了:为什么会编、怎么核实、数据和指令的边界在哪。最后回头补一件前面一直没展开的事——这台机器到底是什么,为什么又强又不靠谱。起点是预测下一个字。

参考资料

  1. Enterprise privacy at OpenAI
  2. Privacy Policy — Anthropic
  3. Commercial Terms — Anthropic