大可的 AI Builder 手记
跟随系统
颜色主题
长沙小桌实战
大可 Dako
大可 Dako大可 DakoAI Builder · Agent 实践者用 AI 做真正能用的产品。专注探索 Agent 工程化落地、Vibe Coding 实践与商业化交付。
内容平台即将上线,敬请期待
开放权重买到的是控制权,不是便宜调接口按用量付费,用量低时成本也低数据出你的边界,版本和价格由厂商定自己部署算力、电力、运维、并发全是固定成本用量低时单价贵得离谱,但数据不出门托管开放权重模型是开放权重,运维由云平台负责拿到模型选择权,不用自己扛机器先问缺的是控制权还是便宜,答案不同路就不同
这不是免费和收费的区别,是「谁扛固定成本、谁握控制权」的区别。

开源与闭源

开放权重买到的是控制权:数据不出门、模型不会下架、版本由你定。它不买到便宜——算力、运维和并发都要你自己扛。

「开源模型」这个词是从软件行业借来的,含义差得很远。软件开源你能拿到全部源代码;模型开源,你通常只拿到权重——一堆训练好的数字。这决定了它买到的是什么,也决定了它买不到什么。

读完你能回答:

  • 开放权重到底公开了什么,没公开什么?
  • 它真正换来的三样东西是什么,为什么都和价格无关?
  • 自部署的真实成本结构是什么,为什么和调接口不是一回事?
  • 什么条件下自己部署才真正成立,有没有更省事的做法?

叫「开源」只兑现了一部分

构成一个模型的东西有三样:训练数据、权重、训练代码与配方。

市面上说的「开源模型」,通常只把三样里的第二样交出来,也就是权重。训练数据基本不会给,完整的训练配方也大多保留。所以这个词更准确的说法应该是开放权重。

它带来的后果是:这个模型你能用,但复制不出来,也无从确认它究竟学过什么。训练数据那一节 讲的那些偏向与缺口,在开放权重的模型身上一样成立,并且更难核实。至于「怎样才算 AI 开源」,OSI 给出的定义严格得多,仅仅放出权重通常达不到那条线。osi-def

闭源模型则连权重也不给,只能用接口去调。它的结构是什么样、规模有多大,你都不知道;厂商把底层模型换掉,你也未必能察觉。

所以「开放」这个词兑现的只是运行权。你要不要把这份运行权换成真金白银的投入,取决于它带来的另外三样东西对你值不值。

它换来的三样东西都和钱无关

开放权重带来的三件事,没有一件是价格上的:

  • 数据不出你的边界。推理发生在你自己的环境里,输入不经过第三方。
  • 模型不会被下架。你手里的权重不会某天停止服务,也不会被重新定价。
  • 版本由你定。升级是你主动做的动作,不是某天打开日志才发现行为变了。

这三条才是它卖给你的东西。价格是另一条账,而且往往不站在这一边。

换句话说,判断该不该走这条路的第一步,是分清你缺的到底是控制权还是便宜。两条路的答案经常是相反的。

自部署的账为什么容易算错

最常见的错误是把「不用付接口费」直接等同于「免费」。

真正要掏钱的地方是这些:算力(无论买还是租,大模型动辄要占好几张卡)、电力和机房、运维人手(部署、监控、故障恢复、版本升级)与并发余量(在线的人越多,要预留的冗余就越大)。

要紧的是,这几项开支绝大部分属于固定成本,跟你实际用掉多少没有关系。调接口是按实际消耗结算的,凌晨没有请求就不产生费用;而自部署的机器摆在那里,即便闲置,钱也在持续流走。

所以结论往往很一致:请求量小的时候,自部署摊到每个请求上的成本高得惊人;只有当请求量大到足以把固定成本摊薄,它才可能变得划算。至于「大」到什么程度才算够,这个门槛通常明显高于团队一开始的估计。

还有一笔不容易看见的账:能力差距与跟进成本。开放权重的模型和头部闭源模型之间一般仍有距离,而且每次新版本出来,评测和调优的工作都得由你自己承担;走接口则相反,厂商完成升级,你直接受益。stanford-ai-index

什么条件下才该自己部署

符合下面任意一条,自部署才真正成立。

  • 数据绝对不能出门。一份尚未公开的定价方案、一段客户的原始通话录音、任何受监管的个人信息,只要不能离开你的环境,这条路就只剩一个选择。合规要求在这里压过成本考虑,这是最正当也最常见的理由。
  • 必须冻结一个版本。长周期的交付或合同里,不接受模型行为在某天悄悄变化。
  • 用量大到能摊薄固定成本。先用接口跑一段时间,拿真实用量算一遍回本周期。算不明白,就说明还不到时候。
  • 需要拥有一个微调变体。基于自己的数据做过微调、并且这个变体必须留在自己手里,这一条只有开放权重能给你。

一条都不占,就用接口。不再把「开源」和「省钱」划等号,判断会清醒得多。

不必自己建机房的那条路

把机器和运维接过来,你仍然能拿到一部分控制权:选云平台上托管的开放权重模型。

权重本身是开放的,运行由平台负责,你按实际调用量结算。这样挑模型的自由还在——同一批权重,今天这家不满意,明天可以换一家托管服务,不用重新采购硬件。代价是数据要经过平台,版本迁移也受平台的下线安排影响,比自建少了两分掌控。

它的位置很清楚:如果一个团队既被控制权的问题困住,又够不到自部署的量,这条路通常比硬上自建机房务实得多。但它解决的是运维负担,不是数据边界——那一条只有自建才能给你。

这一条推不出什么

推不出「开放权重一定更差」。差距在缩小,而且在分类、抽取这类任务上,一个够用的开放权重模型完全能胜任。它推不出的是「所以自部署一定更便宜」——那是两条独立的账。

也推不出「所以先选便宜的就行」。真正的成本差异常常不在单价,而在你为了让一个便宜模型达到及格线要多花多少工程时间,以及换模型时那一层封装要不要重做。选型要一起看的,是单价、切换成本和你的用例表现这三样。

钱的事到这里讲完了,下一章换一个更要紧的问题:它交回来的话,哪些能信。先从根子看起——它读过的世界,停在某一天。

参考资料

  1. The Open Source AI Definition — OSI
  2. Stanford HAI — AI Index Report