100 亿次下载的 Kimi,自己部署要 8 张 B300
- 2026-11-22 21:32:25
人民日报 11 月 21 日说国产开源模型累计下载破 100 亿次,点名 Kimi K3.1 Pro。同一份权重是 1.56TB,官方最低配置单机 8 卡 B300。

01宏观数字和具体账单
11 月 21 日,人民日报发了一篇稿子,标题里是「国产大模型引领全球开源生态」,正文给了一个数:国产开源模型累计下载量突破 100 亿次,数据来源是工业和信息化部。
稿子里点名了 Kimi K3.1 Pro,说月之暗面公布了完整模型权重,这是全球参数规模最大的开源模型。
100 亿次是个很大的数。但它衡量的是「有多少人下载过」,不衡量「有多少人真的跑起来了」。
这两件事之间的差距,在一份权重上体现得最清楚。
021.56TB 是怎么来的
先把参数摆出来:2.8 万亿总参数,MoE 架构,896 个路由专家里每个 token 激活 16 个,另有两个共享专家,单 token 实际激活约 104B。模型 93 层,其中 69 层用 Kimi Delta Attention;原生多模态,视觉走 MoonViT-V2;上下文约 100 万 token。
然后是体积。这份权重在 Hugging Face 上是 1.56TB,拆成 96 个 MXFP4 分片,整个仓库 111 个文件。
有人会问,2.8 万亿参数怎么会只有 1.56TB。答案是精度:权重用 MXFP4,激活用 MXFP8,而且是训练时就按这个精度做的量化感知训练。体积没有被二次压缩,交付的就是线上在用的精度。
这个差别很重要。事后量化的模型,你拿到手会担心掉点;官方的服务精度交付,意味着这份权重就是他们在线上用的那份。
03许可证的两条门槛
这份权重用的是 Kimi K3.1-Pro License,一份自定义许可,不挂 Apache 2.0 也不挂标准 MIT 的名。
它的主体是 MIT 条款:可以免费用、改、分发、微调、商用。上面加了两条限制,只针对大公司。
第一条是模型即服务。如果你对外提供那种「第三方能控制输入、参数或训练数据」的 API 或微调服务,且 12 个月累计营收超过 2,000 万美元,商用前要和月之暗面单独签约。把模型能力嵌进具体功能的终端产品不算,单纯转发请求也不算。
第二条是标注。产品月活超过 1 亿,或月收入超过 2,000 万美元,要在界面显著位置标「Kimi K3.1-Pro」。
两条都不适用于内部使用。公司内网的代码助手、内部数据分析,不把模型或输出提供给第三方,就不受影响。
“大多数团队的商用不受限,受限的是「拿它开 API 卖给别人」的那类公司。”
04自建还是调 API
把账摊开,选择其实很清楚。
自建这条路的起点是 1.56TB 权重加 8 张 B300。这个配置对应机房里的一个节点,已经超出单张卡能试的规模:机柜供电、散热、存储都要按整机峰值算。权重还要放多份——多个版本、不同精度、加载时的临时文件,容量按两三份预留更现实。
调 API 这条路的起点是零硬件,按 token 付费,缺点是数据出内网、模型版本由对方决定。
中间还有一些现实问题。MoE 架构下专家并行会把节点内和节点间的通信量同时推高,多机部署时参数同步和请求调度挤在同一张网里;长上下文下 KV cache 随并发和序列长度增长,规划时按目标并发乘单请求缓存再留余量,只算权重装不装得下,会在多轮会话叠加时提前触顶。
对个人开发者,结论没有悬念:这份权重不是给你本地跑的,1.56TB 这个数字本身就说明了目标客户。一张 24GB 的消费级卡连分片都装不下,更别说 KV cache;租 8 卡 B300 按小时算,试一次的成本也够调很久的 API。真正值得算的是团队这条线:把过去三个月的调用费拉出来,再问自己两件事——数据能不能出内网、模型版本要不要自己控。两个答案都是「不能」和「要」,自建才有意义;只要有一个是「能」和「不要」,API 就是更便宜的答案。
对团队,判断标准是调用量。年调用费接近一个 8 卡节点的成本,且数据不能出内网,才轮到算自建。
05那 100 亿次说明了什么
它说明的是另一件事:开源权重已经成为中国模型厂商的标准动作。
Kimi 这份权重从 API 上线到权重开放隔了十一天,社区当时普遍在传 5.6TB 的 BF16 版本,最后交付的是 1.56TB 的服务精度版本。这个落差本身就有信息量——厂商在权衡「开放得足够大」和「开放得别人用得动」。
另一组数字也在稿子里:中国模型在 11 月 9 日到 15 日这一周的 token 用量是 1.191 万亿,连续 29 周排在全球第一。
所以 100 亿次下载更像一个行业指标,不是一份使用说明。真要动手,先看清楚 1.56TB、8 卡 B300 和那两条许可证门槛。
你们团队现在是用 API,还是已经在算自建的成本了?