1.56TB 免费下载,8 张卡装不下:权重开源那天,API 价一分没动
- 2026-11-09 00:28:19
权重开源了,调用就该便宜
1.56TB 免费下载
八张卡装不下
2.8 万亿参数 · 单卡 141GB · 要 12 张
卓然智算 · 快讯解码
📦 4 Parts
👉 滑动
PART 01
1.56TB
权重体积
PART 02
12 张
141GB 卡
PART 03
9 张
192GB 卡
PART 04
60%
Batch 折扣
你手上如果有一个每月跑 5,000 万输入、1,000 万输出的活,挂在 Kimi K3.1 Pro 上,一个月是 1,330 元。这周有人告诉你:这个模型的权重已经放出来,可以免费下载,自己跑。
下载确实免费。1.56TB,96 个文件,谁都能下。但你省下的是 1,330 元里的一部分。账单的另一半从来不是模型本身。
01
PART
放出来的是文件,不是机器
FILES, NOT MACHINES
11 月 4 日前后,Moonshot 在 Hugging Face 上把 Kimi K3.1 Pro 的全量权重公开了,仓库不带访问门禁。规模是:2.8 万亿总参数、每 Token 激活 1040 亿、上下文 1,048,576 Token,另带一个 4.01 亿参数视觉编码器。文件约 1.56TB,96 个 safetensors 分片。
权重 MXFP4、激活 MXFP8,官方说明这是量化感知训练,不是事后压的。所以文件比 BF16 小四分之三,你也没法“换回高精度再跑一遍”。
02
PART
按显存算:八张卡装不下
EIGHT CARDS DO NOT FIT
这一节要动笔算,也正好戳破一个说法:跑这个模型“八张高端 GPU 就够”。
按每参数 4 bit 算,2.8 万亿参数是 1.4TB 的权重,加上视觉编码器和运行时开销,1.56TB 这个数对得上。问题出在卡的容量上:
141GB 的卡(H200 这一档):1,560 ÷ 141 ≈ 11.1,向上取整 12 张,还没算 KV cache 和激活值。
换成 192GB 一张的卡(B200 档):1,560 ÷ 192 ≈ 8.1,向上取整 9 张,同样只够装权重。
流传的“八张”:8 × 141 = 1,128GB,比 1.56TB 少 432GB。
也就是说,八张 141GB 的卡连权重都放不满。要凑八张,单卡容量得在 195GB 以上,这样的型号不多,且都不便宜。
这一节不给租金,因为给不出可核的当日报价。但它给了一个分母:要自部署,先按 9 到 12 张卡规划,再去找这个规模的月租,两者一比,答案自己会出来。
03
PART
价目一动没动
THE PRICE DID NOT MOVE
开源那天真正值得看的一行,不是仓库地址,是定价页:¥13 输入、¥68 输出、缓存命中 ¥1.30,每百万 Token,与开源前一致。
同一页这周还有两条与钱有关的细节:
批量推理(Batch API)支持 `kimi-k3.1-pro`,各项费用为标准价的 60%。按上面那组量算:50 × 13 × 0.6 = 390,10 × 68 × 0.6 = 408,合计 798 元,比按量便宜 532 元。
缓存对重复的请求前缀自动启用,TTL 默认 5 分钟,写入按 TTL 分档单独计费。输入全部打中缓存,输入那侧从 650 降到 65,账单变 745 元。
这两个折扣能否叠加,官方没写。我不推算。这句留白,比猜一个数值钱。
对照一下就清楚了:Batch 打六折、缓存打到一折,这两个动作都能在 API 上做,都不用一张卡。自部署能省掉的,只有“按 Token 计费”这一层。
04
PART
许可证的两条线
TWO LINES IN THE LICENSE
权重可商用、可改、可微调,保留版权声明即可。两条线要看清:
把模型当服务卖(MaaS),且过去 12 个月合计收入超过 2,000 万美元(含关联方),要先与 Moonshot 单独签约。
产品月活超过 1 亿,或月收入超过 2,000 万美元,界面上要显著标注模型名。
内部使用、以及通过官方产品或认证伙伴调用都不适用。对多数团队,这份许可接近 MIT;对大厂,不是。
还有一点常被略过:权重开放,训练数据和代码没公开。这叫 open weight,不是 open source。
05
PART
所以该不该搬
MOVE OR STAY
三条里中两条以上,才值得认真算自部署:
月账单已在 5 位数以上,且输出占比高。
你已经有能跑 9 到 12 张卡的机器或长约,边际成本接近零。
有合规或数据不出域的硬要求,这件事 API 解决不了。
三条都不中,权重的价值不在省钱,在另外两件事:在自己的语料上不受计量地做评测;议价时手里有一个“可以搬走”的选项。
这类账在谁手上
这类选择我们见得多:不是“开源还是闭源”,是“这笔账该按 Token 算还是按卡时算”。真要做决定,得把三样东西摆在一张纸上——近三个月的输入输出拆分、缓存命中率、你手上已有的算力。把用量明细发过来,我们对一遍就知道该留在 API 还是该搬。
卓然手记
开源权重最容易被误读成“降价”。它降的不是价,是锁定——同一套 prompt 和工具链可以带走,这一点在谈判桌上值钱。
但走人是要买票的。1.56TB 的票,按 141GB 一张算,是 12 张。
看见“权重免费”四个字,我习惯先问:跑它要几张卡。这个数比参数量有用。
想让我们拿你的用量算一遍该留 API 还是该搬,在公众号对话框回复【选型】,把月输入输出和手上的算力说一下就行。想直接聊的,点文章底部的「阅读原文」。
本文为公开资料整理与算术推算,不含本站自测。价格取自 Kimi API 定价与计费文档(人民币价核对于 2026-10-28,Batch 六折、缓存 TTL、K2 下线计划核于 2026-11-08 直取);参数量、文件数、1.56TB 体积与许可证条款取自模型卡与多家独立转述,Hugging Face 仓库页当日未直取,按 L2 处理。显存测算按每参数 4 bit、1TB = 1,000GB 换算,只计权重占用,未含 KV cache 与激活值;实际部署所需卡数只会更多。月账单测算假设月输入 5,000 万 Token、月输出 1,000 万 Token,未计缓存与 Batch 叠加。