混元旗舰模型公开下载了
- 2026-11-20 17:12:32
混元旗舰模型公开下载了
11月20日,腾讯混元旗舰模型 Hy4 的权重开放下载。腾讯在 GitHub 上列出了指令版、FP8 量化指令版和预训练基础版,Hugging Face 的旗舰 FP8 仓库已经能看到权重分片。这次开放的是旗舰 Hy4,11月18日开放权重的 Hy4 Flash 是同系列的轻量版。找下载入口时,先看仓库名里的 Flash 和 Preview,三个名字对应不同的模型。
权重可以理解为模型训练后留下的一大组数字。平时用网页或 API,模型在服务商的机器上跑,你拿到的是回答。开放权重之后,有条件的团队可以把文件下载到自己的服务器,用手头的文档和图片测试,自己决定怎样部署,也可以围绕特定任务继续训练。
按腾讯模型卡的口径,Hy4 的语言主干有7700亿参数,处理每个文本词元时会激活约490亿。它用的是混合专家架构,处理输入时选一部分专家参与计算。模型还支持图像和视频理解,上下文上限约100万词元。这个上限描述的是模型能处理多长的输入和输出,实际部署能开多长,还得看运行配置。
最容易看错的是490亿这个数字。它说的是每次计算会用多少参数,存储时还得考虑整套权重。Hugging Face 页面列出的旗舰 FP8 仓库就有786 GB,vLLM 给出的部署示例用的是多张数据中心显卡。文件能放进硬盘、模型能加载进显存、长文档能跑到想要的速度,是三件事。
腾讯在 GitHub 说明里还列出了 Hy4 系统卡入口,并采用 Tencent Hy License。许可证对达到特定规模的模型即服务业务设有另行授权条款。对想自己部署的团队,这次更新最实在的地方是终于能拿正式版权重做测试。真要上项目,还得把计划采用的版本、设备能承受的负载和许可证允许的用法一起对上。
本文来自网友投稿或网络内容,如有侵犯您的权益请联系我们删除,联系邮箱:wyl860211@qq.com 。