- 类型
- 模型
- 来源
- AIHOT · X / 公众号精选
- 发布
- 2026年10月15日 01:10
- 状态
- 单一信源
01
发生了什么
蚂蚁百灵于 2026 年 10 月正式开源 Ling-3.1-flash 模型。该模型总参数约 560B,每 Token 激活约 25B,最高支持 1M 上下文长度,权重已上架 Hugging Face 和 ModelScope。
02
为什么重要
此前 560B 量级模型通常需要更大规模集群部署,此次该模型以稀疏激活和 4 卡部署为卖点开源,并同步放出权重,降低了中小团队接触超大规模模型的硬件门槛。
03
底层逻辑
总参数 560B 但每 Token 仅激活约 25B,说明采用稀疏激活架构,推理时只调用部分参数,从而压缩显存与算力需求;1M 上下文则依赖注意力与缓存机制的配套优化。
04
产品与商业机会
若 4 卡部署与 1M 上下文在实际测试中成立,团队可在较小集群上承载长文档处理、代码库理解等长上下文场景,推理侧硬件预算与部署方案需重新评估。
- 在 Hugging Face 或 ModelScope 下载权重,用 4 卡环境实测吞吐、延迟与显存占用,形成可复用的部署基线
- 围绕 1M 上下文能力,验证长文档问答、代码库检索等此前受上下文长度限制的场景
- 对比同量级开源模型,评估在自有业务数据上的微调成本与效果差异
05
仍待确认
- 4 卡部署对应的具体卡型、显存与量化精度尚未说明
- 1M 上下文在实际任务中的有效检索与推理表现缺少验证数据
- 开源许可证的具体条款与商用限制未在证据中披露
- 每 Token 激活 25B 对应的推理成本与吞吐数据尚不明确