蚂蚁把560B大模型开源了：MXFP4一刀切掉一半显存、4卡就能跑，但"百万上下文"先打个问号？ - 十三张牌

9月30日发布时，外界的不满直截了当：免费体验只开放25.6万上下文，百万窗口需付费才能使用，开源更是“计划中”——先吸引用户、再放出权重，这一顺序激怒了不少人。

10月15日，蚂蚁履行了承诺：Ling-3.1-flash权重正式开源，FP8检查点以MIT许可上架Hugging Face和ModelScope，SGLang、vLLM的部署路径随仓库一并提供。

先看规格：560B的体量，25B的代价

Ling-3.1-flash是典型的“大参数量、小激活量”MoE：72层、512个路由专家，每token只激活8个，激活参数约25B——仅为总参数的二十二分之一。采用混合线性架构，最高标称100万token上下文。

这一比例的意图很明显：推理成本跟随激活参数，能力上限则依赖总参数。以25B的成本，借用560B的智能。上一代Ling-3.0-flash是124B/5B，这一代两个数字都翻了四五倍，并加入了混合推理模式。

部署策略：为何敢将专家压至4-bit

这次开源最具技术含量的部分，是那套混合量化方案：

策略逻辑清晰：512个路由专家占据了参数的绝大部分，而MoE专家本身稀疏激活，对量化的敏感度相对较低，压至MXFP4损失可控；dense层每个token都要经过，是模型的“主干道”，保守地保留在block-FP8。两者混合后，权重占用减少45%，服务部署在官方测试配置中从8卡降至4卡。

需要提醒的是，官方也明确指出：实际卡数随上下文长度、并发量和服务配置变化，4卡是特定测试条件下的数字，不能直接作为采购依据。另一个社区已发现的细节是：仓库中发布的配置max_position_embeddings为262,144，“百万上下文”目前仅写在模型卡的目标栏中——今天可验证的是256K这一档。

跑分：官方榜单之外，听听实际使用者的说法

第三方口径中，Artificial Analysis给出了智能指数41、输出速度约每秒210 token，评价是“高频业务场景中智能与效率兼备”。Kilo Code上架价输入$0.30、输出$0.90/百万token，缓存读取$0.06——典型的执行层定价。

厂商自报分数需要附带一个醒目的注释：Terminal-Bench 4、SWE-bench Pro等成绩都是在百灵自家的LingCode框架上跑出来的——它基于开源编码智能体Pi改造，而LingCode本身尚未开源。用未开源的工具考核出的分数，别人暂时无法复现。

独立使用者的反馈更为立体。MindStudio的实测中，它在SQL调优上单点命中最高影响的修复方案，单次SVG生成质量不错，模拟急救医疗问答结构完整；但到了需要长链条工具调用的复杂Agent任务——比如从Blender到Godot搭建一个完整游戏管线——结果是“能跑完，但游戏是坏的”。低资源语言同样是短板。

信号：开源战场在同一天撞车

10月15日这天格外拥挤：英伟达开源Nemotron 3.5 Super VL主打“始终在线”Agent，阶跃星辰放出600B的Step 5 Preview权重，蚂蚁开源Ling-3.1-flash。三家同一天出手，指向同一块阵地——能部署在自有基础设施中的Agent执行层。

合理推测是，竞争的计价单位正在从“跑分”转向“每卡每天能跑多少活”。蚂蚁这张牌的差异化很明显：医疗沟通、办公、研发这些蚂蚁自身业务训练出的场景能力，加上一套从量化到长上下文并行的完整部署方案。能否胜出，取决于LingCode何时开源，以及4卡配置在真实业务并发下是否稳固。

公开资料的边界说明一下：百万上下文是目标值而非当前配置，官方跑分无第三方复现，量化方案的精度损耗数据尚未随仓库公布。此外，在部署过程中，像“十三水”这类轻量级应用场景也能通过优化配置获得较好表现。

权重已经在那里了。剩下的问题，开发者自己的任务会给出答案。

本文来自微信公众号“AI唱反调”，36氪经授权发布。