A5站长网10月16日消息,蚂蚁百灵团队开源了Ling-3.1-flash,总参数约5600亿,每个token激活约250亿,上下文窗口最高支持100万token。权重已经上传到Hugging Face与ModelScope,可以直接下载。
参数结构上它走的是MoE架构,配合线性注意力做混合。每8层里有7层是线性注意力、1层是门控注意力;一共512个路由专家,每个token选8个,外加1个共享专家。这种设计的直接好处是推理成本压得低,每次只激活一小部分网络。
官方给的场景定位是真实可用,也就是把模糊的业务需求更快变成能交付的结果。文档、表格、网页、代码这几类环境它都能跑,可以生成Excel和PPT,也能读旧代码、写新功能、按测试结果继续修正。蚂蚁内部已经把它接进了桌面协作智能体。
评测数据分几块。办公任务基准GDPVal-AA V2.1上拿到1673分,医疗场景基准HealthBench Professional得65.35分,软件工程和终端操作两个基准上也展示了处理复杂工程任务的能力。第三方评测机构Artificial Analysis的记录里,它的智能指数是41,输出速度约每秒210个token。
价格是它最直接的卖点。混合调用成本落在每百万token约0.19美元这一档,又快又便宜。为了降低部署门槛,团队对路由专家用了MXFP4量化,稠密层仍走block-FP8,权重占用从约534GB压到292GB;对应的GPU测试配置里,服务部署从8卡降到4卡。
开源许可是MIT,任何人都可以下载、修改,并在商业产品里使用,不需要额外付费或签协议。百灵这条线此前已经在做多设备验证:服务器上单台机器能跑flash版本驱动编码智能体,个人电脑上16GB的MacBook Air能跑tiny版本,移动端也有适配。这一系列放到Hugging Face上之后,最近30天的下载量快到100万次。
这份开源的分量,主要不在参数大小上。5600亿的规模在国内开源模型里不算最大,但它把便宜和能干活这两件事同时摆到了台面上,单价压到每百万token不到两毛钱,同时把办公、医疗、软件工程几个场景的分数一起给出来。需要留一句的是,这些分数都是蚂蚁自己的口径,目前还没有独立的第三方评测。权重放出来之后,能不能经得住别人复现,才是它值不值钱的答案。
A5创业网 版权所有