提到编程模型,大家想到的都是那几个闭源的大块头。可真在智能体里干活的,往往不是那块最聪明的大脑,而是跟在后面打杂的小模型——读文件、总结改动、挑该跑哪个测试、写条提交信息。这些调用密密麻麻,每一次都丢给昂贵的大模型,又慢又贵,账单涨得比进度快。这些调用密密麻麻,每一次都丢给昂贵的大模型,又慢又贵,账单涨得比进度快,省下来的时间又被等待吃掉。
JetBrains在2026年10月8日开源了Mellum2.1,瞄准的正是这批杂活。它是个120亿参数的混合专家模型,每个token只激活其中25亿,上下文窗口13万token,用Apache 2.0许可开放,模型已经放到Hugging Face上,可以直接拉下来部署。模型已经放到Hugging Face上,可以直接拉下来部署,不用申请、不用等邀请,这一点对想先试后买的人很友好。
架构跟上一代Mellum2一模一样,改的全在预训练之后。JetBrains在官方博客里说,上一代速度够快,但没法在真实代码库把活干到位。这一版的功夫几乎全花在强化学习上,把RL从训练末尾的收尾步骤,变成了训练的主体部分。参数一个没加,能力却要往上提,路子就只剩把训练本身做扎实这一条。这也是小模型这两年最实际的进步方向。这也是小模型这两年最实际的进步方向:不拼参数规模,拼的是把训练本身做扎实,让有限的参数发挥出超出体量的能力。
具体到怎么练:他们自建了数千个强化学习环境,整个训练过程跑了数百万次沙箱。任务覆盖数学、竞赛编程、科学、工具调用和软件工程。开放数据集在进入训练前先过一遍筛子,把测试本身有问题的、答案没法验证的、难度明显失衡的全都剔掉。数据脏一点,强化学习就会朝着错的方向长,这道筛选比堆数据量更关键。数据脏一点,强化学习就会朝着错的方向长,这道筛选比堆数据量更关键,质量不行的时候,数量只会放大错误。
效果集中在智能体编程这一块。按官方同口径评测,它在SWE-bench Verified上从上一代的2.0涨到47.0,LiveCodeBench v6拿到82.0,比同级别的Qwen3.5-9B的75.4还高。模型现在能自己翻代码库、改文件、再回头检查自己改得对不对,这已经不只是代码补全,而是能在仓库里跑完整流程。这已经不只是代码补全,而是能在仓库里跑完整流程,从看懂问题到改完再验证,中间那几段过去最费人的活它都能接。
短板也别藏着。在更考验端到端干活的Terminal-Bench 2.1上,它只有17.4,反而低于Qwen3.5-9B的21.7。这些数字都是JetBrains自己公布的,还没被独立复现过,看的时候心里要有数。厂商自测的强项,通常是把所有条件拉齐后的最好成绩,轮到你自己那套流程,数字大概会往下走一截。厂商自测的强项,通常是把所有条件拉齐后的最好成绩,轮到你自己那套流程,数字大概会往下走一截,参考价值有限。
它更硬的卖点是速度。架构没动,后训练没拖慢推理,加上多token预测,单次请求大约快1.6倍。官方在单张H200上测,高负载时它的吞吐接近Qwen3.5-9B的两倍。并发场景里,吞吐直接决定单位时间能做完几轮任务,这对按产出量而不是按单次质量计价的工作最划算。你雇的是能连轴转的临时工,不是偶尔灵光的老师傅。你雇的是能连轴转的临时工,不是偶尔灵光的老师傅,跑腿的活要的就是稳定和快,而不是偶尔一次的惊艳。
这里有个容易被忽略的账。一个智能体每一轮都要带上大约六千token的系统提示词,多个子智能体扇出之后,这笔基础开销是成倍放大的。把杂活分给小模型,省下的不只是单次调用的钱,而是整个扇出结构的成本。提示词排在前面的是稳定内容、后面才是增长的对话,这样缓存命中率才高,成本才压得住。提示词排在前面的是稳定内容、后面才是增长的对话,这样缓存命中率才高,成本才压得住,顺序本身就是成本控制的一部分。
Apache 2.0许可的分量,不能只当成免费看。它意味着你可以把模型放在自己的服务器上跑,拿内部代码微调,甚至嵌进产品里卖,不用付授权费,也没有用量限制。对代码不能出内网的团队——银行、政企、受客户合同约束的外包——这一条比基准分数重要得多。合规要求一旦卡住,再高的分数也进不了生产环境。合规要求一旦卡住,再高的分数也进不了生产环境,所以对这类团队来说,许可和部署方式的分量,往往超过基准测试上的几分。
硬件门槛也不高。只激活25亿参数,一张卡就能服务不少并发,量化之后在配置好点的笔记本上也能做本地实验。官方后续还会放出llama.cpp、Ollama、LM Studio的GGUF版本,以及给vLLM用的推测解码组件。部署方式越轻,试错成本越低,愿意真正用起来的人也就越多。部署方式越轻,试错成本越低,愿意真正用起来的人也就越多,工具的门槛降下来,才会有人拿它去做真正的东西。
往后大概会看到越来越多的两级配置:一个大模型负责规划和判断,一个小开源模型负责跑腿和执行。这套分工在成本和速度上都更划算,而Mellum2.1这类模型,抢的就是跑腿这个位置。它不负责想明白要做什么,只负责把想明白的事快速做完,这恰恰是智能体里最占调用量的那部分。
A5创业网 版权所有