下一代版本mimo-v3大模型

A5站长网9月28日消息，小米MiMo大模型负责人罗福莉宣布，下一代版本MiMo-V3将搭载全新自研架构，核心技术HySparse2同步对外公开，论文已上传arXiv。HySparse2是一套混合稀疏注意力设计，专门面向长程多轮agent任务做推理效率优化，也是小米第一次把自家大模型的注意力机制摊开讲得这么细。数据变化很直接。对比MiMo-V2.6搭载的混合SWA架构，在100万Token长度的测