当地时间10月6日,谷歌发布新一代端侧嵌入模型EmbeddingGemma 2。官方称这是谷歌第一个开源的原生多模态嵌入模型,把文本、代码、图片、视频和音频映射到同一个768维向量空间里。权重已经上线,采用商业友好的Apache2.0许可。
参数设计走的是模块化路线。模型总参数740M,其中纯文本路径约270M,视觉编码器170M,音频编码器300M。开发者可以按场景加载:只做文本和代码检索用270M,加上视觉440M,加上音频570M,全模态740M。几种配置投射到同一个向量空间,切换时不用换模型。
端侧部署的门槛压得比较低。谷歌公布的数据显示,量化之后在Pixel11Pro上跑纯文本权重,活跃内存约191MB,全模态模式约567MB。存储侧用了Matryoshka表示学习,输出向量可以从原生的768维动态截断到512、256或128维,官方称这种存储压缩最多能让本地向量数据库省下6倍空间。
上下文窗口扩到8192个token,是上一代的4倍,换算下来在本地能直接处理约5.5分钟音频、29张图像或58帧视频,几种模态交错输入也可以。代码检索的提升最明显,MTEB Code基准分从68.76涨到78.68,提高了9.92分。上一代EmbeddingGemma的下载量已经超过2000万次。
这套模型的主要用途是检索,不是生成。它负责把不同模态的数据转成向量存进索引,查询时再比对相似度,把命中的内容交给生成模型,等于把轻量的检索环节从昂贵的生成环节里拆出来。因为和Gemma4共享分词器与音频编码器,两个模型可以放在同一条推理流水线里跑,整体内存占用更低。
放在本地跑的另一个好处是数据不出终端。文档、图片、代码这类内容可以在设备上完成索引,不必先传到远端的嵌入服务,对隐私要求高的场景和离线环境都更合适。谷歌CEO桑达尔·皮查伊在发布时称,这款模型把端侧效率的标准又往上推了一档,权重已经可以在Hugging Face上取到。
A5创业网 版权所有