🌀 AIBB-Flywheel

新闻数据飞轮
← 返回文章列表
ithome 科技 采集 2026-10-07T04:20:23+00:00

谷歌发布EmbeddingGemma 2:支持多模态量化手机端运行

原始标题:谷歌推出 EmbeddingGemma 2:支持多模态、7.4 亿参数量化手机端运行只需 191MB 内存

来源
ithome
发布时间
2026-10-06T22:41:19
采集批次
2026-10-07-04
字数
1173
URL 指纹
89722f6f4517fdc6

📌 AI 总结(258 字)

谷歌正式推出EmbeddingGemma 2嵌入模型,基于Gemma 4架构开发,采用Apache 2.0许可,总参数7.4亿。该模型将能力从纯文本扩展到代码、图像、视频、音频等多种模态,在子10亿参数多模态嵌入模型中性能领先。模型采用模块化设计,支持Matryoshka表示学习动态截断向量,量化后纯文本权重在Pixel 11 Pro上仅需约191MB内存。代码性能较前代大幅提升9.92分,配备8K Token上下文窗口,可在本地处理长达5.5分钟音频、29张图像或58个视频帧,支持完全离线的跨模态搜索与检索。
📄 正文(1173 字)
去年谷歌推出了EmbeddingGemma,为开发者提供轻量高质量的文本嵌入方案,下载量已超2000万次,广泛应用于端侧搜索工具和隐私优先检索增强生成管线。

如今谷歌正式推出EmbeddingGemma 2,将能力从文本扩展到代码、图像、视频、音频,可将这些内容统一映射到同一个嵌入空间。该模型基于Gemma 4架构开发,采用商业友好的Apache 2.0许可发布,总参数为7.4亿,非常适合端侧推理。

EmbeddingGemma 2基于Gemini嵌入模型同源技术打造,具备多项核心优势:

同尺寸顶尖性能:在子1B参数多模态嵌入模型中,于MTEB Code、MAEB等基准测试中取得领先分数,性能比肩甚至超越不少更大尺寸模型。

模块化设计:纯文本任务仅需2.7亿参数,可按需添加1.7亿参数的视觉编码器和3亿参数的音频编码器,实现完整多模态支持。

存储高效:借助Matryoshka表示学习,开发者可动态将输出向量从768维截断至512、256或128维,本地向量数据库存储和内存占用最高可降至六分之一。

端侧性能优化:在资源受限条件下仍可高效运行,量化后在谷歌Pixel 11 Pro上,纯文本权重仅需约191MB运行内存,完整多模态模型约需567MB。

支持扩展上下文:配备8K Token上下文窗口,比初代EmbeddingGemma大4倍,可在本地硬件直接处理最长5.5分钟音频、29张图像、58个视频帧,或上述内容的交错组合。

在性能方面,EmbeddingGemma 2保留了前代出色的多语言文本性能,同时代码性能大幅提升9.92分(MTEB Code测试中从68.76提升至78.68),非常适合本地代码库索引、语义代码搜索和编程代理检索。

在图像、视频、文档和音频任务中,该模型为子1B参数模型树立了单位参数质量新标杆,甚至性能超过不少尺寸两倍于它的专业模型。

EmbeddingGemma 2将强大能力直接带到端侧硬件,本地生成嵌入可保障数据隐私、降低管线延迟,支持开发者搭建完全离线运行的跨模态搜索和检索系统。搭配Gemma 4等生成模型,还可实现理解复杂多模态数据的端侧RAG管线;由于二者架构同源,共享文本分词器和音频编码器,可在统一管线中同时运行,合计内存占用更低。

开发者可在Hugging Face和Kaggle下载模型权重,很快也会登陆Gemini Enterprise Agent Platform Model Garden。可通过Google AI Edge MediaPipe开发跨平台应用,或使用LiteRT进行自定义模型集成,也支持transformers.js、WebGPU等浏览器开发方案,同时兼容transformers、Ollama、LMStudio等众多常用开发工具。