会懂网AI资讯,9月6日,谷歌于9月4日至5日间开源端侧嵌入模型EmbeddingGemma。该模型参数量约3.08亿,可在内存低于200MB的设备上运行,专为端侧与边缘场景的检索、分类与语义匹配任务设计,并已通过Gemma家族渠道开放下载。

嵌入(Embedding)模型的作用,是把文本、图像等内容转换为可被机器比较的向量,是检索增强生成(RAG)、语义搜索与推荐系统的底层基石。谷歌将其做到端侧可运行,意味着相关能力可以脱离云端、在手机与本地服务器上完成。
低于200MB的运行内存占用是核心亮点。这一规格使EmbeddingGemma能够部署在资源受限的端侧设备,带来数据不出本机、低时延、零调用成本等优势,特别适合注重隐私与离线的企业及个人应用场景。
开源策略延续了Gemma家族”开放普惠”的路线。通过把端侧嵌入能力免费开放,谷歌意在培育围绕Gemma的生态,让开发者在构建本地智能应用时拥有更轻量的基础设施选择,与云端大模型形成互补。
嵌入模型的轻量化趋势,与近年来端侧大模型的爆发相互呼应。当检索、分类等前置环节也能在本地完成,完整的AI工作流有望摆脱对数据中心的依赖,为离线优先的应用打开想象空间。
对比云端大模型动辄数十GB的体量,EmbeddingGemma代表了”小而美”的另一条路。在算力受限或数据敏感的场景,轻量模型往往比庞然大物更具实用价值。
会懂网观察,端侧AI的竞赛正从”能不能跑”走向”跑得轻、跑得专”。EmbeddingGemma这类小而专的模型,标志着大模型能力正在向终端侧下沉,而开源将进一步加速本地智能应用在隐私敏感场景中的落地。






















暂无评论内容