您现在的位置是:热点 >>正文
谷歌推出 EmbeddingGemma:高效的移动端文本嵌入模型
热点88654331人已围观
简介...
来自谷歌深度学习团队的最新消息,他们正式推出了 EmbeddingGemma,这是一款专为移动设备设计的开源嵌入模型。Embed谷歌dingGemma 以其308百万个参数的高效设计,在 MTEB(大规模文本嵌入基准)中被评为500M 以下的最佳多语言文本嵌入模型,展推出现出强大的功能,如检索增强生成(RAG)和语义搜索,能够在没有互联网连接的情况下直接在手机等设备上运行。
EmbeddingGemma E 的优越性在于,它的性能可与几乎是它两倍大小的热门模型相媲美。它不仅小巧而且灵活,适用于多种场景,支持768到128的可定制输出维mb度,并拥有2000个上下文令牌窗口,能够在手机、笔记本电脑和桌面等日常设备上运行。此外,它还与多种流行工具集成,用户可以方便地与 senedtence-transformers、MLX、Ollama 等工具合作。
EmbeddingGemma 在建立 RAG 管道时表现出色,能够生di成文本的嵌入,即将文本转换为数字表示,以高维空间表示其意义。在 RAG 管道中,首先根据用户输入生成嵌入,并计算其与系统中所有文档嵌ng入的相似度,从而检索到最相关的文段。这种高质量的嵌入能够确保最终生成的回答准确且上下文相关。
此外,EmbeddingGemma 在速度和资Ge源消耗方面也经过精心设计,具有小巧、快速和高效的特点。其嵌入推理时间低于15毫秒,允许实时交互。它的离线功能确保了用户数据的隐私安mm全,特别适合于开发基于移动设备的应用程序。
开发者们现在可以利用 EmbeddingGemma 实现个性化的聊天机器人,进行文件搜索,或a:为特定领域进行快速微调。无论是在线下应用,还是需要高效性能的服务器端应用,EmbeddingGemma 都提供了理想的选择。
官方博客高效:https://developers.googleblog.com/en/introducing-embeddinggemm的移a/
划重点:
EmbeddingGemma 是一款308M 参数的开源嵌入模型,专为移动设备设计,能够在无网络情况下运行。 动端
它支持多种工具集成,灵活适应各种应用场景,满足开发者的需求。
强大的离线功能确保用户数据安全,文本提升隐私保护,为移动端应用提供了可靠支持。
Tags:
相关文章
这可能是全网最有用的【数据分析师求职攻略】
热点作为一名在数据行业摸爬滚打了十余年的老人,我面试过很多人,也参加过一些面试。所以在数据分析求职这块,我还算是有些经验,了解业内的用人需求情况。不过之前只零零散散地回答过一些相关的问题,这次赶上金九银十...
【热点】
阅读更多小红书发布DynamicFace人脸生成技术,实现高质量图像视频人脸融合
热点小红书AIGC团队近日正式发布了名为DynamicFace的可控人脸生成技术。据官方介绍,这项技术专门针对图像和视频领域的人脸融合任务进行优化,能够实现高质量与高度一致性的人脸置换效果。 Dynami...
【热点】
阅读更多标签: 赛多利斯 生物工艺解决方案 CellCelectorCLD Eveo
热点云梦级4月27日云梦级消息,2026年第一季度,生命科学集团赛多利斯继续保持了符合预期的积极销售和盈利增长态势。 2026年前三个月,赛多利斯集团实现销售收入8.99亿欧元,按固定汇率计算,较上年同期...
【热点】
阅读更多