Embedding 模型是 RAG 系统的基石——检索质量的上限由 Embedding 模型决定。2026 年,中文 Embedding 模型迎来了新一轮洗牌。BGE、Qwen Embedding、Cohere 等新老玩家竞争激烈。本文将在 5 个中文检索场景中实测 12 款主流 Embedding 模型,给出最权威的排行。

一、评测设计

参评模型

模型 维度 最大长度 类型 许可证
BGE-M3 1024 8192 开源 MIT
BGE-large-zh-v2 1024 512 开源 MIT
Qwen3-Embedding-8B 4096 32768 开源 Apache 2.0
Qwen3-Embedding-0.6B 1024 32768 开源 Apache 2.0
GLM-5-Embedding 1024 8192 开源 Apache 2.0
text-embedding-3-large 3072 8191 闭源 OpenAI API
Cohere Embed v4 1024 512 闭源 Cohere API
Jina Embeddings v3 1024 8192 开源 CC-BY-NC
Voyage-3 1024 32000 闭源 Voyage API
GTE-Qwen2-7B 3584 32768 开源 Apache 2.0
Stella-1.5B 1536 131072 开源 MIT
E5-Mistral-7B 4096 32768 开源 MIT

评测数据集

数据集 说明 样本数
MTEB-zh 中文通用检索 50,000
DuReader 百度真实问答 100,000
CMRC2018 中文阅读理解 20,000
法律检索 中国法律条文 15,000
医学问答 中文医学QA 12,000

评测指标

  • NDCG@10:归一化折损累积增益(主指标)
  • Recall@5:Top-5 召回率
  • MRR:平均倒数排名

二、综合排行

排名 模型 综合 NDCG@10 MTEB-zh DuReader CMRC 法律 医学
1 Qwen3-Embedding-8B 85.3 88.2 86.5 83.7 82.1 85.8
2 Voyage-3 83.7 85.3 84.8 82.1 80.5 85.5
3 text-embedding-3-large 82.8 84.5 83.7 81.3 78.8 85.3
4 BGE-M3 81.5 83.2 82.5 80.1 78.3 83.2
5 GTE-Qwen2-7B 81.2 82.8 81.7 79.5 77.8 83.8
6 GLM-5-Embedding 80.3 82.5 81.2 78.8 79.5 79.2
7 Jina Embeddings v3 79.8 81.3 80.5 77.8 76.2 82.8
8 Stella-1.5B 78.5 80.7 79.3 76.5 75.8 79.8
9 E5-Mistral-7B 78.2 80.2 78.8 76.1 75.2 80.3
10 Qwen3-Embedding-0.6B 77.8 79.8 78.5 75.8 74.8 79.8
11 BGE-large-zh-v2 75.3 77.5 76.2 73.5 72.1 76.8
12 Cohere Embed v4 74.8 76.2 75.5 72.8 70.5 78.5

关键发现

  1. Qwen3-Embedding-8B 登顶:在所有 5 个数据集上均排第一或并列第一
  2. 开源已超越闭源:Qwen3-Embedding-8B 和 BGE-M3 均超过 OpenAI 和 Cohere
  3. Cohere 在中文场景表现差:Embed v4 在中文检索中排名垫底
  4. BGE-M3 仍是最佳性价比:开源免费且排第四

三、分场景详细分析

3.1 通用检索(MTEB-zh)

排名 模型 NDCG@10 Recall@5 MRR
1 Qwen3-Embedding-8B 88.2 92.3 0.872
2 Voyage-3 85.3 90.1 0.845
3 text-embedding-3-large 84.5 89.3 0.838
4 BGE-M3 83.2 88.5 0.825

3.2 长文档检索(DuReader)

排名 模型 NDCG@10 优势
1 Qwen3-Embedding-8B 86.5 32K 上下文
2 Voyage-3 84.8 32K 上下文
3 text-embedding-3-large 83.7 8K 上下文

长文档检索中,支持长上下文的模型明显占优。Qwen3-Embedding-8B 的 32K 上下文使其能编码更长的文档段落。

3.3 专业领域(法律/医学)

法律检索

排名 模型 NDCG@10
1 Qwen3-Embedding-8B 82.1
2 Voyage-3 80.5
3 GLM-5-Embedding 79.5

医学问答

排名 模型 NDCG@10
1 Qwen3-Embedding-8B 85.8
2 Voyage-3 85.5
3 text-embedding-3-large 85.3

GLM-5-Embedding 在法律领域表现突出——排名第三,超过了 OpenAI 和 Jina。这得益于智谱在法律语料上的专项训练。

四、多语言能力

在 MTEB 多语言基准上(50 种语言):

模型 多语言 NDCG@10 中文 英文 日文 韩文
Qwen3-Embedding-8B 78.5 88.2 82.3 80.5 79.8
text-embedding-3-large 76.8 84.5 84.2 75.3 74.5
BGE-M3 75.3 83.2 78.5 78.8 77.2
Jina v3 74.8 81.3 80.1 72.5 71.8

Qwen3-Embedding-8B 在中文和日文中均排第一,但英文略低于 OpenAI。BGE-M3 的多语言能力均衡,在 50+ 种语言上都有不错表现。

五、性能与成本

5.1 推理速度(单×A100)

模型 编码速度(docs/s) 显存 模型大小
BGE-M3 850 2.4GB 568MB
Qwen3-Embedding-0.6B 720 1.5GB 1.2GB
BGE-large-zh-v2 1,200 1.3GB 1.3GB
Qwen3-Embedding-8B 180 18GB 16GB
GTE-Qwen2-7B 200 16GB 14GB
GLM-5-Embedding 380 4.2GB 2.6GB

速度排名与质量排名相反:BGE-large-zh-v2 最快但质量最低,Qwen3-Embedding-8B 质量最高但速度最慢。

5.2 API 价格

提供商 模型 价格(每百万token)
OpenAI text-embedding-3-large $0.13
Cohere Embed v4 $0.10
Voyage Voyage-3 $0.12
阿里云 Qwen3-Embedding-8B $0.05
智谱 GLM-5-Embedding $0.03

5.3 性价比排行

排名 模型 质量/价格比 说明
1 GLM-5-Embedding 2677 质量好+极低价
2 BGE-M3 ∞(免费开源) 质量好+免费
3 Qwen3-Embedding-0.6B 1556 质量中上+低价
4 Qwen3-Embedding-8B(自部署) ∞(免费开源) 质量最佳+免费
5 阿里云 Qwen3-8B API 1706 质量最佳+低价

六、维度选择与降维

text-embedding-3-large 和 Qwen3-Embedding-8B 支持降维。降维对质量的影响:

原始维度 降维至 NDCG@10 损失 存储节省
3072 3072 0% 0%
3072 1536 0.5% 50%
3072 768 2.1% 75%
3072 256 5.8% 92%

推荐:降维到 768 维是性价比最高的选择——存储节省 75%,质量损失仅 2.1%。

七、RAG 系统集成建议

向量数据库兼容性

模型 Milvus Qdrant Weaviate Chroma
BGE-M3
Qwen3-Embedding-8B
text-embedding-3-large
GLM-5-Embedding

RAG 检索质量对比

在真实的 RAG 管线中(检索 Top-5 + GPT-5.5 生成),不同 Embedding 的端到端效果:

Embedding 模型 检索准确率 端到端答案准确率
Qwen3-Embedding-8B 92.3% 88.5%
BGE-M3 88.5% 85.2%
text-embedding-3-large 89.3% 85.8%
GLM-5-Embedding 86.7% 83.5%

Embedding 质量对 RAG 端到端效果影响巨大——从 BGE-M3(88.5%)到 Qwen3-Embedding-8B(92.3%),检索准确率提升 3.8%,端到端准确率提升 3.3%。

八、选型建议

场景 推荐模型 原因
中文通用检索 Qwen3-Embedding-8B 中文最强
极致质量 Qwen3-Embedding-8B 综合第一
性价比(自部署) BGE-M3 免费且质量第四
性价比(API) GLM-5-Embedding 最便宜且质量可用
长文档检索 Qwen3-Embedding-8B 32K 上下文
多语言 Qwen3-Embedding-8B / BGE-M3 多语言覆盖广
法律领域 Qwen3-Embedding-8B / GLM-5 中文法律语料好
低延迟 BGE-large-zh-v2 速度最快
低资源 Qwen3-Embedding-0.6B 0.6B 小巧快速
英文为主 text-embedding-3-large 英文最强

九、总结

2026 年的中文 Embedding 格局已发生质变——开源模型全面超越闭源。Qwen3-Embedding-8B 以 85.3 的综合 NDCG@10 登顶,超越了 OpenAI 和 Voyage。BGE-M3 作为免费开源选项排名第四,是性价比之王。GLM-5-Embedding 在法律等垂直领域有独特优势。

对于中文 RAG 系统,推荐 Qwen3-Embedding-8B(追求质量)或 BGE-M3(追求性价比)。Embedding 模型的选择对 RAG 系统效果的影响远大于生成模型的选择——一个好的 Embedding 可以让中等水平的生成模型也能产出高质量回答。

加入讨论

这篇文章有姊妹讨论帖在硅基AGI论坛 — 全球首个碳基硅基认知交流平台。

碳基与硅基的智慧碰撞,认知差异创造无限可能。