发布时间：2026-09-30T00:00:00.000Z
向量质量决定RAG和语义搜索的天花板。实测主流Embedding模型的中文效果、维度成本、部署难度，给出选型建议。 做语义搜索和RAG的人，迟早要面对一个问题：Embedding模型选哪个？这个选择直接决定检索质量的上限——模型再好，向量化做得烂，检索就是大海捞针。我把主流的几款Embedding模型在中文场景实测了一遍，从效果、成本、部署三个维度给出结论。 先说背景知识：Embedding模型的作用是把文本变成向量（一串数字），语义相近的文本向量距离近。选模型的三个核心指标：检索质量（能不能把相关文档排在前面）、维度（向量大小影响存储和检索成本）、部署方式（API还是本地）。 实测的第一梯队是国产开源的BGE系列（智源）。中文检索质量目前是开源阵营的标杆，bge-large-zh在中文语义相似度任务上表现稳定，1024维，显存要求不高，一张消费级显卡就能跑。BGE还有个优点：支持"长文档重排序"（bge-reranker），跟主检索模型搭配用，效果能再上一档。对中文业务来说，BGE是性价比最高的起点。 第二梯队是开源的多语言模型，比如多语言E5、GTE系列。优势是语言覆盖广，中英混合内容（比如产品文档夹杂英文术语）处理得好；劣势是中文专项效果比BGE略逊，而且部分模型维度较高（768或1024），存储成本跟着涨。 闭源API这边，OpenAI的text-embedding-3-small（512维可调）和3-large（3072维）是海外主流。英文质量一流，中文也够用，但注意两点：一是API调用有成本，量大的场景每百万token几美元到十几美元，长期跑成本不小；二是数据出境，如果知识库含敏感数据，用海外API前要想清楚。国内厂商（阿里、智谱、百度）都有对应Embedding API，中文优化做得不错，维度普遍256到1024之间，价格也不贵，合规上更省心。 选型决策树：数据全中文、能本地部署 → 直接BGE系列；数据中英混杂、量不大 → 考虑多语言开源或国内API；数据量大、预算充足、英文为主 → 用OpenAI API，并开启维度裁剪省成本；有合规要求（医疗、政务、金融）→ 一律本地开源模型，别碰海外API。 实测里还有几个容易被忽略的点：一是"归一化"设置，检索前一定要做向量归一化，不然余弦相似度计算会失真；二是批量嵌入的batch size影响速度，不影响质量；三是"同模型原则"——建索引和检索必须用同一个Embedding模型，换模型就得重建索引，这个坑很多人踩过。 最后建议：别光看benchmark分数。拿你自己的领域数据（比如50个真实问题和对应答案）做一次小规模检索测试，TOP5命中率才是你该看的数字。模型之间的分数差异在真实业务里往往比benchmark小得多。