多份 2026 分析称:在向量库选型之上,Embedding 模型选型对检索质量影响更大——“对的模型+平庸的库”胜过“最好的库+错的模型”。中文/中英混合场景的稳妥默认:BAAI bge-m3(多语言、1024 维);本地英文场景可用 nomic-embed-text 等轻量模型。铁律:Embedding 必须在入库前定死,入库与查询必须同一模型,换模型=全量重嵌。

适用场景:新建知识库选向量模型;现有库检索差、怀疑向量模型不匹配语言/领域时

Embedding bge-m3 向量模型 中文检索 选型

操作步骤

  1. 按语言选:中文或中英混合 → bge-m3 一档;纯英文轻量本地 → nomic-embed-text 等;领域特殊(医学/法律)先拿领域样本实测再定
  2. 定维度与成本:维度越高存储/检索成本越高,小库不必盲目上最大模型
  3. 用金标问题集对比候选模型在自己文档上的召回,而不是只看公开榜单分数
  4. 定版后写进配置并冻结;要换模型,新建索引全量重嵌,不要新旧向量混存一库
  5. rerank 模型单独选(可随时换):中文默认 bge-reranker-v2-m3(多语言 cross-encoder)
接入本站 API:两条路线:① LIN 若提供 OpenAI 兼容的 embeddings 接口,在 Dify/FastGPT/AnythingLLM 的 Embedding 配置里填 https://tokenbuddy.cc + Key + LIN 的 embedding 模型 ID,全站向量化走 LIN;② LIN 暂不提供时本地部署 bge-m3(FlagEmbedding/sentence-transformers),只把生成 LLM 走 LIN。两条路线二选一并在项目文档里写明,别混用。

注意事项

  • ⚠️ 入库用 A 模型、查询用 B 模型——向量空间不一致,检索结果全是噪声
  • ⚠️ 只看 MTEB 榜单不测自己的文档(榜单语料与你的制度/手册分布差很远)
  • ⚠️ jina-reranker-v2 等模型权重是 CC-BY-NC(据 aifoss 指南), homelab 可以、商用踩雷——选模型时连许可证一起看

来源:https://aifoss.dev/blog/local-embedding-models-reranker-guide-2026/