网易有道自研并开源,已在其自有产品中落地:两阶段检索是招牌——先用 BCEmbedding(中英双语、跨语言检索)向量召回,再用 reranker 精排,专治“知识库越大检索越差”。支持 PDF/Word/PPT/Excel/图片/邮件/网页等众多格式,可纯本地部署。

适用场景:中文/中英混合知识库、对检索精度要求高的客服与教育场景、数据必须离线的大型组织

QAnything 有道 两阶段检索 BCEmbedding 中文 本地部署

操作步骤

  1. git clone https://github.com/netease-youdao/QAnything.git,按仓库 Docker 版安装攻略准备环境
  2. 选择运行模式:接云端大模型服务或完全本地(本地需 NVIDIA GPU)
  3. 导入文档建知识库(BCEmbedding 向量化 → Milvus 等向量库存储)
  4. 提问时走“向量召回 → rerank 精排 → LLM 生成”,用其 API 集成到自有系统(docs/API.md)
接入本站 API:QAnything 支持接云端模型服务:把生成阶段的 LLM 指向 OpenAI 兼容接口(Base URL 填 https://tokenbuddy.cc、Key 填 LIN 的 Key、模型名填准确 ID,具体配置项以仓库当前 README/API 文档为准);检索侧继续用它自带的 BCEmbedding + reranker(本地),即“检索本地、生成走 LIN API”的混合架构,数据敏感团队常用。

注意事项

  • ⚠️ 硬件门槛:搜索来源称本地运行需 NVIDIA GPU 显存 ≥16GB(推荐 3090 级)、CUDA ≥12.0——没 GPU 就选云端模型模式,别硬装
  • ⚠️ 数据量极大时第一阶段向量召回排序仍会退化(项目方自述限制),需要配合分库
  • ⚠️ 版本较老(搜索可见 v1.4.x 发布记录),立项前先看仓库近期维护活跃度再决定是否作为主力

来源:https://deepwiki.com/netease-youdao/QAnything