TokenBuddy

专栏

知识库问答

文档切块、混合检索、提示词边界和评测守门,搭建稳定的客服问答链路。

经验案例

最小 RAG 链路

先跑通入库、检索、生成三个环节。

阅读全文 →

经验案例

工具选择与 MVP

先用成熟工具跑通,再决定自研哪一部分。

阅读全文 →

经验案例

混合检索与切块

向量检索配 BM25,切块按文档类型调整。

阅读全文 →

经验案例

客服提示词与引用

限定资料范围,要求回答标出片段编号。

阅读全文 →

经验案例

评测、守门与兜底

固定问题集测命中率、准确率和拒答。

阅读全文 →

经验案例

维护与文档更新

定期刷新索引、清理旧版本文档并监控异常。

阅读全文 →

github_project

Dify — 可视化 LLM 应用平台 + 内置 RAG 流水线

目前最主流的开源 LLM 应用平台之一:可视化 Workflow、内置 RAG Pipeline、Agent、模型管理与可观测性一体。知识库问答是其最常用场景,适合想从原型一路做到生产的团队。

阅读全文 →

github_project

RAGFlow — 以深度文档理解为核心的 RAG 引擎

InfiniFlow 出品,专攻“文档很难搞”的 RAG:DeepDoc 做版面分析、OCR、表格识别,模板化分块可人工检查修正,向量+BM25 混合检索+重排,回答带可追溯引用。检索即产品,不是附属

阅读全文 →

github_project

FastGPT — 国产知识库 + 可视化工作流编排平台

labring 出品,国内用户量大的知识库平台:数据处理、RAG 检索、可视化 Flow 工作流开箱即用,知识库多库复用/混用、混合检索与重排、应用评测、免登录分享与 iframe 嵌入都有。对中文团

阅读全文 →

github_project

MaxKB — 开箱即用、能一键嵌入第三方系统的知识库问答

1Panel 团队出品,定位就是“快速上线”:一条 Docker 命令启动,上传文档自动拆分向量化,内置工作流引擎,最大卖点是生成一段 JS 就能把问答挂件嵌入任意已有网站/业务系统,不用改后端、不用

阅读全文 →

github_project

AnythingLLM — 桌面/ Docker 双形态的私有文档对话(工作区隔离)

Mintplex Labs 出品,个人与小团队最省事的一档:桌面版一键安装,文档按 Workspace 隔离管理,内置 RAG(默认 LanceDB 向量库免配置)、支持 30+ LLM 供应商、多用

阅读全文 →

github_project

QAnything — 网易有道开源的两阶段检索 RAG 引擎(BCEmbedding)

网易有道自研并开源,已在其自有产品中落地:两阶段检索是招牌——先用 BCEmbedding(中英双语、跨语言检索)向量召回,再用 reranker 精排,专治“知识库越大检索越差”。支持 PDF/Wo

阅读全文 →

github_project

Langchain-Chatchat — 中文友好的全流程本地知识库问答(原 Langchain-ChatGLM)

老牌中文 RAG 项目:基于 LangChain 思想,加载→分割→向量化→检索→生成的完整链路透明可见,FastAPI 出 API、Streamlit 出 WebUI,可全离线(开源 LLM+Emb

阅读全文 →

github_project

LightRAG — 图谱增强 RAG(HKUDS),适合多跳/关系型问题

港大数据智能实验室的图谱 RAG 框架(EMNLP 2025):抽取实体与关系建图,混合“图检索+向量检索”,擅长普通向量 RAG 答不好的跨文档、多跳、关系型问题(如“A 项目的供应商和 B 项目有

阅读全文 →

experience

分块(Chunking)实操:先定 512 递归分块基线,再按文档类型升级

分块是 RAG 质量的第一杠杆,“分块阶段选错,后面全 poison”。多份 2026 实测/指南的共识基线:递归分块约 512 tokens、重叠 50–100 tokens(约 10–20%);文

阅读全文 →

experience

Embedding 选型实操:中文优先 bge-m3 一档, reranker 用 bge-reranker-v2-m3

多份 2026 分析称:在向量库选型之上,Embedding 模型选型对检索质量影响更大——“对的模型+平庸的库”胜过“最好的库+错的模型”。中文/中英混合场景的稳妥默认:BAAI bge-m3(多语

阅读全文 →

experience

混合检索 + 重排实操:两阶段检索是生产级 RAG 的分水岭

纯向量检索搞不定编号、型号、人名等精确词查询。生产共识架构:第一阶段混合召回(向量语义 + BM25 关键词并行、RRF 融合),粗召回 Top 30–50;第二阶段 cross-encoder re

阅读全文 →

prompt_pack

防幻觉提示词包:只据上下文作答 + 逐条引用 + 无据拒答(可直接套用)

防幻觉不能只靠模型自觉,要靠提示词把规矩写死:只许用给定上下文、每个关键论断标引用、上下文不足明确拒答、数字与转折条件逐项自检。多份中文实战文(华为云社区银行客服案例、53AI 踩坑文)与英文指南(S

阅读全文 →

experience

RAG 评估实操:用 RAGAS 四指标做上线门禁,而不是凭手感

RAG 好不好不能靠“问了几条感觉还行”。开源框架 RAGAS 的四指标已被 Red Hat、Databricks 等文档收录为标准口径:Faithfulness(答案是否被上下文支持)、Answer

阅读全文 →

experience

常见翻车清单:RAG 答不好时的排查顺序(故障模式手册)

综合阿里云开发者社区的 RAG 幻觉分类与多篇实战复盘:先分清是“没找到、找错、融合错、超范围编”哪一类,再对症下药。通用排查顺序:查召回(日志里看实际命中的片段)→ 查分块 → 查提示词 → 最后才

阅读全文 →

case

案例:Dify 搭企业内部知识问答(HR 政策 + 产品手册 + 技术 Wiki)

菜鸟教程给出的完整可复现部署案例:把分散在 HR 政策 PDF、产品手册 Word、技术 Wiki Markdown 的文档汇成一个内部知识库,员工用自然语言提问、回答带来源;检索参数给出了具体起步值

阅读全文 →

case

案例:QAnything 在有道自有产品与近百家企业的落地

据 ecer 转载的有道开源/升级报道:QAnything 2024 年 1 月开源前已在网易有道自有产品中实现,典型应用包括教育场景的“私人 AI 规划师”(政策咨询类问题,报道称准确率 95%+)

阅读全文 →

case

案例:FastGPT 工作流做“有据可查”的知识库问答(节点级参数)

CSDN 实战文给出的节点级可复现案例:用户问“七天无理由怎么退”,系统必须给出结论并附引用原文。链路只有三个节点(流程开始 → 知识库检索 → AI 对话),但参数写得很实:知识库检索召回数量 50

阅读全文 →

case

案例/方案:MaxKB 把问答挂件嵌入已有业务系统(零后端改造)

MaxKB 最具辨识度的落地形态(据 clawdbytes 介绍):系统生成一段 JS 脚本,粘贴到任意 HTML 页面即出现知识库问答挂件,不需要 iframe、不用改目标系统后端。对“公司已有官网

阅读全文 →