Mintplex Labs 的桌面/Docker 一体化应用:选 LLM Provider(支持 Generic OpenAI 等自定义)填地址与 Key,按 Workspace 隔离文档做 RAG 问答,内置 LanceDB 向量库、无代码 Agent 构建、MCP。聊天体验不如专用客户端顺滑,但「聊天 + 问自己的文件」一步到位,常出现在聊天客户端横评名单里,故收录并注明定位差异,避免与知识库专栏重复时各取一面:本栏讲它作聊天前端,知识库栏讲其 RAG 调优。
适用场景:把一堆 PDF/SOP 丢进一个 Workspace,日常像聊天一样提问并要出处;团队新人自助问制度。
AnythingLLM RAG Workspace 文档问答 MIT 交叉收录
操作步骤
- 装桌面版或 Docker 版(桌面版自带 LanceDB 最省事)
- 首启向导/Settings→LLM Provider 选择支持自定义 OpenAI 兼容的提供商选项
- 填
https://tokenbuddy.cc与{{API_KEY}}并选网关模型保存 - 另设 Embedder(可用其内置或网关的 embedding 模型,没有 embedding 模型 RAG 不工作)
- 新建 Workspace 按项目/部门命名而不是叫 test
- 上传文档等状态变已嵌入后提问并核对答案旁的来源文档名
配置说明
聊天模型与 embedding 模型是两处配置,新手最常漏后者;Docker 版连宿主机服务时地址要用 host.docker.internal 一类而不是 127.0.0.1。
开源项目信息
- 仓库:https://github.com/Mintplex-Labs/anything-llm
- Stars 口径:来源区间:clawbot 称 54,000+、GitHub API 快照片段 watchers 约 55k、某视频清单称 67k★——写约 5.4万–6.7万并注时点差异
- 许可:MIT(api.github 片段 license.key=mit 与多处来源一致)
注意事项
- ⚠️ 只配聊天模型没配 Embedder 导致文档问答报错或答非所问
- ⚠️ 把它当纯聊天客户端跟 Chatbox 比速度得出错误结论
- ⚠️ Workspace 不隔离把不同客户资料混在一个空间
来源:仓库与许可汇总 https://clawbot.ai/wiki/ai-processing/anythingllm-open-source-document-chat.html;配置向导 https://betterstack.com/community/guides/ai/anythingllm-local-llm/?format=markdown