Mintplex Labs 的桌面/Docker 一体化应用:选 LLM Provider(支持 Generic OpenAI 等自定义)填地址与 Key,按 Workspace 隔离文档做 RAG 问答,内置 LanceDB 向量库、无代码 Agent 构建、MCP。聊天体验不如专用客户端顺滑,但「聊天 + 问自己的文件」一步到位,常出现在聊天客户端横评名单里,故收录并注明定位差异,避免与知识库专栏重复时各取一面:本栏讲它作聊天前端,知识库栏讲其 RAG 调优。

适用场景:把一堆 PDF/SOP 丢进一个 Workspace,日常像聊天一样提问并要出处;团队新人自助问制度。

AnythingLLM RAG Workspace 文档问答 MIT 交叉收录

操作步骤

  1. 装桌面版或 Docker 版(桌面版自带 LanceDB 最省事)
  2. 首启向导/Settings→LLM Provider 选择支持自定义 OpenAI 兼容的提供商选项
  3. 填 https://tokenbuddy.cc 与 {{API_KEY}} 并选网关模型保存
  4. 另设 Embedder(可用其内置或网关的 embedding 模型,没有 embedding 模型 RAG 不工作)
  5. 新建 Workspace 按项目/部门命名而不是叫 test
  6. 上传文档等状态变已嵌入后提问并核对答案旁的来源文档名

配置说明

聊天模型与 embedding 模型是两处配置,新手最常漏后者;Docker 版连宿主机服务时地址要用 host.docker.internal 一类而不是 127.0.0.1。

开源项目信息

  • 仓库:https://github.com/Mintplex-Labs/anything-llm
  • Stars 口径:来源区间:clawbot 称 54,000+、GitHub API 快照片段 watchers 约 55k、某视频清单称 67k★——写约 5.4万–6.7万并注时点差异
  • 许可:MIT(api.github 片段 license.key=mit 与多处来源一致)

注意事项

  • ⚠️ 只配聊天模型没配 Embedder 导致文档问答报错或答非所问
  • ⚠️ 把它当纯聊天客户端跟 Chatbox 比速度得出错误结论
  • ⚠️ Workspace 不隔离把不同客户资料混在一个空间

来源:仓库与许可汇总 https://clawbot.ai/wiki/ai-processing/anythingllm-open-source-document-chat.html;配置向导 https://betterstack.com/community/guides/ai/anythingllm-local-llm/?format=markdown