目前最主流的开源 LLM 应用平台之一:可视化 Workflow、内置 RAG Pipeline、Agent、模型管理与可观测性一体。知识库问答是其最常用场景,适合想从原型一路做到生产的团队。
适用场景:企业内部知识问答、客服机器人、带工作流的问答应用(检索→判断→调接口→回答)
Dify 低代码 工作流 RAG 企业知识库
操作步骤
- git clone 仓库后进 docker/ 目录,cp .env.example .env,docker compose up -d(搜索来源称最低约 2 核 / 4GB)
- 浏览器完成管理员初始化 → 设置 → 模型供应商,安装 Marketplace 的 OpenAI-API-compatible 插件
- 创建知识库:上传文档 → 选分段方式 → 选 Embedding 模型 → 等待索引完成
- 创建聊天助手/工作流应用,绑定知识库,检索节点设混合检索、Top K 与阈值,调试后发布为网页/API/嵌入组件
中文提示词
见第 12 条防幻觉模板(Dify 的 LLM 节点 System Prompt 直接套用)
开源项目信息
- 仓库:https://github.com/langgenius/dify
- Stars 口径:搜索快照:ayautomate(2026-10-21)称约 159,000 stars;frontiernow 数据核查日 2026-10-15 为 158,547 stars——量级约 15.9 万,以仓库实时为准
- 许可:Dify Open Source License(基于 Apache 2.0 并附加条件,非纯 Apache 2.0;多租户 SaaS 等用法受附加条件约束,商用前必读原文)——多个搜索来源一致
接入本站 API:这是本专栏与 LIN API 的标准接法(搜索来源 dev.to / NEAR 官方 Dify 指南均给了字段级说明):模型供应商 → 安装 OpenAI-API-compatible 插件 → Add Model:Model Type 分别加 LLM / Text Embedding / Rerank 三类;Model Name 填 LIN 后台
/v1/models 返回的准确模型 ID(不能自己改名);API Key 填用户在 LIN 站的 Key;API Base URL 填 https://tokenbuddy.cc;Completion mode 选 Chat、Function Call Type 选 Tool Call;保存时 Dify 会发测试请求,通过才保存。每个模型重复 Add Model 共用同一 Key/地址。注意事项
- ⚠️ Model Name 填展示名而非真实 ID,是
model_not_found的头号原因;先curl https://tokenbuddy.cc/v1/models -H "Authorization: Bearer {{API_KEY}}"核对 - ⚠️ 只给 Dify 配 LLM 忘了配 Embedding/Rerank,知识库建不了索引或检索质量差
- ⚠️ 把 Dify 许可证当纯 Apache 2.0 对外做多租户服务,踩附加条件
- ⚠️ 全团队共用一个 Key:用量混在一起、泄露无法单独吊销——给 Dify 单独发一个 Key
来源:https://marketplace.dify.ai/plugin/langgenius/openai_api_compatible