目前最主流的开源 LLM 应用平台之一:可视化 Workflow、内置 RAG Pipeline、Agent、模型管理与可观测性一体。知识库问答是其最常用场景,适合想从原型一路做到生产的团队。

适用场景:企业内部知识问答、客服机器人、带工作流的问答应用(检索→判断→调接口→回答)

Dify 低代码 工作流 RAG 企业知识库

操作步骤

  1. git clone 仓库后进 docker/ 目录,cp .env.example .env,docker compose up -d(搜索来源称最低约 2 核 / 4GB)
  2. 浏览器完成管理员初始化 → 设置 → 模型供应商,安装 Marketplace 的 OpenAI-API-compatible 插件
  3. 创建知识库:上传文档 → 选分段方式 → 选 Embedding 模型 → 等待索引完成
  4. 创建聊天助手/工作流应用,绑定知识库,检索节点设混合检索、Top K 与阈值,调试后发布为网页/API/嵌入组件
中文提示词
见第 12 条防幻觉模板(Dify 的 LLM 节点 System Prompt 直接套用)

开源项目信息

  • 仓库:https://github.com/langgenius/dify
  • Stars 口径:搜索快照:ayautomate(2026-10-21)称约 159,000 stars;frontiernow 数据核查日 2026-10-15 为 158,547 stars——量级约 15.9 万,以仓库实时为准
  • 许可:Dify Open Source License(基于 Apache 2.0 并附加条件,非纯 Apache 2.0;多租户 SaaS 等用法受附加条件约束,商用前必读原文)——多个搜索来源一致
接入本站 API:这是本专栏与 LIN API 的标准接法(搜索来源 dev.to / NEAR 官方 Dify 指南均给了字段级说明):模型供应商 → 安装 OpenAI-API-compatible 插件 → Add Model:Model Type 分别加 LLM / Text Embedding / Rerank 三类;Model Name 填 LIN 后台 /v1/models 返回的准确模型 ID(不能自己改名);API Key 填用户在 LIN 站的 Key;API Base URL 填 https://tokenbuddy.cc;Completion mode 选 Chat、Function Call Type 选 Tool Call;保存时 Dify 会发测试请求,通过才保存。每个模型重复 Add Model 共用同一 Key/地址。

注意事项

  • ⚠️ Model Name 填展示名而非真实 ID,是 model_not_found 的头号原因;先 curl https://tokenbuddy.cc/v1/models -H "Authorization: Bearer {{API_KEY}}" 核对
  • ⚠️ 只给 Dify 配 LLM 忘了配 Embedding/Rerank,知识库建不了索引或检索质量差
  • ⚠️ 把 Dify 许可证当纯 Apache 2.0 对外做多租户服务,踩附加条件
  • ⚠️ 全团队共用一个 Key:用量混在一起、泄露无法单独吊销——给 Dify 单独发一个 Key

来源:https://marketplace.dify.ai/plugin/langgenius/openai_api_compatible