Dify是一款开源的低代码AI应用开发平台，支持快速构建基于大语言模型的应用。通过可视化界面，用户可以轻松创建聊天机器人、知识库问答、工作流自动化等AI应用。本教程将详细介绍在Windows环境下本地安装Dify，并基于Embedding模型实现RAG（检索增强生成）的完整流程。

前置教程

为保证顺利完成本教程，你可能需要先完成以下前置教程：

源码地址

1. Dify平台特色

  • 低代码开发：无需编程基础，可视化配置
  • 多模型支持：支持Ollama、OpenAI等多种模型提供商
  • 知识库集成：内置向量数据库，支持多种文档格式
  • 工作流编排：可视化设计复杂的AI工作流
  • API服务化：一键生成API，便于集成

2. 环境准备与配置

  1. 将下载的压缩包解压到合适目录
  2. 进入dify目录
  3. 找到docker子目录，将.env.example重命名为.env
  4. 安装依赖： 在该目录下启动PowerShell运行： 
    docker compose up -d

首次启动：

  1. Docker将自动拉取所需镜像
  2. 初始化数据库和数据结构
  3. 启动所有服务容器
  4. 过程可能需要10-20分钟

3. 启动并配置Dify

访问Dify：

  1. 打开浏览器
  2. 访问：http://localhost/
  3. 进入Dify初始化设置页面

管理员账户设置：

  1. 设置管理员邮箱和密码
  2. 完成平台初始化配置
  3. 创建管理员账户

登录工作台：

  1. 使用创建的管理员账户登录
  2. 进入Dify主界面

4. 配置模型供应商

4.1 模型提供商插件：Ollama、OpenAI-API-compatible

  1. Dify工作台最左侧下方的集成图标
  2. 选择模型供应商
  3. 安装模型供应商插件：OpenAI-API-compatible

如第一次安装失败，可再次安装，直至成功为止。

这是一个OpenAI API兼容服务的插件，Ollama、LM Studio等本地模型服务供应商及 GLM API 都可以通过该插件进行集成。

模型提供商插件：Ollama、OpenAI-API-compatible示意图

4.2 导入模型

导入LLM模型：

  1. 在插件配置页面点击添加模型
  2. 填写模型信息：
  • 模型名称：glm-4.7-flash
  • 模型类型：LLM
  • 基础URL：https://open.bigmodel.cn/api/paas/v4
  • API KEY：你的智谱 GLM API 密钥
  1. 点击添加按钮

导入模型示意图

导入Embedding模型：

打开cmd命令行，执行下面命令，拉取 qwen3-embedding:0.6b 向量模型：

ollama pull qwen3-embedding:0.6b

在Dify中导入向量模型： 1. 在配置页面点击添加模型 2. 填写模型信息：

  • 模型名称：qwen3-embedding:0.6b
  • 模型类型：Embedding
  • 基础URL：http://host.docker.internal:11434
  1. 点击添加按钮

导入模型示意图

配置系统默认模型：

点击右上角的系统模型设置，将系统推理模型选择为glm-4.7-flash;Embedding模型选择为qwen3-embedding:0.6b。

导入模型示意图

5. 知识库创建与管理

5.1 创建知识库

  1. 在Dify左侧导航栏中选择知识库
  2. 点击创建知识库→选择文件→上传文件→下一步 创建知识库示意图

5.2 知识库配置

分段设置

  • 分段标识符：采用"\n\n"，即为出现连续换行时强制分段，可通过修改此项定义分段规则
  • 分段长度：控制文本块大小，建议512-1024字符，重叠字段大于50字符
  • 索引方式: 默认选择高质量
  • Embedding 模型：选择我们刚刚添加的qwen3-embedding:0.6b模型
  • 检索设置：由于未配置Rerank模型，我们这里选择最基础的向量检索以完成测试

关于Rerank模型你可以前往前置教程Embedding、Rerank与向量数据库概念详解与应用教程进行回顾。

知识库配置示意图

点击页面最下方“保存并处理”，Dify将开始处理文档内容，处理完成后会显示处理进度和结果。

5.3 文档导入

文本格式

  • TXT、Markdown、Word文档（.docx）等
  • 默认不支持PDF文档（需要文本提取，我们会在后续的教程中详细介绍）

导入文档

再次打开知识库，点击我们刚刚添加的知识库内容，当显示可用，即代表文档处理成功：

文档导入示意图

6. 应用创建与RAG效果测试实现

  1. 在工作室点击创建空白应用 6. 应用创建与RAG效果测试实现示意图
  2. 选择新手适用→聊天助手
  3. 配置应用信息：
  • 应用名称：如"智能客服助手"
  • 应用图标：选择合适的图标（可选）
  • 应用描述：简要说明应用功能（可选）
  1. 点击创建按钮 6. 应用创建与RAG效果测试实现示意图
  2. 进入应用编辑页面后点击知识库栏目右侧的+添加，选择我们刚刚添加的知识库
  3. 在右侧聊天输入框中，基于知识库的内容进行提问，如AI相应的引用信息中包括了我们的知识库中的内容，表示知识库创建并调用成功 6. 应用创建与RAG效果测试实现示意图

由于 Dify 有显示 Bug，我们可以在日志中，查看知识库内容的召回情况：

6. 应用创建与RAG效果测试实现示意图

7. 总结

通过本教程，你应该掌握了在Windows环境下本地部署Dify并实现RAG功能的完整流程。Dify作为低代码AI开发平台，大大降低了AI应用开发的技术门槛，使更多用户能够快速构建基于本地知识库的智能问答系统。