Dify如何接入本地大模型？

在企业级AI应用的落地过程中，Dify与本地大模型的对接常常是绕不开的关键环节。上一篇文章已经梳理了基础部署流程，这次专门补充一下本地模型接入的具体操作——尤其是那些容易踩坑的配置细节。已经搭建好的知识库也需要顺势调整一下模型指向。

Dify接入本地大模型

如何让Dify成功调用本地部署的大模型？先确认本地是否已经用Ollama部署好模型。

直接从Dify主界面进入

，在全局配置中完成接入。配置成功后可以看到Ollama出现在列表中。

这时需要先搞定Ollama部署，核心步骤并不复杂：

1. 下载安装Ollama
   访问官网（https://ollama.com/download/windows）下载Windows版本，其他系统自行搜索对应版本。

2. 双击运行安装包，一路“下一步”无脑安装就可以。

3. 检验安装是否成功
   按下 Windows + R，输入命令：

   C:Usersadmin>ollama -v

   如果能显示版本号，说明安装成功。

   

4. 本地部署大模型
   以接入DeepSeek-r1为例，用Ollama完成部署。考虑到本地机器性能，需要合理选择模型规格和参数。

   

   接入deepseek-r1:14b后，出现类似“发送消息”的对话提示，就代表模型已经在本地跑起来了。

   

如果连Dify都没有部署好，请先参考《Dify本地安装Windows版本》完成Docker部署。这里不再重复。

好，现在我们已经有两样东西就位：

• Ollama本地成功部署了deepseek大模型
• Docker成功部署了Dify

接下来就是正式操作。接入本地模型时，关键配置项如下：

• 基础URL (Base URL)
  ：填写Ollama部署的地址。

• 模型名称
  ：必须与本地部署的大模型名称完全一致。例如使用deepseek-r1:14b，就填这个名字。

• 模型类型
  ：选择“对话(Chat)上下文”。

• 上下文长度
  ：4096（可根据显存情况调整）。

：如果你的Ollama跑在宿主机上，而Dify跑在Docker容器里，Base URL千万不能填localhost！

正确的填法：

Mac/Windows：http://host.docker.internal:11434
Linux：http://172.17.0.1:11434（Docker网关IP）

在设置界面可视化配置完成后，大致长这样：

至此，Dify成功接入本地大模型的基础配置就完成了。

知识库配置本地模型

最后回到最初搭建好的知识库，把模型指向切换到本地。

具体修改步骤如下：

1. 点击进入已经建好的知识库。

   

2. 点击“模型设置”，选择本地部署的模型。

   

   这时应该能看到本地模型的名称出现在列表中。

3. 测试验证：随意发起一个提问，确认模型能正常响应。

   

整个过程其实不复杂，唯一容易出问题的地方就是Docker与宿主机之间的网络引用地址。只要把Base URL写对，剩下的步骤基本一路顺畅。