1小时搭建免费AI知识库

为什么要搭建本地知识库？

相信很多人都幻想过，拥有一个像《钢铁侠》里贾维斯那样懂你的AI助理——能帮你处理工作文件、私人笔记，还能随时回答各种问题。而DeepSeek恰好是个擅长理解中文的模型，相比那些外语AI，天然更懂我们的语境。那么，把它和你自己的文档结合起来，效果会怎样？

把工作文件、个人日记、笔记交给DeepSeek，它能快速吃透这些内容，最关键的是——这一切都跑在你自己的电脑上，数据完全私有，不用担心里程碑式的隐私泄露问题。用公共AI处理就像把钥匙交给陌生人，而本地部署的DeepSeek就像把保险箱安在自己家里。

行了，直接上实操，看看效果如何。

Ollama下载与安装

要在本地跑DeepSeek，首先得装上Ollama，并加载一个DeepSeek模型。这个流程之前已经详细讲过，但为了照顾新手，这里再简单梳理一遍。

打开Ollama官网：www.ollama.com

选择Windows版本下载。

下载完成后直接双击安装包安装即可。

等待安装完成……

重启后，打开cmd命令行，输入以下命令验证是否安装成功：

ollama -v

如果看到类似版本号的提示，说明Ollama安装成功。

Ollama集成DeepSeek-R1模型

接下来下载DeepSeek-R1模型。还是打开Ollama官网，点击DeepSeek-R1的链接。

根据你电脑的硬件配置，选择对应的蒸馏模型安装命令。注意，这里只讨论实际可用性，至于满血版和蒸馏版的区别，前面已经说得很清楚了，没必要再纠结。

复制对应的命令，粘贴到cmd命令行中，回车执行，等待下载完成。

下载完成后，就可以直接在命令行里和模型对话了。

AnythingLLM介绍

这才是今天的重头戏。AnythingLLM是由Mintplex Labs Inc.开发的一款全栈应用，能让用户在私有环境中搭建自己的ChatGPT。

AnythingLLM能把任何文档、资源（包括链接、音频、视频、内容片段）转化为上下文，供其他大语言模型在聊天时参考调用。所以，它非常适合用来打造企业内部的私有知识库，实现智能文档处理与问答。

打个比方：你有一个装满文档、笔记和资料的私人宝库，AnythingLLM就是那个能帮你智能检索、理解和对话的宝库管理员。你只需要把文档喂给它，它就能理解并记住，之后你像聊天一样提问，它会从宝库中提取相关信息来回答。所有数据都保存在你本地，安全又私密。

好了，开始下载安装。

AnythingLLM下载与安装

官方网站：anythingllm.com

以Windows系统为例，点击下载。

如果弹出提示，点击确认即可开始下载。

下载完成后，直接安装。这个软件体积稍大，可能需要多等一会。

AnythingLLM部署配置本地知识库

整个过程非常简单，几步就能完成。

双击桌面上的AnythingLLM快捷方式打开它，点击

（开始）。

在列表中选择

，然后在下方选项中选择你安装的DeepSeek-R1蒸馏模型（根据你安装的参数版本选择）。

直接默认下一步。

这里可以输入电子邮箱，也可以直接跳过。建议直接点击

（跳过调查）。

然后给工作区命名，继续下一步。

到这里模型部署基本完成，可以和DeepSeek-R1对话了，类似Chatbox的界面。

设置中文

界面默认是英文，需要切换成中文。点击设置按钮。

找到语言设置，选择

。

界面就变成中文了。

上传数据到本地资料库

这才是关键步骤：把数据投喂给AnythingLLM，让DeepSeek帮我们分析。首先点击工作区右侧的齿轮设置按钮，按图示顺序配置。

滚动到底部，点击

（保存更新）。

然后，在工作区右侧点击上传按钮。

左侧是上传的数据列表，默认为空。你可以把文件拖拽进去，或者点击上传按钮选择文件。文件的类型取决于你的职业需求——比如，我上传了一份ThinkPHP5快速入门教程的PDF文件。

点击

（单击上传或拖放），选择文件后等待上传完成。然后点击（移动到工作区）。

接着点击

（保存嵌入）。

系统会进入分析状态……

加载完成后，在工作区列表中，把上传文件的图钉点选上（表示该文档将被用于问答）。

完成部署

现在，你可以用自然语言提问了。试试问一下刚才上传的文档，让AnythingLLM + DeepSeek来分析和回答。

怎么样？你的电脑现在就像一个真正的智能管家，随时待命。对于开发者、设计师这类需要频繁查文档的场景，尤其有用。而且，文档都存本地，数据安全完全可控。

本地部署AI知识库注意事项

部署完成后，可能会遇到回答不准确的问题。这里有几个关键点需要注意。

文档类型准备

不是所有文档类型都能直接投喂。扫描文档生成的纯图片PDF文件，拖拽进知识库后很可能无法识别。建议尽量使用纯文本格式的文件，尤其是结构清晰的纯文本，AI识别率会高很多。如果确实想用图片扫描的PDF，需要提前提取出文字内容。

嵌入模型配置

嵌入模型的作用是将文本信息转换为向量，从而实现内容匹配。简单理解：向量就是一个有方向、有大小的箭头，在数学和计算机里它是一串数字，用来表示位置、速度、力等概念。嵌入模型将知识库中的文字、文章转换为向量，查询时也同样转换，然后在向量空间中计算相似度，找到最相关的内容。

AnythingLLM默认提供了嵌入模型选项（AnythingLLM Embedder）。你也可以通过Ollama命令安装其他嵌入模型，比如：

ollama run nomic-embed-text
ollama run bge-m3

确保Ollama已启动，然后在cmd命令行执行上述命令，等待下载完成。

之后，进入设置中的嵌入引擎选项，先选择

，然后选择刚刚下载好的嵌入模型即可。

最后

本地部署虽好，但对硬件资源有一定要求。如果你的电脑配置足够，并且成功按照上述步骤完成了DeepSeek + Ollama + AnythingLLM的搭建，那么恭喜你，你已经拥有了一个功能全面的本地知识库。它不仅能高效检索信息，还能智能理解并回应查询，极大地提升了知识管理与利用的效率。赶紧去试试吧。