操作教程丨MaxKB+Ollama:快速构建基于大语言模型的本地知识库问答系统
2024年4月12日,1Panel开源项目组正式推出了一个官方子项目——MaxKB(github.com/1Panel-dev/MaxKB)。简单来说,这是一款基于大语言模型的知识库问答系统。名字里的“Max KB”就是“Max Knowledge Base”的缩写,目标很明确:给企业打造一个学习能力强、响应速度快的“最强大脑”。
消息一出,反响相当热烈。
4月16日,MaxKB就登顶了GitHub Trending主榜单,发布后迅速收获超过1,800个Star和5,000次下载。
除了对接OpenAI、百度千帆这些在线大模型,MaxKB还有一个很实用的特性——支持与Ollama这类本地私有大模型结合,快速部署本地的知识库问答系统。这意味着数据可以留在自己手里,对注重隐私的企业来说是个不错的选择。
接下来,就详细说说怎么通过1Panel应用商店(apps.fit2cloud.com/1panel)快速部署MaxKB和Ollama,然后在MaxKB里接入Ollama的模型,最后上线一个企业知识库小助手。
1. MaxKB安装部署
部署方式有两种,都很简单。
方式一:通过1Panel应用商店,一键安装MaxKB。
方式二:命令行安装。
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb # 用户名: admin # 密码: MaxKB@123..
2. Ollama安装部署
Ollama(github.com/ollama)是一个开源框架,支持用户通过本地部署来运行大语言模型。它目前支持LIama 2、Mistral、Gemma等多个主流模型。
同样可以通过1Panel应用商店快速安装Ollama。
3. 在MaxKB中接入Ollama的大语言模型
第一步:登录MaxKB系统
在1Panel应用商店的“已安装”选项卡里,找到MaxKB应用面板,点击“服务端口”打开MaxKB页面,然后用默认账号密码登录即可。
第二步:接入Ollama LLM模型
进入MaxKB的“系统设置”菜单,在“模型设置”页面选择添加“Ollama”模型,并填写模型的具体信息。点击“添加”后,系统会自动下载并部署Ollama模型。
除了Ollama,MaxKB还支持百度千帆、Azure OpenAI和OpenAI模型,具体步骤可以查阅官方文档。
4. 制作企业知识库小助手
我们以制作DataEase小助手为例,走一遍完整的流程。
第一步:在MaxKB中创建DataEase在线知识库
DataEase在线文档地址是:https://dataease.io/docs/。
在MaxKB里,点击“知识库”菜单,选择创建知识库,填写信息后创建并导入。知识库类型这里要注意:离线文档选“通用型”,在线文档选“Web站点”。
MaxKB支持用文档列表查看导入的文本数据。系统会自动爬取根地址及子地址的文本,按URL生成文档,并自动拆分、向量化处理。
第二步:在MaxKB中创建DataEase小助手应用
在“应用”菜单里,选择创建应用,填写相关信息即可。
创建完成后,可以在“应用”列表中点击对应应用的演示图标进行调试和预览。
DataEase小助手的对话演示页面长这样:
5. 将企业小助手嵌入到第三方业务系统中
最后一步,把做好的小助手嵌入到DataEase在线文档里。
回到MaxKB的“应用”菜单,点击DataEase小助手应用面板,进入“概览”页面,打开“嵌入第三方”选项。
复制“浮窗模式”下方的脚本,加入到DataEase在线文档的对应文件中,小助手就成功嵌入进去了。
最终效果如下:
-
- 关于宇宙的好的网名有哪些
- 角色扮演 | 1
- 网名