零代码本地部署一个大模型——增加WebUI

前几天 Llama 3 开源了，拿着 8G 内存的 Mac 在本地部署了一个 llama3:8b，居然真的跑起来了——当然，电脑风扇差点起飞。接下来继续，教你怎么不写代码就搭一个 Web 界面，跟本地模型聊天。

需要 Docker 这个应用容器引擎来帮忙一键安装和运行 Web 页面。去 Docker 官网首页，根据系统选择对应安装包下载客户端。

地址：https://www.docker.com/products/docker-desktop/

下载完别忘了把 Docker 跑起来。

Docker 就绪后，到 Ollama 的 GitHub 仓库里找一个开源的 WebUI 项目。这里以 Open WebUI 为例。

地址：https://github.com/ollama/ollama?tab=readme-ov-file

点击 Open WebUI 链接，进它的文档网站，可以拿到用 Docker 下载该项目的命令。

地址：https://docs.openwebui.com/

也可以直接复制下面这一串命令：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

打开电脑的命令行终端，把这段代码粘贴进去并回车，能看到 Docker 开始下载 WebUI 项目了。

下载完成后，打开 Docker 客户端，能看到 Open WebUI 项目，点击 Port 下面的端口号，进入 WebUI 界面。简单注册一下，一个长得像 ChatGPT 的 Web 版聊天机器人就有了。接下来按需在 Ollama 里下载各种开源模型，就能在这个界面里自由切换模型进行使用啦。