值得期待！DB-GPT v0.5.6 版本发布

新特性

DB-GPT 支持 Graph RAG 框架：TuGraph 知识图谱构建与检索

图形数据库与 RAG 的结合终于落地了。v0.5.6 版本正式接入 TuGraph，支持在知识图谱上完成构建和检索。操作步骤并不复杂，下面是快速上手指南：

1. 安装 TuGraph
   
   使用 Docker 镜像一步到位：

docker pull tugraph/tugraph-runtime-centos7:latest
mkdir -p /tmp/tugraph/data && mkdir -p /tmp/tugraph/log && 
docker run -it -d -p 7001:7001 -p 7070:7070 -p 7687:7687 -p 8000:8000 -p 8888:8888 -p 8889:8889 -p 9090:9090 
 -v /tmp/tugraph/data:/var/lib/lgraph/data  -v /tmp/tugraph/log:/var/log/lgraph_log 
 --name tugraph_demo tugraph/tugraph-runtime-centos7:latest /bin/bash && 
docker exec -d tugraph_demo bash /setup.sh

pip install "neo4j>=5.20.0"

2. 配置环境变量
   
   在 .env 文件中添加 TuGraph 连接信息：

GRAPH_STORE_TYPE=TuGraph
TUGRAPH_HOST=127.0.0.1
TUGRAPH_PORT=7687
TUGRAPH_USERNAME=admin
TUGRAPH_PASSWORD=xxx

3. 创建知识空间
   （使用知识图谱模式）
4. 构建成功后即可在界面中看到知识图谱关系。
5. 直接使用知识图谱进行问答交互。

更详细的教程可以参考官方文档：https://docs.dbgpt.site/docs/latest/cookbook/rag/graph_rag_app_develop

DB-GPT 支持 Ollama 部署本地模型服务

本地模型部署一直是社区呼声很高的需求。现在通过 Ollama 可以轻松拉起本地模型，流程非常简洁：

1. 安装 Ollama
   ：从 https://ollama.com/ 下载安装。

2. 拉取模型
   ，以 Qwen 0.5B 为例：

ollama pull qwen:0.5b

3. 拉取 Embedding 模型
   ：

ollama pull nomic-embed-text

4. 安装 Python 客户端
   ：

pip install ollama

5. 配置 .env 环境
   ：

LLM_MODEL=ollama_proxyllm
PROXY_SERVER_URL=http://127.0.0.1:11434
PROXYLLM_BACKEND="qwen:0.5b"
PROXY_API_KEY=not_used
EMBEDDING_MODEL=proxy_ollama
proxy_ollama_proxy_server_url=http://127.0.0.1:11434
proxy_ollama_proxy_backend="nomic-embed-text:latest"

6. 启动服务
   ：

python dbgpt/app/dbgpt_server.py

Agent 模块重构

本次 Agent 模块进行了深度重构，参考了论文 《A survey on large language model based autonomous agents》，将 Agent 拆分为四个核心模块：

• Profile 模块重构
  ：支持从环境变量、数据库等多种来源创建 agent profiles，灵活性大幅提升。

• Memory 模式增强
  ：新增 sensory memory、short-term memory、long-term memory 以及 hybrid memory 四种模式，可自由组合。

• Agent Resource 模块重构
  ：将原来的插件模块和资源模块统一为资源模块。资源类型包括 database、knowledge、tool、pack 等。特殊地，资源的集合被定义为 Resource Pack。

• 支持从 dbgpts 安装资源
  ，例如安装一个简单计算器工具：dbgpt app install simple-calculator-example -U

完整的代码示例可参考 examples/agents 目录。

ChatKnowledge 支持 Rerank 模型，并支持发布为服务

知识库问答的精准度进一步提升。现在可以集成 Rerank 模型对检索结果进行重排序。配置方式如下：

1. 在 .env 文件中设置 Rerank 模型参数：

## Rerank model
RERANK_MODEL=bge-reranker-base
## 若未指定 RERANK_MODEL_PATH，DB-GPT 将根据 RERANK_MODEL 从 EMBEDDING_MODEL_CONFIG 中读取模型路径。
# RERANK_MODEL_PATH=
## 返回的重排序结果数量
RERANK_TOP_K=3

2. 将 Rerank 模型发布为服务
   ：

dbgpt start controller --port 8000

dbgpt start worker --worker_type text2vec 
--rerank 
--model_path /app/models/bge-reranker-base 
--model_name bge-reranker-base 
--port 8004 
--controller_addr http://127.0.0.1:8000

支持 Qwen 110B 模型

大模型支持列表再添一员猛将——Qwen 110B。

支持 DeepSeek Proxy LLM

使用步骤：

1. 修改 .env 模型配置
   ：

LLM_MODEL=deepseek_proxyllm
DEEPSEEK_MODEL_VERSION=deepseek-chat
DEEPSEEK_API_BASE=https://api.deepseek.com/v1
DEEPSEEK_API_KEY={your-deepseek-api-key}

2. 创建 test_proxyllm.py
   并调用 DeepseekLLMClient：

import asyncio
from dbgpt.core import ModelRequest
from dbgpt.model.proxy import DeepseekLLMClient
# 请提前设置 DEEPSEEK_API_KEY 环境变量
client = DeepseekLLMClient()
print(asyncio.run(client.generate(ModelRequest._build("deepseek-chat", "你是谁？"))))

3. 运行
   ：

DEEPSEEK_API_KEY={your-deepseek-api-key} python test_proxyllm.py

支持 Yi-1.5 LLM

修改 .env 文件即可切换：

# [Yi-1.5-34B-Chat](https://huggingface.co/01-ai/Yi-1.5-34B-Chat)
LLM_MODEL=yi-1.5-6b-chat
# [Yi-1.5-9B-Chat](https://huggingface.co/01-ai/Yi-1.5-9B-Chat)
LLM_MODEL=yi-1.5-9b-chat
# [Yi-1.5-6B-Chat](https://huggingface.co/01-ai/Yi-1.5-6B-Chat)
LLM_MODEL=yi-1.5-34b-chat

其他亮点

• 重构 Chroma 向量数据库模块
  ：提升了稳定性和性能。

• 支持 Elasticsearch 作为向量数据库
  ：为已有 ES 基础设施的团队提供了便利。

• ChatKnowledge 支持 Excel 文件
  ：现在可以直接将 Excel 作为知识源进行问答。

Bug 修复

• 修复 EmbeddingRetriever 使用 CrossEncoderRanker 时的异常问题。
• 修复 app 中的 pydantic 错误。
• 支持 milvus autoflush 特性，替代手动 flush 操作。

致谢

感谢所有贡献者让这次发布成为可能： @Aries-ckt, @FOkvj, @GITHUBear, @IamWWT, @JamesBonddu, @fangyinc, @fanzhidongyzby, @ivanzhu109, @jsRuner 和 @yyhhyyyyyy。

引用链接

[1] 《A survey on large language model based autonomous agents》: https://link.springer.com/article/10.1007/s11704-024-40231-1

附录

• DB-GPT 框架
  : https://github.com/eosphoros-ai/DB-GPT

• Text2SQL 微调
  : https://github.com/eosphoros-ai/DB-GPT-Hub

• DB-GPT 前端可视化项目
  : https://github.com/eosphoros-ai/DB-GPT-Web

• DB-GPT 插件仓库
  : https://github.com/eosphoros-ai/DB-GPT-Plugins

• Text2SQL 学习资料和前沿跟踪
  : https://github.com/eosphoros-ai/Awesome-Text2SQL

• 中文官方文档
  : https://www.yuque.com/eosphoros/dbgpt-docs/bex30nsv60ru0fmx

• 英文官方文档
  : http://docs.dbgpt.site/docs/overview