火山引擎AgentKit搭建私有智能体完整代码

要使用火山引擎AgentKit搭建私有智能体，需要完成五步闭环： 首先进行SDK初始化（执行命令pip install volcengine-agentkit≥0.3.0，然后调用Agent.init()）； 接着是工具注册（可以通过装饰器或手动方式进行，注意函数只能包含keyword-only参数）； 之后接入LLM（配置OpenAI兼容服务地址、model_name以及非空的api_key）； 再进行工作流编排（确保input必须为{"input": str}）； 最后启动服务（通过agent.serve()暴露API）。

用火山引擎AgentKit快速搭建可本地部署的私有智能体，需完成SDK初始化、工具注册、LLM接入、工作流编排及服务启动五步闭环，缺一不可。

安装与初始化AgentKit SDK

执行 pip install volcengine-agentkit 安装最新SDK，版本必须为 0.3.0 及以上，旧版本不支持私有化部署模式。

新建 main.py，导入核心模块：from volcengine.agentkit import Agent, ToolRegistry；from volcengine.agentkit.llm import VolcEngineLLM。

调用 Agent.init() 初始化运行时环境，

。

注册本地可执行工具

方法一：装饰器注册（推荐）
在函数上方添加 @ToolRegistry.register(description="查询当前服务器CPU使用率")，函数名将自动作为tool_id。

方法二：手动注册
定义函数 get_cpu_usage() → 调用 ToolRegistry.register_func(func=get_cpu_usage, name="cpu_monitor", description="获取CPU负载") → 确保函数签名只含 keyword-only 参数（如 def get_cpu_usage(*, interval: int = 1)），否则调用时会抛出 TypeError。

接入私有化LLM模型

首先，得准备好模型服务地址。要保证已经部署了兼容OpenAI API格式的LLM服务，像vLLM、llama.cpp + openai-compatible server这类。然后获取到可用的base_url，比如http://127.0.0.1:8000/v1，还有model_name，例如qwen2-7b-instruct。

第二步：构造LLM实例
llm = VolcEngineLLM(api_base="http://127.0.0.1:8000/v1", model="qwen2-7b-instruct", api_key="sk-xxx")，

。

第三步：注入Agent实例
agent = Agent(llm=llm, tools=ToolRegistry.get_all_tools())。

定义并触发智能体工作流

编写 workflow.py，定义 run_agent(input_text: str) → 调用 agent.invoke({"input": input_text}) → 返回 response["output"]。

这一步操作起来很简单，直接把 input_text 传进去就行，但注意输入必须是 dict 类型且 key 为 "input"，传入字符串会触发 KeyError。

启动HTTP服务暴露API

在 main.py 底部添加：if __name__ == "__main__":
　　agent.serve(host="0.0.0.0", port=8001, debug=False)。

运行 python main.py 后，访问 http://localhost:8001/docs 可查看自动生成的 Swagger 文档，/v1/chat/completions 接口支持标准 OpenAI 请求体格式。