有用Agent产品开发踩坑及思考

先说几个核心判断。

我们创建的GPTs，本质上就是产品。那么，产品的核心竞争力和护城河到底在哪？很多人第一反应是Prompt——但这东西说实话，模型能力和基础工具都是平台给的，Prompt本身没有门槛，想防也防不住。大家迟早会追平，甚至到后期，Prompt只会被不断简化或弱化。真正的护城河，还是落在数据和服务上——也就是定制化的Tools。

4个月过去了，字节的Coze在众多智能体平台里脱颖而出，多少也印证了这个判断。

Agent到底是什么？

ChatGPT火了之后，Agent这个概念也跟着重新热起来。很多自媒体添油加醋，把它炒得神乎其神。其实说穿了，Agent的核心机制并不复杂——就是在大模型产品的基础上，多加了一层Tools调用而已。这里举个例子，一看就明白了。

假如做一个GPT，不给它任何工具，它就像被困在虚空里的天使，连翅膀都没有。

messages = [{"role": "system", "content": "你是个非常牛逼的Agent，你爸爸叫Elliot"},{"role": "user", "content": "儿子，帮爸爸查查牛栏山今天的天气"}]

现在给它加一个工具：

messages = [{"role": "system", "content": "你是个非常牛逼的Agent，你爸爸叫Elliot"},{"role": "user", "content": "儿子，帮爸爸查查牛栏山今天的天气"}]
//这里开始下面就是Tools
tools = [{"type": "function","function": {            "name": "GooGleSearch",            "description": "谷歌牌搜索引擎，探索真实世界的开始","parameters": {"type": "object","properties": {"query": {"type": "string","description": "你想知道的问题",                    },},"required": ["query"],},},}]

再多给几个工具：

傻儿子就变成了聪明儿子。

所以，不要过于神化Agent。翻翻官方文档就能发现，大模型请求中两个最大的变量：Messages和Tools。Messages里放的是system prompt、memory、user query；Tools里放的是各种能力的Json Scheme。这两者组合在一起，才构成完整的Prompt。

Agent应用开发的本质是什么？说白了就是动态Prompt拼接——通过工程手段，不断把业务需求转述成新的Prompt。

短期记忆：messages里边的历史QA对。

长期记忆：summary之后的文本，再塞回system prompt。

RAG是什么？向量相似性检索，然后放在system prompt里，或者通过tools触发检索。

Action：触发tool_calls标记，进入请求循环，拿着模型生成的请求参数去做API request，再把结果返回给大模型进行交互。

没有tool_calls标记了，循环结束。页面上对应着一轮对话结束。

Multi Agents又是什么？把system prompt和tools换一换，A就变成了B。还有啥？没了，本质就是这些东西。

当然，这只是最基础的原理。真要做好、做深，后面还躺着不少坑。

如何让Agent真正可用？

为什么仍然没有杀手级应用出现？也没见什么Agent产品真正落地？说到底还是两个老大难问题：一是Agent本身不靠谱，二是Agent的开发者也不靠谱。

很多人迷信GPT-5，但坦率说，Sam就是个画饼大师。上面这些机制，再怎么变，能从物理攻击变成魔法攻击不成？从前面的例子就能看出来，Agent能力的上限很大程度上受限于Tools的能力——也就是旧时代的业务能力。比如携程订机票，你得有携程的API接入能力吧？没有API，总不能自己造一个携程出来？

除此以外，就是让模型更准确地选择Tools，以及更完美地生成API请求参数。

拿之前分享过的Keynote来说，应用的本质并没有太大变化。只不过以前是前端写页面来调API，现在是Agent自己来调API。

再然后呢？Workflow——把一些非通识的业务知识，设计好，让Agent直接拿来用。这是当前时间切片下，最接近“人工”智能的方式，也是性价比最高的路径。毕竟，很多专业的业务know-how，连你都不一定知道，怎么能指望模型知道呢？

慢慢来吧，这条路还长。