COZE升级版，企业级AI Agent应用落地

最近在关注RAG技术的落地应用时，读到一篇很有价值的系列文章。作者是torchv公司CEO卢向东（员外）先生，他在公众号“土猛的员外”中详细拆解了非结构化数据与RAG结合的场景。读完不禁想进一步梳理一下——这项应用的前景到底如何？这家公司为什么选这个方向？又已经做到了什么程度？

让AI先来帮忙做一轮快速总结。用到的提示词也比较直接：

【要点凝练】长文本总结助手，能够总结用户给出的文本、生成摘要和大纲

你是一个擅长总结长文本的助手，能够总结用户给出的文本，并生成摘要
##工作流程：
让我们一步一步思考，阅读我提供的内容，并做出以下操作：
- 标题：xxx
- 作者：xxx
- 标签：阅读文章内容后给文章打上标签，标签通常是领域、学科或专有名词，请用(,)进行分隔
- 原文链接：
- 原文字数：
- 一句话总结这篇文文章:xxx
- 总结文章内容并写成摘要:xxx
- 越详细地列举文章的大纲，越详细越好，要完整体现文章要点；

##注意
- 只有在用户提问的时候你才开始回答，用户不提问时，请不要回答

##初始语句：
“您好，我是您的文档总结助手，我可以给出长文档的总结摘要和大纲，请把您需要阅读的文本扔进来~”

AI给出的一句话总结很到位——文章探讨的核心，恰恰可以拆成两个维度：一是企业面对非结构化数据所产生的问题和需求；二是如何利用RAG技术来解决这些问题、满足这些需求。

第一步：企业非结构化数据的真实困局

上一篇文章聊过，AI Agent应用对输入数据的质量要求极高，当时还提到COZE的RAG技术感觉差点意思，所以选择了更结构化的Excel表格来作为输入源。

但在实际的企业运营场景中，真正大量存在的反而是非结构化数据。对于一个企业或事业单位来说，这类数据的占比往往远超你的想象——合同文本、会议纪要、新闻稿、采购单、发片、项目群里的交流记录、电子邮件、财务报表、日报周报、工作计划，还有大量PPT、Excel、Word/Markdown格式的各类文档。一位朋友从老东家离职时，交还的Macbook Pro上留下了超过100G的这类文件。

日常工作中，每个人都会积攒下大量文件。越是时间久远的文档，越难被高效检索出来。搜索体验差，结果也不尽如人意。在职员工尚且如此，当重要岗位人员离职后，他们留下的文档往往直接变成“死数据”，很难被后续的团队重新利用。

当然，现在很多企业也在刻意搭建自己的档案库，但依然面临两个核心问题：

• 很难理解大段文字的输入，完全没能形成“和非结构化文件对话”的感觉，对大部分用户来说易用性极差；
• 无法跨多文件进行内容挖掘，更谈不上对结果进行最终的汇总加工——比如去除重复内容，将多个召回结果按一定规律排序等等。

所以，要实现真正意义上的“与非结构化文件对话”，目前最合理、最经济的路径就是借助最新的RAG技术，当然前提是基于大语言模型（LLM）这个底座。

第二步：RAG是如何解决这个问题的

文章详细拆解了RAG的工作原理：从文档中提取内容、将文本转换为向量数据、通过索引进行匹配和排序，再将这些技术整合到大语言模型中，生成准确的回答。RAG帮助大语言模型解决了三个关键问题：私有数据和时效性问题、减少幻觉问题，以及提高数据安全性。

更直白地说，RAG（Retrieval-Augmented Generation，检索增强生成）就是为大语言模型提供了从数据源检索到的信息，并以此为基础生成回答。它结合了搜索技术和LLM的提示功能——模型根据搜索算法找到的信息作为上下文来回答查询。无论是查询还是检索的上下文，都会被整合到发给大语言模型的提示中，然后让LLM根据召回的事实内容进行润色输出。

一句话总结：通过RAG与LLM的配合，企业终于可以跟自己的文档“对话”，让文件自己告诉我们答案。

文章中给出了两个典型的实际业务场景——

第一个场景是对外服务型企业。每天面对大量的客户咨询，最常见的问题是客户不了解使用方式引起的。我们总不能期望客户去翻看几万字的使用手册或更详细的帮助文档。如果有过坐班客服的经验，就会发现90%以上的问题其实都是“老生常谈”。这时候，如果能将几万字的使用手册、一堆帮助中心的文件与对客服务系统建立连接，不仅激活了这些非结构化知识的价值，还能极大提升对客服务的能力。

第二个场景是知识密集型生产型企业。某些企业拥有大量行业标准文件，细致到更换某个零件需要遵守的11个步骤都有明确写明。类似的SOP文件可能多达几百份，平均每份上百页。日常生产或维修时，从业人员面临两难：要么每次翻阅大量标准文件，耗费大量时间；要么凭直觉或经验操作，增加错误率。一位意向客户采用了TorchV Bot（基于RAG和LLM的方案）之后，将所有SOP文件喂给Bot，直接问：“我要更换XX机器上的XXX号零件，怎么操作？”Bot只需几秒就能给出11个标准流程，并且附带原文的预览链接——省去了翻阅庞杂文件的时间，也减少了“拍脑袋”式的错误。

更多案例和技术细节，可以查看原文链接。包括软件运行的诸多技术原理、实现手段、业务场景的应用，文章都做了相当清晰的说明。

最近AI大模型领域非常火爆，但同时也掺杂了大量低质量信息。未来会持续关注AI领域，尽量带来更多更高质量、更落地的AI相关项目。对个人或企业来说，如果希望自己开发AI Agent项目，除了COZE，还有不少免费开源软件可供选择。

手把手教你如何用扣子（COZE）打造一个企业级的知识库机器人

题图标题：《玄幻老者》AI算法提供：SD
Prompt: ,masterpiece,high quality,fantastic,an elderly man with a long white beard,seated amidst a stormy backdrop with a majestic leopard-like creature at his side. The man wears traditional attire and holds a staff,exuding a powerful and serene aura.