产品角度，RAG应用的关键点是什么？

RAG可以说是GenAI领域里最受关注的话题之一，没有太多悬念。原因无非两点：第一，它足够普惠，没有什么硬性门槛，不少有技术能力的公司或多或少都尝试过；第二，它的逻辑确实好懂——这种“召回+生成”的开卷考试模式，带来的好处很容易达成共识。

聊RAG技术的文章网上已经铺天盖地了。各家总结的实践套路越来越趋同，无论是chunking方法、retrieval技巧，还是各种优化点，跟我们实际项目里总结的方法大同小异。想把这块真正做好，确实是个大工程。

以上说的都是“术”的层面。而今天这篇文章，想换个角度，聊聊“道”的层面——从业务价值出发，去讨论RAG的优化方向和目标。在做任何技术优化之前，得先把这个问题说清楚：你的RAG应用到底带来了什么价值？如何才能带来更高的业务价值？

RAG的应用场景很广，最出名的例子莫过于微软的NewBing或者Perplexity.ai。这两款产品技术实现和产品效果都很出色，但跟一般技术团队能尝试的RAG应用差别不小。更普遍、更容易上手的场景，其实是公司内部的智能助手。下面就以这个场景为例，抛砖引玉，谈谈一些思考。

形成高频统一的流量入口

拿Baidu、Google这类搜索引擎来说，它们其实完美符合这一定义。使用频率极高——几乎每个人每天都会用上不下十次，因为这是最高效的信息获取手段。而且能满足多方面需求：不管是求攻略，还是查一个问题，随手搜一把就行。

即使在移动互联网时代，垂直app里的内容搜不到了，搜索引擎这种相对简单的统一入口，依然有着无法替代的业务价值。这种高频统一的入口，天然符合人性——你过一阵子就会忘记收藏夹里的网页，但永远记得去搜索框搜一下。所以RAG要成功，必须在它所在的领域成为这样的高频统一入口。

回到封闭的内部场景，我们往往缺乏这种入口。团队达到一定规模后，内部信息常常是过载的，甚至个人记录的信息对自己来说也是过载的。一个新员工，大概要过一年才能把常用的信息、资源获取方式摸索得七七八八。老员工长期不用的信息，也经常需要问同事来“恢复”记忆。这时候，一个能解决多种需求的万能入口就变得至关重要。所以除了RAG本身，将系统对接其他能力也非常必要，比如查工资、查年假、预定会议——这些高频需求都能通过大语言模型的Function Calling能力对接进来。除此之外，公司内部还有很多独特的业务需求，比如查询某个部门的接口人。

提供值得信任的知识

还是以搜索引擎为例。它能提供海量信息，但我们并不能完全相信它。网页上的信息过时、错误或者不客观的情况屡见不鲜，发布网页的人并没有义务保持页面正确性，很多时候得靠我们自己辨别。搜索引擎尝试过一些手段来改善：比如通过Page Rank解决权威性问题，通过点赞、点踩反映答案的有效性。但这些手段并没有完全解决问题——无论是Page Rank还是点赞点踩，强调的都是外部反馈，内容发布者并没有任何约束。

对用户来说，甄别搜索引擎的结果或者LLM的输出，都是沉重的负担。

RAG提供的是带Reference的回答，而Reference正是获取用户信任的核心机制。在内部使用场景下，如何保证Reference的质量？关键在于对发布者的约束和要求。内容不能完全依靠UGC机制进行无中心化管理，而应由发布者负责，将内容和人建立关联。点赞、点踩得到的反馈，必须直接触达发布者。一旦知识以署名形式对外发布，发布者必然会尽可能保证它的准确性和实时性。

此外，自动化的知识质量评估或检查也是维护知识质量的必要手段，尤其在知识库构建的冷启动阶段。可以通过一些规则性手段（比如文档的观看数、评论数等统计值进行筛选），也可以结合大语言模型，比如通过Prompt让LLM对整篇文章进行“What—How—Why”形式的提问。如果出现拒答，基本就能判断这篇文档质量不足，可以提示用户优化。

解决了知识库的质量问题后，RAG系统的使用体验会有明显改善。只有在知识质量有所保证后，才能真正帮到用户。质量不足时，其他方向都不是正确的优化路径。

自我进化——实现更高的使用效率和更广的使用范围

能自我进化的系统，通常会有更好的使用体验和更大的应用价值。过去几年互联网上不乏典型例子：推荐系统的兴起和流行，本质上是分发能力的进化，通过用户反馈让内容分发效率不断提高。社区App（无论是小红书还是B站）的崛起，则源于内容的持续进化——圈层扩大、丰富性提升。

RAG其实也可以从这两个角度看。从分发上看，它和推荐系统别无二致。很多人已经注意到“猜你想问”或者“追问推荐”这个场景。这类能力不断优化，肯定能增强用户体验。可以结合前缀索引技术，实现问题的自动补全，达到更快的知识触达。这些方式使用比例越高，数据层面也能获得更多监督信号，促进系统进化。

从内容进化方面，社区App更多依靠机制设计——给予知识提供者奖励，这是一种终极解决方案。当然，技术手段辅助也非常有效：比如通过点赞点踩不断提醒内容owner进行纠正；或者自动分析出被拒答的高频问题，分发给该领域的owner提示他们补充。这些都是提升内容质量和完整性的有效手段。内容不断丰富，RAG的使用范围也会随之扩大，覆盖更多人群、更多角色。

实现以上三个方面后，RAG的业务价值才有可能得到充分体现。否则，使用频率会持续走低，最终变成一个实验性质的内部技术产品。局限在企业内部智能助手这个场景，RAG应用的成功标准，其实应该看它是否转变成了GenAI时代企业内部提效协作的基础范式，成为一种新的工作方式。

以上，是对RAG在企业内部场景下落地的一些思路梳理。仅供参考。