LLM产品为什么需要混合检索？

在RAG系统的检索环节中，大家最熟悉的方案莫过于基于向量的语义检索——通过语义相似度，把用户问题和文档库里的内容匹配起来。具体做法是：先把外部知识库中的文档切分成语义完整的段落或句子，然后转换成计算机能理解的多维向量；用户提的问题也走同样的流程，生成同等维度的问题向量。接下来，系统就在向量空间里做匹配，找出最相关的文本。

计算机通过这种语义分析，能捕捉到用户问题和文本之间非常细微的相关性。举个例子，"猫追逐老鼠"和"小猫抓老鼠"之间的语义相关度，肯定远高于"猫追逐老鼠"和"我喜欢吃冰激凌"。RAG系统正是利用这一能力，找到最匹配的文本片段，然后把它们连同用户问题一起，作为上下文喂给大语言模型，帮助模型更准确地理解问题、给出答案。

向量检索能做的远不止简单的关键词匹配，它还有一些突出的优势：

• 能识别语义相近的词汇，比如"老鼠"和"捕鼠器"，或者"谷歌"和"搜索引擎"。
• 支持多语言匹配，用中文搜"猫"，一样能找到英文的"cat"相关内容。
• 多模态兼容，文本、图像、音频、视频都能做相似度匹配。
• 容错能力强，拼写错误或者描述模糊也不影响检索。

不过，向量检索也不是万能的，在某些场景下效果就不太理想。比如：

• 搜特定的人名，像"雷军"；或者搜产品名，比如"小米su7"。
• 搜缩写词或短语，比如"RAG"、"RLHF"。
• 搜ID编号，比如"gpt-3.5-turbo"、"titan-xlarge-v1.01"。

这些恰恰是传统关键词搜索的强项。关键词检索擅长：

• 精确匹配，比如产品名称、姓名、编号，一个字都不能错。
• 少量字符匹配。很多用户习惯只输入一两个关键词搜索，这时候向量检索效果很差，关键词搜索反而高效。
• 低频词汇匹配。句子里的低频词往往承载核心含义，比如"你想跟我去喝奶茶吗？"这句话里，"喝"和"奶茶"的重要性远高于"你""想""吗"。

说到底，在大多数文本搜索场景中，最重要的目标是确保最相关的结果出现在候选列表里。向量检索和关键词检索各有千秋，谁也取代不了谁。

混合检索就是把这两者的优势结合起来，同时互补各自的短板。具体操作上，数据库里要同时建向量索引和关键词索引。用户输入问题后，两种检索器各自跑一遍，找出最相关的文本，再把结果融合起来。

其实"混合检索"这个概念本身很灵活——不限于向量+关键词。比如，还可以把擅长挖掘实体关系的知识图谱技术和向量检索结合在一起。不同的检索系统，擅长发现文本之间不同类型的细微联系：精确关系、语义关系、主题关系、结构关系、实体关系、时间关系、事件关系……没有哪一种检索模式能覆盖所有场景。混合检索通过多系统组合，实现了多种技术之间的优势互补。