RAGvsReranking

RAG

RAG 是当前最实用的 LLM 增强技术：先从知识库中检索相关文档，再将检索结果作为上下文喂给 LLM 生成回答。这大幅减少了幻觉问题，让 AI 的回答有据可查。

Reranking

Reranking 在初步检索后用更精确的模型对结果重新排序，将最相关的内容排到前面。这是 RAG 系统提升检索质量最有效的手段之一，通常能提升 10-20% 的准确率。

RAG

• 解决 LLM 幻觉问题的最实用方案
• 不需要微调模型，知识库更新即时生效
• 核心流程：索引 → 检索 → 生成

Reranking

• 在粗检索之后做精排，两阶段检索架构
• Cross-encoder 比 Bi-encoder 更精确但更慢
• Cohere Rerank 和 BGE-Reranker 是主流选择

RAG

通过先检索外部知识库中的相关信息再将其作为上下文输入大语言模型来生成更准确回答的技术架构

Reranking

对初步检索结果使用更精确的模型进行重新排序以提升相关性的技术

RAG

• 企业知识库问答系统
• 文档智能搜索和摘要
• 客服机器人的知识增强

Reranking

• RAG 系统的检索质量优化
• 搜索引擎的结果精排
• 推荐系统的候选重排

RAG

RAG 由 Meta 在 2020 年提出，已成为企业 AI 应用的标准架构。核心流程是：将文档切分为 chunk → 用 Embedding 模型转为向量 → 存入向量数据库 → 用户提问时检索相关 chunk → 将 chunk 作为上下文喂给 LLM 生成回答。RAG 的优势在于不需要微调模型、知识可实时更新、回答可溯源。挑战包括：检索质量直接影响生成质量、chunk 切分策略影响召回率、以及多跳推理场景下的检索不足。

Reranking

Reranking 采用两阶段检索架构：第一阶段用 Embedding 快速召回 Top-K 候选（速度优先），第二阶段用 Cross-encoder 模型对候选进行精细排序（精度优先）。Cross-encoder 同时编码查询和文档，能捕捉更细粒度的语义关系，但计算成本高，只适合对少量候选重排。在 RAG 系统中加入 Reranking 通常能将回答准确率提升 10-20%，是性价比最高的优化手段之一。