ChunkingvsRAG

Chunking

Chunking 是 RAG 系统的第一步：将长文档切分为适合 Embedding 和检索的小段落。切分策略直接影响检索质量——切太大信息稀释，切太小丢失上下文。

RAG

RAG 是当前最实用的 LLM 增强技术：先从知识库中检索相关文档，再将检索结果作为上下文喂给 LLM 生成回答。这大幅减少了幻觉问题，让 AI 的回答有据可查。

Chunking

• chunk 大小通常在 256-1024 tokens 之间
• 按语义边界切分优于固定长度切分
• overlap（重叠）可以减少信息丢失

RAG

• 解决 LLM 幻觉问题的最实用方案
• 不需要微调模型，知识库更新即时生效
• 核心流程：索引 → 检索 → 生成

Chunking

将长文档按照特定策略切分为适合检索和处理的小段落的预处理技术

RAG

通过先检索外部知识库中的相关信息再将其作为上下文输入大语言模型来生成更准确回答的技术架构

Chunking

• RAG 系统的文档预处理
• 长文档的结构化索引
• 知识库的内容组织

RAG

• 企业知识库问答系统
• 文档智能搜索和摘要
• 客服机器人的知识增强

Chunking

Chunking 看似简单但对 RAG 效果影响巨大。常见策略包括：固定长度切分（简单但可能切断语义）、按段落/章节切分（保持语义完整但大小不均）、递归切分（先按大结构再按小结构）、语义切分（用模型判断语义边界）。chunk 之间通常设置 10-20% 的 overlap 以避免边界信息丢失。最佳 chunk 大小取决于文档类型和查询模式，需要实验调优。

RAG

RAG 由 Meta 在 2020 年提出，已成为企业 AI 应用的标准架构。核心流程是：将文档切分为 chunk → 用 Embedding 模型转为向量 → 存入向量数据库 → 用户提问时检索相关 chunk → 将 chunk 作为上下文喂给 LLM 生成回答。RAG 的优势在于不需要微调模型、知识可实时更新、回答可溯源。挑战包括：检索质量直接影响生成质量、chunk 切分策略影响召回率、以及多跳推理场景下的检索不足。