HallucinationvsRAG

Hallucination

Hallucination 是 LLM 最大的可靠性问题——模型会自信地编造不存在的论文引用、虚构的历史事件或错误的代码逻辑。这不是 Bug，而是生成式模型的本质特征。

RAG

RAG 是当前最实用的 LLM 增强技术：先从知识库中检索相关文档，再将检索结果作为上下文喂给 LLM 生成回答。这大幅减少了幻觉问题，让 AI 的回答有据可查。

Hallucination

• 不是模型故意说谎，而是统计生成的固有缺陷
• RAG 和 Grounding 是当前最有效的缓解方案
• 完全消除幻觉在理论上可能不可能

RAG

• 解决 LLM 幻觉问题的最实用方案
• 不需要微调模型，知识库更新即时生效
• 核心流程：索引 → 检索 → 生成

Hallucination

大语言模型生成的看似合理但实际上不正确或虚构的内容

RAG

通过先检索外部知识库中的相关信息再将其作为上下文输入大语言模型来生成更准确回答的技术架构

Hallucination

• 法律和医疗等高风险场景的可靠性评估
• RAG 系统的事实性验证
• AI 生成内容的质量把控

RAG

• 企业知识库问答系统
• 文档智能搜索和摘要
• 客服机器人的知识增强

Hallucination

Hallucination 源于 LLM 的生成机制：模型基于概率分布逐 token 生成文本，当训练数据中缺乏相关知识时，模型会「创造性地」填补空白。幻觉分为两类：事实性幻觉（编造不存在的事实）和忠实性幻觉（与给定上下文矛盾）。当前缓解方案包括 RAG（用检索结果约束生成）、Chain of Thought（让模型展示推理过程）、以及后处理验证。但完全消除幻觉可能需要模型具备真正的世界模型，这是当前技术尚未解决的根本问题。

RAG

RAG 由 Meta 在 2020 年提出，已成为企业 AI 应用的标准架构。核心流程是：将文档切分为 chunk → 用 Embedding 模型转为向量 → 存入向量数据库 → 用户提问时检索相关 chunk → 将 chunk 作为上下文喂给 LLM 生成回答。RAG 的优势在于不需要微调模型、知识可实时更新、回答可溯源。挑战包括：检索质量直接影响生成质量、chunk 切分策略影响召回率、以及多跳推理场景下的检索不足。