Chain of ThoughtvsPrompt Engineering

Chain of Thought

Chain of Thought（CoT）让 LLM 在回答前先展示推理过程，就像学生做数学题要写解题步骤一样。简单加一句「让我们一步步思考」就能大幅提升复杂推理任务的准确率。

Prompt Engineering

Prompt Engineering 是与 LLM 高效沟通的技术——同样的问题，不同的提示词可能得到天差地别的回答。好的 Prompt 能让 GPT-3.5 的输出质量超过糟糕 Prompt 下的 GPT-4。

Chain of Thought

• Google 在 2022 年提出，是 Prompt Engineering 的里程碑
• 在数学和逻辑推理任务上提升最显著
• DeepSeek-R1 和 o1 将 CoT 内化到了模型训练中

Prompt Engineering

• Prompt 质量对输出的影响可能超过模型选择
• 核心技巧：角色设定、Few-shot、CoT、结构化输出
• 随着模型进步，Prompt Engineering 的门槛在降低

Chain of Thought

通过引导大语言模型输出中间推理步骤来提升复杂任务准确率的提示技术

Prompt Engineering

通过设计和优化输入提示词来引导大语言模型产生期望输出的系统方法

Chain of Thought

• 数学和逻辑推理问题
• 多步骤决策和规划
• 复杂问题的分析和解答

Prompt Engineering

• 优化 AI 应用的输出质量
• 构建可靠的 LLM 工作流
• AI 产品的用户体验设计

Chain of Thought

Chain of Thought 由 Google 在 2022 年提出，核心发现是：让 LLM 输出中间推理步骤能显著提升复杂任务的准确率。在 GSM8K 数学基准上，CoT 将 PaLM-540B 的准确率从 18% 提升到 57%。CoT 的进化方向包括：Self-Consistency（多次采样取多数）、Tree of Thought（树状搜索）、以及 DeepSeek-R1 和 o1 将 CoT 内化到模型训练中，让模型自动进行深度推理。

Prompt Engineering

Prompt Engineering 是 LLM 时代的核心技能，通过精心设计输入提示来引导模型产生期望的输出。关键技巧包括：角色设定（让模型扮演专家）、Few-shot（提供示例）、Chain of Thought（引导逐步推理）、结构化输出（指定输出格式）。随着模型能力提升，简单任务的 Prompt Engineering 门槛在降低，但复杂任务（如 Agent 编排、多步推理）的 Prompt 设计仍然是关键差异化因素。