CPU

CPU 是计算机中执行指令和处理数据的核心芯片，由少量高性能核心组成（通常 4-128 核），擅长复杂的分支逻辑、顺序计算和操作系统调度。在 AI 时代，CPU 仍然负责数据预处理、模型加载和系统协调，但矩阵乘法等并行密集型任务已交给 GPU、TPU 等专用加速器。

• 少量高性能核心（4-128 核），擅长复杂逻辑和低延迟顺序任务
• 通用性最强——能运行任何程序，但在大规模并行计算上效率远低于 GPU/TPU
• AI 工作流中仍不可或缺：数据预处理、模型编排、系统调度都依赖 CPU

CPU 采用复杂的流水线、分支预测、乱序执行和多级缓存设计，目标是让单个线程尽可能快地执行。Intel 和 AMD 的最新服务器 CPU 已达 128 核以上，但与 GPU 的数千个核心相比仍属「少而精」。在 AI 推理中，CPU 适合小模型和低吞吐场景；在训练中，CPU 主要负责数据加载和梯度同步等辅助任务。随着 NPU 被集成到消费级 CPU 中（如 Intel Meteor Lake、Apple M4），CPU 正在从「纯通用处理器」向「CPU+NPU 异构芯片」演进。

• 社区
  KAD: CPU vs GPU vs TPU in 20262026-04

AI 训练为什么不用 CPU

AI 训练的核心是大规模矩阵乘法，需要数千个并行计算单元。CPU 只有几十到上百个核心，并行度远不如 GPU（数千核）或 TPU（专用矩阵单元），效率差距可达 10-100 倍。

CPU 和 GPU 的核心区别是什么

CPU 是少量高性能核心，擅长复杂逻辑和顺序任务；GPU 是大量简单核心，擅长大规模并行计算。打个比方：CPU 是几个数学教授，GPU 是几千个小学生同时做加法。