AI专业术语
Prompt Injection
提示注入 · AI 时代的 SQL 注入
Prompt Engineering应用安全
PROM
- 定义
- Prompt Injection是AI领域的专业术语。Prompt Injection 是 LLM 应用面临的最大安全威胁——攻击者通过精心构造的输入让模型忽略系统指令、泄露敏感信息或执行恶意操作。
最后更新：2026-03-18
什么是Prompt Injection？
Prompt Injection 是 LLM 应用面临的最大安全威胁——攻击者通过精心构造的输入让模型忽略系统指令、泄露敏感信息或执行恶意操作。目前没有完美的防御方案。
- LLM 应用的头号安全威胁
- 类似于传统 Web 安全中的 SQL 注入
- 目前没有完美的防御方案，只能多层缓解
Prompt Injection详解
Prompt Injection 分为直接注入（用户直接输入恶意 Prompt）和间接注入（恶意内容嵌入在模型处理的外部数据中）。攻击者可以让模型忽略 System Prompt 的限制、泄露系统指令、或执行非预期的工具调用。防御手段包括：输入过滤、输出检测、权限最小化、以及使用专门的安全模型做前置检查。但由于 LLM 的本质是处理自然语言，完全防御 Prompt Injection 在理论上可能不可能。
Prompt Injection的应用场景
正式定义
通过恶意构造的输入操纵大语言模型绕过安全限制或执行非预期行为的攻击技术
应用场景
- AI 应用的安全评估
- LLM 系统的红队测试
- 安全防御策略的设计
常见误区
- Prompt Injection 不只是学术问题，已有真实攻击案例
- 防御不能只靠 Prompt，需要多层安全架构
- 间接注入比直接注入更难防御
实际案例
📌 间接 Prompt Injection
攻击者在网页中隐藏恶意指令，当 AI 助手浏览该网页时，隐藏指令被执行，导致 AI 将用户的私人邮件转发给攻击者。这种间接注入攻击已在多个 AI 产品中被验证。
Prompt Injection的参考来源
关于Prompt Injection的常见问题
- Prompt Injection 和传统注入攻击有什么区别
- 传统注入（如 SQL 注入）利用代码解析漏洞，Prompt Injection 利用 LLM 无法区分指令和数据的特性。
- 怎么防御 Prompt Injection
- 常用方法包括输入过滤、指令与数据分离、输出验证、使用专门的安全模型检测，但目前没有完美方案。