幻觉（Hallucination）是大语言模型（LLM）生成看似合理但事实错误、无中生有或逻辑矛盾内容的现象，如编造不存在的研究、虚构人物言论、捏造统计数据等。这不仅影响用户体验，更在医疗、法律、金融等高风险场景中带来严重后果。虽然无法完全消除幻觉，但通过精心设计提示词（Prompt），可显著降低其发生概率。本文系统梳理七类核心策略，助你构建更可靠、可信赖的 AI 应用。
一、明确指令：禁止编造，强调事实依据
最直接的方式是在 Prompt 中显式禁止模型猜测或虚构，并要求其基于已知信息作答。
✅ 推荐指令：
- “仅根据提供的资料回答，不要推测或补充未提及的信息。”
- “如果你不知道答案，请回答‘信息不足，无法确定’。”
- “禁止编造数据、引用不存在的文献或虚构细节。”
示例：
你是一个严谨的医学顾问。以下是一份患者病历摘要：
“患者，男，45岁，高血压病史5年……”
请仅基于上述内容回答问题。若信息不足，请明确说明。
→ 避免模型自行“补充”用药建议或诊断结论。
二、提供可靠上下文：用 RAG 锚定事实
检索增强生成（RAG）是减少幻觉的黄金标准。通过将权威外部知识（如数据库、文档、网页）作为上下文注入 Prompt，让模型“有据可依”。
Prompt 结构：
你是一个客服助手。请根据以下官方产品文档回答用户问题：
---
【产品文档】
Qwen 是阿里巴巴推出的开源大模型系列，最新版本为 Qwen-Max……
---
用户问题：Qwen 最新版本是什么？
✅ 效果：模型倾向于引用文档内容，而非依赖可能过时的内部知识。
💡 关键：确保检索结果相关、权威、时效性强，否则会引入“垃圾进，垃圾出”风险。
三、限制输出范围：缩小“自由发挥”空间
通过结构化输出约束，减少模型生成开放性文本的机会。
方法：
- 要求输出为 JSON / 表格 / 列表；
- 限定选项（如“从 A/B/C 中选择”）；
- 强制字段验证（如“日期格式：YYYY-MM-DD”）。
示例：
请从以下选项中选择正确答案：
A. 光速是 3×10⁸ m/s
B. 光速是 3×10⁵ m/s
C. 光速是 3×10¹⁰ m/s
→ 比开放问答更难产生幻觉。
四、启用“不确定即拒绝”机制
训练模型在置信度低时主动承认无知，而非强行回答。
Prompt 设计：
“如果你对答案不确定，或信息不足以得出结论，请回复：‘根据现有信息无法确定。’ 不要猜测。”
配合 CoT + 自洽性 可进一步识别低置信度场景：
“若多条推理路径得出不同结论，请说明存在分歧。”
五、角色与行为约束：设定专业边界
通过系统提示（System Prompt）赋予 AI 特定专业角色，并限制其越界。
示例（系统消息）：
“你是一名持证律师，仅能基于《中华人民共和国民法典》回答问题。不得提供其他法域意见，不得推测未明确规定的条款。”
→ 角色约束天然抑制“跨界编造”。
六、分步验证：结合 CoT 与工具调用
在复杂任务中，将推理拆解为可验证的子步骤，并通过外部工具校验关键节点。
示例（数学计算）：
步骤1：提取问题中的数值 → [200, 15%]
步骤2：计算折扣金额 → 调用 calculator(200 * 0.15) = 30
步骤3：最终价格 = 200 – 30 = 170
✅ 优势：数值计算由确定性工具完成，避免模型“心算出错”。
现代框架（如 LangChain、LlamaIndex）支持 Function Calling，自动执行并回填结果。
七、后处理与人工规则兜底
即使优化 Prompt，仍需工程化兜底机制：
- 关键词过滤：屏蔽“据悉”“研究表明”等模糊引用；
- 正则校验：验证电话、日期、邮箱等格式；
- 事实核查 API：对接知识图谱或搜索引擎验证实体；
- 人工审核队列：对高风险回答（如医疗建议）触发人工复核。
常见误区与注意事项
| 误区 | 风险 | 正确做法 |
|---|---|---|
| “模型知道一切” | 过度信任导致幻觉传播 | 明确模型知识截止日期（如“我的知识截至2023年”） |
| 仅依赖用户提示 | 用户可能诱导幻觉 | 在系统层设置全局安全策略 |
| 忽略输出格式 | 自由文本易掺杂虚构 | 强制结构化输出 + 字段约束 |
| 未处理模糊问题 | 模型被迫“脑补” | 主动澄清或拒绝回答 |
总结：构建“防幻觉”提示体系
减少幻觉不是单一技巧，而是一套多层次防御策略：
- 源头控制：用 RAG 提供真实上下文；
- 行为约束：通过角色+指令禁止编造；
- 过程监督：用 CoT + 工具调用确保中间步骤可靠；
- 出口过滤：结构化输出 + 后处理校验。
核心原则：
“不给模型猜的机会，只给它说事实的空间。”
在实际项目中，建议优先实施 RAG + 明确指令 + 结构化输出，这三项组合可解决 80% 以上的常见幻觉问题。对于关键应用，再叠加自洽性验证与人工审核机制，构建高可信 AI 系统。
