AI 幻觉：为什么这不是 Bug，而是思考的特性

# 为什么 AI 会产生幻觉：人类认知缺陷作为大语言模型的范式

大语言模型中的幻觉并非单纯的技术故障——它们反映了人类思维的基本认知局限性。开发者试图通过 RAG 和严格提示来消除这些问题，但根源更深：我们正在将自身的系统性感知和推理错误嵌入机器中。理解这一机制，能让我们停止纠缠症状，转而设计更稳健的交互架构。

临床类比：当“bug”成为进化特征

人类大脑并非优化于准确性，而是速度和资源效率。前额叶皮层负责注意力控制和任务约束，需要消耗大量代谢能量。这就是为什么 System 1（Kahneman 所述）会自动用统计上更可能的联想取代复杂计算——即使这违反了明确约束。例如，给出指令“我的名字是 Olga，在家叫 Alena”，人们常常回应“你是 Lena”，因为“Alena → Yelena → Lena”这一联想链在他们的联想记忆中权重更高，胜过字面规则遵守。

这不是用户错误——这是认知系统的标准机制。在心理学中，这种行为被称为_草率下结论_——基于不完整数据做出的过早判断。在自然环境中，这种算法对生存有益：宁可错判快速反应，也胜过久思而错失威胁。但在 AI 交互场景中，它就成了冲突源头。

为什么 RAG 和严格提示无法解决问题

开发者引入检索增强生成（RAG）并强化提示，希望“禁止”幻觉。然而，这些方法只治标不治本。模型仍被训练为最大化令牌序列的似然性，而非遵守逻辑或事实约束。当上下文窗口超载或相关数据缺失时，模型会选择最可能的路径——即使这与指令矛盾。

问题还因以下事实而加剧：

• 在互联网语料上的训练强化了统计关联，而非逻辑连接。
• 针对特定任务的微调并未重定义核心预测架构。
• 标注数据的真人标注员自身也易受认知偏差影响。

如何设计考虑认知局限性的界面

与其要求模型“不要幻觉”，不如设计补偿其（以及我们）弱点的交互方式。以下是关键原则：

• 明确的不确定性管理。 模型应能回应“我不知道”或“需要澄清问题”——类似于人类提示“ unclear—ask”。这能降低生成虚假却自信答案的风险。
• 多阶段验证。 任务约束应在不同层面重复：系统提示、用户查询和输出后处理。
• 上下文隔离。 对于需要严格遵守规则的任务（如法律或医疗查询），模型应在受限模式下运行——禁用外部上下文并对输出施加硬约束。
• 实时反馈。 界面应允许用户即时标记上下文违规——系统需据此调整，而非忽略。

关键要点

• AI 幻觉不是 bug；它们是模仿人类思维（本身易扭曲）的副产品。
• 用 RAG 和复杂提示对抗幻觉无法根除原因——它仅掩盖症状。
• 有效方案在于界面和工作流设计，而非单纯模型再训练。
• 人类认知偏差是构建更具韧性 AI 系统的宝贵数据源。
• 拥抱“受控不确定性”而非“完美准确性”，能让 AI 交互更可预测和安全。

认识到 AI 不仅复制我们的知识，还复制我们的错误，能改变我们的使用方式。与其向模型要求不可能的事——完美逻辑——不如学会构建适应其本质的过程。这不是妥协，而是向更成熟的人机交互范式的转变。

— Editorial Team