AI 模型提示中的 XML 标签

XML 标签：精确控制提示词注意力的利器

基于 Transformer 的模型会一次性将注意力分散到整个提示词上下文，导致指令、数据和示例之间的界限模糊。XML 标签创建明确的语义锚点，加强块内连接，减少解释歧义。这在长对话中尤为关键，此时稀疏注意力机制开始生效。

Transformer 中的注意力机制

Transformer 为所有输入 token 计算注意力矩阵：每个 token 评估其他 token 的相关性。全注意力机制随上下文长度呈二次方增长，因此长输入会切换到稀疏注意力——token 仅与附近邻居和全局锚点交互。

没有结构化提示词会变得模糊：模型浪费资源去猜测边界。XML 标签形成配对簇群，内部注意力高度集中。<data> 内的 token 彼此强关联，但与 <instructions> 弱关联。

使用嵌套标签，能自动构建权重层次：外层标签包围簇群，内层处理子结构。这充分利用了预训练中对 HTML/XML/代码的熟悉，配对标签自然标记语义边界。

有标签 vs 无标签的提示词对比

看看相同内容的不同处理方式：

无 XML：

你是分析师。这是三月销售数据。用三句话写总结。
数据：1200笔交易，平均客单价850索姆，流失率12%。
优秀总结示例：简洁、带数字、无主观判断。

有 XML：

<role>你是数据分析师</role>
<data>
  1200笔交易，平均客单价850索姆，流失率12%
</data>
<instructions>
  用三句话写总结
</instructions>
<example>
  简洁、带数字、无主观判断
</example>

第一种情况，注意力均匀分散，模型自行猜测段落。第二种，标签锁定焦点：<data> 在局部紧密聚簇，无论位置如何。

短提示词（<512 token）差异不大。但在2k+ token 或聊天场景中，效果显著：每次交互累积上下文，没有锚点稀疏注意力会断裂链接。

长上下文中的应用

经过5+轮迭代后，会话上下文达到稀疏注意力阈值。早期对话 token 与末尾弱连接，除非有结构信标。XML 标签确保块内密集局部注意力，同时保留全局结构。

这种结构投资于会话稳定性：早期指令在新数据下保持权重。类似于文档处理的 GRACE 方法——标签定义模型的责任区。

实用 XML 标签模式

混合内容时使用标签。以下是核心模板：

• 指令 + 数据：

```

<instructions>任务</instructions>

<data>事实</data>

```

• 示例：

```

<examples>

<example>输入：... 输出：...</example>

</examples>

```

• 角色 + 约束：

```

<role>分析师</role>

<task>分析</task>

<constraints>3句话，用数字</constraints>

```

这些模式在 Claude 4.6 等模型中有效：Anthropic 推荐在指令、上下文、变量混杂的模糊提示词中使用 XML。

关键要点

• XML 标签提升块内局部注意力，减少边界猜测。
• 长上下文（>2k token）稀疏注意力场景下至关重要。
• 嵌套自动构建权重层次。
• 适用于角色、数据、示例和约束。
• Anthropic 建议：混合提示词直接用，无需额外解释。

— Editorial Team