LLM 限制：为什么 AI 没有工具就无法计数

## 基于文本的 AI 模型：LLM 能力极限与隐藏约束

当今，大语言模型 (LLM) 被广泛宣传为通用智能系统。然而，它们的真正能力本质上受到文本生成固有特性的根本限制。我们将分解说明为什么即使是先进的 AI 也无法在没有外部工具的情况下处理基本计算，以及这如何影响该技术的实际应用。

LLM 文本本质的限制：为什么需要外部工具

LLM 本质上是生成文本的神经网络。它们唯一的“原生”功能是将输入文本转换为输出文本。所有其他能力都是通过集成到模型生态系统中的工具实现的。例如，当被要求计算 44,567.456554 × 0.000004430987 时，模型不会直接计算，而是生成解释器代码：

a = 44567.456554
b = 0.000004430987
print(a*b)

这种模式阐释了一个关键原则：LLM 将任务转化为专属工具的文本描述。同样的原理也适用于：

• 语音输入：通过语音转文本转换后才到达 LLM
• 图像生成：文本提示传递给扩散模型
• 网络搜索：模型为外部 API 构建搜索查询

必须理解的是，没有这些工具，LLM 对非文本数据是“盲”的。即使在多模态系统中（GPT-4o、Gemini 2.0），图像和音频处理也是通过独立的模块在架构层面组合完成的，而不是在语言模型内部。

LLM 如何处理查询：推理与训练的区别

响应生成过程（推理）与模型训练有着根本区别。在推理过程中：

• 模型加载到 GPU 内存中，带有固定的权重表
• 推理服务器通过自回归循环输入查询
• 每步生成一个令牌，同时保留上下文
• 权重表保持不变

另一方面，训练需要通过反向传播调整权重，这在实时中是不可能的。这就是为什么用户对话不会立即改善模型——数据只能用于微调未来版本。为了将当前模型适应特定任务，会修改输入查询：

• 系统提示来设置行为规则
• RAG（检索增强生成）来注入上下文
• 思维链提示用于复杂推理

这些方法在模型的上下文窗口内运作（通常为 32K–128K 个令牌），对可处理信息量施加严格限制。

Transformer 架构：理解限制的关键

现代 LLM 基于 Transformer 架构，其中自注意力机制至关重要。与循环网络不同，Transformer 一次性处理整个上下文，从而实现：

• 检测文本中的长距离依赖
• 保留语义完整性
• 处理并行信息流

然而，这一特性也以固定上下文窗口的形式制造了“瓶颈”。超过限制会导致模型丢失对话的早期部分——这在分析长文档时尤为突出。使用动态上下文压缩的实验（如 StreamingLLM 方法）尚未完全解决这一问题。

另一个系统性限制是缺乏内置计算器。即使是像 2+2 这样的基本运算也是从训练数据中“记住”的模式，但复杂度增加（如 592×946）时，模型必须生成逐步解决方案。对于超出训练分布的任务（44,567.456554 × 0.000004430987），唯一可靠的方法是调用外部工具。

开发者关键要点

• LLM 本质上缺乏内部计算能力。所有非文本操作都需要与外部服务集成
• 模型训练和响应生成是分离的过程。任务适应只能通过修改输入查询实现
• 上下文窗口是硬性架构限制。系统设计必须考虑超过时的数据丢失
• 现代 LLM 的多模态是通过模型组合实现的，而不是统一架构
• 对于生产解决方案，通过外部工具验证结果至关重要，尤其是在数学和逻辑任务中

理解这些限制有助于避免过度工程，并基于该技术的真正优势构建高效系统。与其强迫 LLM 做它们未被设计的事情，不如设计系统，让模型与其工具之间职责明确分离。

关键要点

• LLM 是纯文本 Transformer，没有内置计算模块
• 所有非文本操作都需要与外部服务集成
• 模型训练和响应生成是根本分离的过程
• 上下文窗口决定了可处理信息的最大量
• 多模态是通过模型组合实现的，而不是单一架构

— Editorial Team