返回首页

Caveman LLM:令牌节省高达 87%

LLM 的 Caveman 风格方法平均将输出令牌减少 65%,保持技术准确性。基准测试显示在 React 和 PostgreSQL 等任务上节省高达 87%。另外压缩输入内存文件 45%。

Caveman LLM:减少 87% 令牌而不丢失本质
Advertisement 728x90

# 原始人式 LLM 响应:令牌使用量最高削减 87%

开发者发现,将 LLM 强制采用原始人风格——短语、无冠词、无客套、无废话——平均可将输出令牌减少 65%。在调试 React 错误或配置 PostgreSQL 等任务中,节省高达 87%。准确性和技术细节保持不变,仅去除冗余表述。

React 重复渲染示例(标准响应:69 令牌):

你的 React 组件重复渲染是因为每次渲染都创建新对象引用。将内联对象作为 prop 传入,React 浅比较视其为新对象,触发重渲染。建议用 useMemo 缓存对象。

原始人风格(19 令牌):

Google AdInline article slot
每次渲染新对象引用。内联对象 prop = 新引用 = 重渲染。用 useMemo 包裹。

去除什么,保留什么

RLHF 让现代模型啰嗦:“乐意帮忙”、“一步步分析”。原始人风格过滤这些,直击核心。

| 元素 | 处理 |

|------|------|

Google AdInline article slot

| 解释 | 去冗余,留精华 |

| 代码块 | 不变 |

| 技术术语 | 保留(多态仍是多态) |

Google AdInline article slot

| 冠词(a/an/the) | 删除 |

| 客套话 | 删除 |

| 犹豫表达 | 删除 |

浪费令牌的表达:

  • “我很乐意帮你解决” — 8 令牌
  • “发生这个的原因是” — 7 令牌
  • “我建议你考虑” — 7 令牌
  • “好的,我来看看” — 10 令牌

性能基准

Claude API 测试显示节省 22% 至 87%:

| 任务 | 标准(令牌) | 原始人(令牌) | 节省 |

|------|---------------|-----------------|------|

| React 重复渲染 bug | 1180 | 159 | 87% |

| 认证中间件修复 | 704 | 121 | 83% |

| PostgreSQL 连接池 | 2347 | 380 | 84% |

| git rebase vs merge | 702 | 292 | 58% |

| 回调 → async/await | 387 | 301 | 22% |

| 微服务 vs 单体 | 446 | 310 | 30% |

| PR 安全审查 | 678 | 398 | 41% |

| Docker 多阶段构建 | 1042 | 290 | 72% |

| PostgreSQL 竞态条件 | 1200 | 232 | 81% |

| React 错误边界 | 3454 | 456 | 87% |

平均:1214 → 294 令牌,节省 65%。 解释性任务收益更大。

2026 年研究证实:简洁提升基准准确率 26 个百分点——模型避免多余词语导致的幻觉。

原始人级别

  • 轻度:无废话,仍易读。

组件重复渲染因每次创建新对象引用。内联对象 prop 浅比较失败。用 useMemo 包裹。

  • 完全:短语。

每次渲染新对象引用。内联对象 prop = 新引用 = 重渲染。用 useMemo 包裹。

  • 极限:最大压缩。

内联对象 prop → 新引用 → 重渲染。useMemo。

输入令牌压缩

Caveman Compress 将记忆文件(CLAUDE.md)改写为原始人风格,用于 Claude Code。命令:

/caveman-compress CLAUDE.md

结果:压缩版 CLAUDE.md(供模型用)+ 原版(供编辑)。

| 文件 | 压缩前(令牌) | 压缩后(令牌) | 节省 |

|------|---------------|-----------------|------|

| claude-md-preferences.md | 706 | 285 | 59.6% |

| project-notes.md | 1145 | 535 | 53.3% |

| claude-md-project.md | 1122 | 687 | 38.8% |

| todo-list.md | 627 | 388 | 38.1% |

| mixed-with-code.md | 888 | 574 | 35.4% |

平均节省 45%。 与输出原始人风格结合,优化输入输出。

关键要点

  • 输出令牌节省:平均 65%,复杂解释高达 87%。
  • 技术准确性保留:代码、术语、错误不变。
  • 三种模式,从轻度到极限,平衡简洁与可读性。
  • 输入文件压缩:CLAUDE.md 等节省 45%。
  • 研究支持:简洁提升准确率 26 个百分点。

— Editorial Team

Advertisement 728x90

继续阅读