缓存策略：通过最佳实践提升性能
每个现代应用都面临一个基本矛盾：用户要求亚毫秒级响应，而数据库和API在重读负载下却力不从心。缓存通过将频繁访问的数据存储在高速度层来解决这一问题，从而大幅降低延迟和数据库压力。要理解什么是缓存以及如何有效使用它，你必须超越简单的设置，进入策略性实施——选择合适的模式、管理失效，并将缓存视为关键基础设施而非事后补救。
你将学到什么
通过本文，你将理解支撑高扩展系统的核心缓存策略，从旁路缓存到写后缓存。你将学会如何识别合适的缓存候选对象，避免惊群效应等常见陷阱，并设计一种平衡性能与数据新鲜度的分层方法。最重要的收获是：有效的缓存与其说是最大化命中率，不如说是控制故障模式，并在负载下刻意设计正确性。
构建思维模型：缓存什么以及为什么
在选择策略之前，你需要一个清晰的框架来决定什么应该放入缓存。一个好的缓存候选对象通常满足以下大部分条件：计算成本高（慢CPU、繁重的数据库连接、外部API调用）、频繁请求、跨多个请求可重用且键基数低。数据应相对稳定或能容忍一定程度的过时，并且失效可以通过TTL或明确的更新触发器直接处理。
相反，要非常小心地缓存具有高基数键（每个用户或每个页面的排列导致大部分未命中）、高度可变且正确性要求新鲜度的数据，或个性化/权限化内容（键错误可能导致数据泄露）。对于分页端点有一个特殊规则：首先缓存第1页和常见过滤器，因为深层页面自然重用较少。
核心缓存策略：模式与权衡
有效的缓存依赖于定义应用如何与缓存及数据源交互的模式。理解这些模式是回答什么是缓存以及如何有效使用它在你特定上下文中的关键。
旁路缓存（惰性加载）
最常见且灵活的模式，旁路缓存将所有决策留给应用。在读取未命中时，应用查询数据库并填充缓存。在写入时，应用更新数据库并使缓存条目失效。这种方法确保缓存只包含请求过的数据，避免浪费预加载。然而，未缓存数据的首次请求会遭受延迟，且如果没有仔细失效，过时数据可能持续存在。
通读缓存
在此模式中，缓存本身在未命中时从数据库获取数据，存储结果后再返回给应用。这集中了加载逻辑，减少了应用样板代码，并确保任何未命中都成为透明预热缓存的机会。它最适合具有一致访问模式的读密集型应用，但可能向应用层隐藏昂贵的后端延迟峰值。
通写与写后缓存
通写缓存每次写入时同步更新缓存和数据库。这确保了即时一致性——写入后的读取总是看到最新数据——但增加了写入延迟。它非常适合银行应用或库存系统，其中正确性至关重要。
写后（或回写）缓存优先考虑速度：应用写入缓存，缓存异步将更改刷新到数据库。这显著提高了写入吞吐量，并有助于吸收流量峰值，但如果缓存未持久化就失败，则存在数据丢失风险。仅对可重建或低风险数据使用此模式，并配合持久队列和幂等写入。
预刷新缓存
为了保持热键活跃，预刷新缓存在TTL过期前主动重新加载缓存数据。它不会让热门条目过期并导致一波未命中，而是在后台更新它们，同时用户继续获得低延迟命中。这对于具有可预测热点的数据特别有效，如畅销产品或特色内容。
| 模式 | 读取路径 | 写入路径 | 最适合 | 权衡 |
|---|---|---|---|---|
| 旁路缓存 | 应用检查缓存，未命中则查DB | 写入DB，使缓存失效 | 读密集型工作负载 | 灵活性；手动失效逻辑 |
| 通读缓存 | 缓存未命中时从DB获取 | 同上 | 共享缓存逻辑 | 集中加载；隐藏未命中延迟 |
| 通写缓存 | 缓存始终最新 | 写入缓存，同步写入DB | 最近写入的新鲜读取 | 一致性更简单；增加写入延迟 |
| 写后缓存 | 缓存立即服务写入 | 异步批量写入DB | 高写入吞吐量 | 最终一致性；数据丢失风险 |
| 旁路缓存 | 应用检查缓存，未命中则查DB | 写入DB，使缓存失效 | 读密集型工作负载 | 灵活性；手动失效逻辑 |
避免惊群效应：踩踏保护
最危险的缓存故障之一是惊群效应或狗堆效应。当热门缓存条目过期，数千个并发请求未命中缓存，全部冲击数据库重新计算值时发生。由此产生的负载峰值可能级联导致超时和中断。
缓解措施至关重要。请求合并（也称为单次飞行）确保只有一个工作线程重新生成缺失的键，而其他线程等待或接收过时数据。提供过时数据同时重新验证允许缓存返回稍旧的数据，同时在后台刷新，完全避免同步未命中。TTL抖动随机化不同服务器上的过期时间，防止它们同时过期。
运维卓越：可观测性与失效
无法观测的缓存是一种负债。为你的缓存添加仪表，跟踪每个端点的命中/未命中率、命中和未命中的P95和P99延迟，以及逐出计数。高全局命中率可能隐藏单个端点熔断你的数据库——深入键级指标。
失效仍然是计算机科学中最困难的问题之一。除了简单的TTL，设计明确的策略。事件驱动清除在底层数据变化时删除或更新缓存条目。版本化键在更新时增加版本号，自动淘汰旧条目。基于标签的失效允许你使相关响应组失效，而无需枚举每个URL。关键是拥有一个主要的失效机制，并将TTL作为安全网。
常见问题
什么是缓存以及如何在微服务架构中有效使用它？ 在微服务中，将缓存边界与服务所有权对齐。每个服务缓存自己的领域数据，根据其SLA应用不同的模式。优先使用具有清晰契约的领域级缓存；对于共享数据，使用具有权威读取的专用数据服务。避免跨服务缓存，这会使所有权和失效复杂化。
如何在Redis和内存缓存之间选择？ 对于极小、极热的数据集，使用进程内缓存（如.NET的IMemoryCache或Java的Caffeine），其中亚毫秒延迟至关重要且你能容忍节点本地状态。当扩展到单个实例之外或需要集群范围的一致性时，使用分布式缓存如Redis。许多团队结合两者：例如，.NET 9的HybridCache提供了一个双层缓存，在一个API后面包含本地L1和分布式L2。
应该追求什么样的缓存命中率？ 没有通用的“好”命中率——它必须与你对每个端点的期望一致。对于只有第1页被缓存的分页端点，75%的未命中率可能完全正常，如果那代表用户很少访问的深层页面。目标不是100%命中；而是在用户可见的正确性在可接受范围内时，最小化昂贵的工作。
可以缓存经过身份验证或个性化的响应吗？ 可以，但要小心。按用户或权限集缓存，保持TTL短，并痴迷于缓存键设计以避免数据泄露。确保缓存键包含用户ID或权限令牌。作为一般规则，永远不要缓存个人身份信息（PII），并限制对缓存的访问，只有应用才能与之交互。
如何防止惊群效应问题？ 使用三种互补技术实现踩踏保护：请求合并（一个进程重新生成缓存，其他进程等待）、提供过时数据同时重新验证（返回旧数据并在后台刷新），以及向TTL添加抖动，使条目在不同服务器上不同时间过期。单次飞行机制以最少的努力带来最大的稳定性提升。
来源
- Sentry Blog. AI驱动的缓存策略与仪表化。(2026).
- Cleverence. 通读与通写与预刷新与写后缓存。(2026).
- DevX. 高流量应用的缓存策略。(2025).
- DevX. 数据库缓存模式用于性能优化。(2025).
- Redis. 为什么你的缓存策略可能拖你后腿。(2025).
- Devart. C#中的缓存：.NET性能与可扩展性完全指南。(2025).
- TechTarget. API缓存策略与最佳实践。(2025).
- Forbes. 提高运营性能和成本效率的缓存策略。(2025).
— Editorial Team
暂无评论。