为了降低下游依赖的压力,很多业务里都会加上本地缓存,依托进程内存把高频数据放进来,避开远程调用。上手简单,几行代码就能实现,可线上很多诡异抖动、数据不一致问题,根源都不是缓存本身,而是大家低估了本地缓存和分布式环境之间的冲突。
本地缓存最直观的优势是延迟极低,没有网络往返,开销远小于 Redis 这类远程缓存。适合配置项、基础字典、静态基础数据这类改动频率很低、读取量巨大的内容。但它的局限与生俱来:缓存是分散在每一个服务实例内存里的,实例之间互相隔离。同一个 key,A 实例已经更新,B 实例还拿着旧数据,天然就存在数据不一致窗口。
不少团队采用定时刷新的策略,每隔一段时间全量拉取一次数据更新缓存。这个方案实现成本最低,也是踩坑最多的。刷新周期怎么定?周期太短,大量实例同时发起拉取请求,瞬间对数据源形成一波集中冲击,也就是缓存雪崩的变体;周期太长,数据变更之后,各个实例要等很久才能同步,业务容忍不了脏数据。还有一种情况,所有实例的刷新时间完全对齐,同一时刻批量失效、批量回源,流量尖峰直接打垮数据库或者下游接口。
为了缓解集中刷新,有人会给刷新时间加随机偏移。这个办法能打散回源请求,但无法消除不一致窗口。如果业务对实时性要求高,单纯定时刷新就不再适用。这时很多人会引入消息通知机制,数据变更时推送消息,收到消息的实例主动失效对应缓存 key。这套方案看起来很完美,可消息丢包、消息乱序、实例重启错过消息,都会导致部分实例缓存永久脏数据,需要定时刷新作为兜底,不能只依靠消息。
内存容量是另一个隐形约束。本地缓存存在进程内存里,没有自动淘汰策略的时候,随着 key 不断增加,内存持续上涨,最终触发 OOM。所以几乎所有本地缓存都需要淘汰策略,常见的 LRU、LFU。但淘汰策略会带来新问题:有些低频但是必须存在的数据,可能被热点数据挤掉,触发意外回源;如果缓存 value 很大,少量几个大对象就会吃掉大量内存,淘汰逻辑很难精准控制。
还有实例扩缩容带来的冷启动问题。新增实例上线之后,本地缓存是空的,所有请求都会直接回源。如果此时流量直接切过来,新实例会持续大量访问下游,瞬间形成流量冲击。常见的优化思路是预热,在服务启动阶段主动拉取热点数据填充缓存。但预热也有边界,热点数据本身是动态变化的,很难一次性把所有需要的数据全部加载完成,预热只能覆盖一部分场景。
序列化和对象引用问题,在本地缓存里也经常被忽略。远程缓存存取要序列化,本地缓存很多人直接存原始对象引用。一旦业务代码修改缓存里对象的属性,缓存里的数据就被悄无声息篡改,其他请求读到脏数据。这个问题隐蔽性极强,没有日志,没有报错,只有偶发的数据异常,排查周期很长。稳妥做法是写入缓存时做一份深拷贝,隔离对象引用。
还有监控缺失。远程缓存一般有独立监控面板,命中率、QPS、过期数量都能看到。本地缓存分散在各个进程,很多团队没有做埋点,不知道缓存命中率是高还是低。命中率持续偏低,缓存其实没有起到减负作用,反而增加了内存开销;命中率很高但脏数据频发,说明失效机制设计有缺陷。没有观测,就很难判断本地缓存是不是真的适合当前场景。
本地缓存和远程缓存的组合使用,同样需要权衡。很多链路会做二级缓存:先查本地,本地没有再查远程缓存,远程没有再回源数据库。这种架构延迟更好,但一致性模型更复杂。更新数据的时候,先删远程缓存还是先通知本地失效,顺序稍有偏差,就会出现新旧数据交叉覆盖。二级缓存不是万能的加速方案,适合读多写少、能接受短暂不一致的业务,强一致性场景并不推荐。
没有绝对好或者坏的缓存方案,本地缓存本质是用一致性换取更低的延迟。在选型之前,先确认业务能不能接受多实例短暂数据不一致,再评估内存上限、热点波动、扩缩容节奏。如果业务对数据实时性要求很高,又无法接受脏数据,本地缓存往往不是最优解。
转载自 CSDN-专业IT技术社区
原文链接:https://blog.csdn.net/itmigrate/article/details/170840756



