本文系统性拆解分流判定缓存键怎么选的完整实操要点。
上个月一个客户来问:他们的分流服务日均请求量大概在八十万到一百万之间,部署在四台独立服务器上,Nginx加PHP-FPM,验收要求是同一访客在十分钟内看到的页面版本必须一致。他们原本的缓存键用的是访客IP加User-Agent的哈希,上线两周后陆续收到反馈——同一个WiFi下的两个人,一个看到的是标准页,另一个看到的却是完整页。这个问题追下去,根子不在判定逻辑,在缓存键的字段选择上。分流判定缓存键怎么选,直接决定了缓存命中率、版本一致性和后续排查难度,值得单独拆开讲。
缓存键的本质:它决定了什么被复用
分流判定本质是一次函数调用:输入是访客特征,输出是页面版本标识。缓存键就是这个函数输入的指纹。键选得窄,命中率低,每次请求都要走完整判定链;键选得宽,不同访客的特征被折叠成同一个键,判定结果被错误复用,版本漂移就出现了。
这里有个容易忽略的点:缓存键的字段并不需要和判定逻辑的输入完全一致。判定逻辑可能读了十几个信号,但缓存键只需要挑其中能稳定区分访客群体的那几个。多放字段会增加键的基数,压低命中率;少放字段会让本应不同的访客共享结果。
键字段的取舍标准
一个字段适不适合进缓存键,看三条:同一访客在会话周期内该字段是否稳定、该字段是否参与判定结果的分叉、该字段的取值分布是否足够离散。比如User-Agent在会话内稳定,也参与设备类型判定,但它的取值分布很集中,单独用它做键会把大量访客折叠到一起。
三类缓存键结构对比
第一类:单信号键
只用IP,或者只用Cookie中的会话标识。
适用条件很明确:访客来源高度集中、判定逻辑只依赖单一维度、缓存命中率比版本精度更重要。比如某些只做地域维度分支的场景,IP段本身就是判定依据,用它做键逻辑自洽。
不适用的情况也明显:一旦判定逻辑引入了设备、时段、来源渠道等第二个维度,单信号键就会把不同分组的访客混在一起。上面那个客户的问题就出在这里——IP相同但设备不同,判定结果本应不同,缓存却直接返回了第一个请求的结果。
下一步检查什么:如果你的判定分支超过两个维度,先把缓存键的字段列表和判定逻辑的输入列表并排列出来,看哪些输入在分叉点上起了作用,这些输入对应的稳定字段就应该进键。
第二类:复合信号键
IP加UA哈希,或者会话标识加设备指纹片段。
这是目前用得最多的一类。它在命中率和精度之间取了一个折中。但复合键的坑在于字段之间的稳定性不一致——会话标识由Cookie承载,Cookie被清理或跨设备时它就断了;IP在移动网络下会漂移。两个不稳定的字段拼在一起,键的失效率是叠加的。
有个做教育投放的团队遇到过这种情况:他们的缓存键是会话标识加UA,移动端用户从WiFi切到4G时IP变了但会话标识没变,按理说键应该稳定,可他们的会话标识是绑定IP生成的,IP一变会话标识就重建,缓存键跟着变,十分钟内页面版本跳了三次。
复合键的调整顺序建议是:先固定最稳定的那个字段,再逐步加入第二个字段,每加一个跑一轮命中率和版本一致性的对比。不要一次性从单信号键跳到四字段复合键,中间过程没法归因。
第三类:分层键加版本后缀
在复合键的基础上,追加一个规则库版本号或配置版本号作为后缀。
这类键解决的是一个特定问题:规则库热更新后,旧缓存不应该继续命中。如果不加版本后缀,规则改了但缓存键没变,老结果会继续返回,直到缓存自然过期。这个窗口期可能几分钟,也可能几十分钟,取决于TTL设置。
适用条件:规则库更新频率高于缓存TTL、或者对规则生效的及时性有明确验收要求。不适用的情况是规则库基本不动、缓存TTL本身就很短,加版本后缀只会让每次更新后缓存全部失效,引发一波回源尖峰。
版本后缀的粒度也值得想一下。用全局版本号最简单,但一次小改动就会让所有缓存失效。用规则分支的版本号做后缀,失效范围能收敛到受影响的那些分支,代价是键的维护逻辑复杂一些。
缓存键切换的安全顺序
不管从哪类键换到哪类键,直接全量切换的风险是:新旧键并行期间命中率骤降,回源压力翻倍,如果后端判定链本身有性能瓶颈,可能直接触发超时降级。
建议的顺序是:
- 新键结构与旧键结构并行写入,读操作仍走旧键,观察新键的基数分布是否合理。
- 切读操作到新键,但保留旧键的写入,作为回退路径。这一步观察命中率和版本一致性的变化,至少覆盖一个完整的流量波峰。
- 确认稳定后,停止旧键写入,清理旧键缓存空间。
这个顺序的核心逻辑是让每一步都有回退点。跳步的直接后果往往是回退时没有可用的旧缓存,只能全量回源。
小结
缓存键的选择不是一个纯技术参数问题,它和判定逻辑的分叉结构、规则库的更新节奏、验收标准里的版本一致性要求都绑在一起。单信号键适合判定维度单一的场景,复合键适合多维度但字段稳定性可接受的场景,带版本后缀的分层键适合规则频繁更新的场景。切换时按并行写入、切读、停写的三步走,每一步留回退点。
常见问题
分流缓存键的字段越多命中率就越低吗
大体上是这个趋势,但不绝对。关键是看新增字段的取值分布。如果新增字段只有两三个取值,而且和已有字段高度相关,那它对键基数的放大作用很有限。反过来,一个取值很离散的字段加进去,命中率会明显往下掉。
缓存键里放IP会不会导致移动端用户频繁失效
这个要看情况。移动网络下IP漂移确实存在,但漂移频率没有想象中那么高。如果判定逻辑本身不依赖IP做分叉,可以考虑用会话标识替代IP进键。顺带说一句,我一般还会在日志里单独记一下IP变化频率,方便判断要不要调整。
规则库更新后旧缓存要手动清吗
如果缓存键带了版本后缀,不需要手动清,新版本号自然对应新键空间,旧键会随TTL过期。如果没带版本后缀,要么手动清,要么把TTL设得足够短。手动清的风险是清的那一瞬间回源量会冲高。
缓存键改了之后版本漂移反而变多了是怎么回事
大概率是新键的某个字段在会话周期内不稳定,导致同一个访客在不同请求上算出不同的键。先查新加入的字段有没有会话内跳变的情况,尤其是时间戳、请求序号这类每次请求都变的字段,它们不该进缓存键。
延伸阅读
缓存键结构定了之后,下一步要判断的是这套分流机制本身值不值得投入。这篇内容从风险和收益的角度做了拆解,可以帮你把技术决策放回业务语境里看。