分流判定先查指纹还是先查缓存:命中率与延迟的取舍边界

分流判定中先查指纹还是先查缓存,直接影响命中率与响应延迟。本文围绕这个技术取舍展开,先给判断标准,再比较两种顺序的适用条件,最后给出选择边界与调优方向,帮助投放人员在不同流量结构下确定合理的判定顺序。

本文目录
分流判定先查指纹还是先查缓存:命中率与延迟的取舍边界 — 流程架构示意图(CloakSystem 技术指南)
分流判定先查指纹还是先查缓存:命中率与延迟的取舍边界 · 流程示意图

本文系统性拆解指纹缓存查询顺序的完整实操要点。

上个月一个客户把分流服务从两台4核8G的机器迁到一台16核32G的单机,流量结构没变,日均请求量大概在四十万上下,其中新访客占比接近三成。迁移后他们发现分流判定的P95延迟从八十多毫秒涨到了一百五十毫秒左右,同时缓存命中率掉了快十个百分点。排查了一圈,最后定位到的不是机器性能问题,而是判定链路的顺序:原来的配置是先查指纹缓存再走指纹采集,迁移时有人把顺序调成了先采集指纹再回查缓存。这个顺序差异直接改变了指纹缓存查询顺序对整体分流判定链路的影响,也把"命中率与延迟如何取舍"这个老问题重新摆到了台面上。

判断标准:先看命中率缺口还是先看延迟预算

讨论先查指纹还是先查缓存之前,得先把判断标准定下来。我的习惯是看两个指标:指纹缓存命中率和判定链路的延迟预算分配。

如果指纹缓存命中率能稳定在七成以上,说明大部分访客的指纹在缓存里有记录,那么把缓存查询前置,就能让多数请求走短路径,延迟自然低。反过来,如果命中率只有四五成,前置缓存查询的意义就有限——大量请求查完缓存还是要走完整的指纹采集流程,等于多了一次无效查询。

延迟预算这块更直接。假设整个分流判定的延迟预算是120毫秒,指纹采集本身要占60到80毫秒,缓存查询占5到10毫秒。缓存前置时,命中请求的延迟大约就是缓存查询加规则匹配,可能只要20毫秒;未命中请求则是缓存查询加采集加规则匹配,接近90毫秒。采集前置时,所有请求都要先付采集的成本,命中请求反而要多花一次缓存查询的时间。

所以判断标准可以归纳成一句话:命中率决定前置收益的上限,延迟预算决定前置成本的容忍度。

两种顺序的条件对比

把两种顺序拆开看,各自的适用条件其实挺清晰的。

缓存前置:适合命中率稳定的存量流量

缓存前置的核心假设是"多数访客的指纹已经被记录过"。这个假设在再营销受众、复访占比高的账户里通常成立。具体条件包括:

  • 指纹缓存TTL设置合理,没有因为过期导致大面积回查
  • 缓存键结构稳定,不会因为UA版本微调或参数顺序变化导致键漂移
  • 流量结构以老访客为主,新访客占比低于三成

满足这些条件时,缓存前置能把平均延迟压下来,同时减少指纹采集模块的调用次数,间接降低后端压力。

采集前置:适合新访客占比高的场景

采集前置的逻辑是"先把指纹拿到手,再决定要不要查缓存"。它的优势在于指纹信息总是最新的,不会因为缓存里存的是旧指纹而产生版本错配。适用条件包括:

  • 新访客占比超过四成,缓存命中率天然偏低
  • 业务对指纹新鲜度敏感,比如需要实时判断设备是否更换
  • 指纹采集本身很快,或者采集模块有异步化设计,不会阻塞主链路

采集前置的代价是延迟下限被抬高,因为每个请求都要先走一遍采集流程。如果采集是同步阻塞的,延迟会明显上去。

选择边界:什么情况下该切换顺序

两种顺序没有绝对优劣,关键是看边界条件有没有被触发。我一般会盯三个信号:

  1. 指纹缓存命中率连续下滑。如果命中率从七成掉到五成以下,缓存前置的收益就不成立了,这时候要么修缓存,要么临时切到采集前置。
  2. P95延迟突破预算线。如果缓存前置下P95延迟还是压不住,说明未命中请求的采集成本太高,得考虑把采集环节做异步或者提前预热缓存。
  3. 新访客占比发生结构性变化。投放账户切换行业、换素材、换落地页之后,流量结构可能突然变化,这时候原来的顺序假设可能不再成立。

切换顺序本身是个配置动作,但切换前更好先做一轮空跑验证,确认新顺序下的延迟分布和命中率变化符合预期。关于上线前的验证节奏,可以参考跳转插件部署后三阶段巡检里的检查项设计,把顺序切换当成一次小版本变更来对待。

还有一点容易被忽略:缓存键的选取会直接影响顺序切换的效果。如果缓存键本身设计得不合理,比如把请求时间戳也编进键里,那命中率天然就上不去,这时候换顺序也救不了。关于键结构的选择,分流判定缓存键怎么选那篇里有三类结构的对比,可以对照着检查自己的键设计。

常见问题

先查指纹缓存会不会导致指纹过期了还在用?

这个要看TTL怎么设。如果TTL设得比较长,比如几小时,那确实可能用到旧指纹。但指纹本身的变化频率没那么高,除非设备换了或者浏览器大版本升级。我的做法是把TTL控制在半小时到一小时之间,同时给指纹加一个版本号,版本变了就强制回查。这样既保住了命中率,也不会用太旧的数据。

切换判定顺序需要停服吗?

说白了,大多数情况下不用。判定顺序通常是个配置项,改完热加载就能生效。但稳妥起见,还是建议在流量低谷期操作,并且准备好回滚配置。顺带说一句,我一般会先在灰度环境跑一遍,确认新顺序下的日志格式和计数没问题再切生产。

采集前置一定比缓存前置慢吗?

不一定,得看采集模块的实现方式。如果采集是异步的,主链路只等一个超时窗口,那延迟未必比缓存前置高多少。但如果采集是同步阻塞的,每个请求都要等采集完成才能往下走,那延迟下限肯定会被抬高。所以这个问题不能一概而论,得结合自己的采集实现来评估。

延伸阅读

判定顺序只是分流链路里的一个环节,如果你还想了解斗篷系统与常规竞价广告在流量处理上的差异,下面这篇对比可以帮你把视角拉宽一些。

斗篷系统与PPC广告的流量处理差异

需要成熟的斗篷系统方案?

ABcloakPro 开箱即用,识别引擎与规则库持续云端更新。

访问 ABcloakPro 官网
本文作者:CloakSystem技术组

斗篷系统(Cloak System)部署与投放一线实战团队,内容覆盖原理机制、环境搭建、配置调优与投放实战全链路,全部教程经真实环境实测验证,并由人工逐篇审校后发布。