先给结论:识别样本污染的关键不是看总热度升降,而是先确认“分组变量是否在分流前就已经和版本相关”。如果分流发生在访问入口之后、且分组依赖了用户来源、登录状态或历史行为,那么两个版本的样本从一开始就不可比,此时任何热度差异都可能被污染。可执行的第一步是:把你手上的那份分流记录或页面埋点导出,按“进入时间、来源渠道、登录状态、设备类型”四个字段分别统计两组的分布,只要有一项差异明显,就应暂停版本对比,先修正分流规则。
样本污染有两种典型来源。第一种是分流前污染:例如旧版本仍被搜索引擎收录,新访客从搜索结果进入的是旧页面,而站内实验系统只对“已进入站点”的访客随机分组,导致两组来源结构天然不同。第二种是分流后污染:访客先被随机分到A组,但A组页面里的某个跳转、弹窗或缓存把部分人又带到了B组,实际体验与记录不一致。
区分方法很直接:取一段时间的分流日志,按“首次落地页”而不是“最终展示版本”来分组,再看两组在来源渠道上的占比。如果落地页分布差异大,问题在分流前;如果落地页一致但最终展示版本与分配版本不一致,问题在分流后。这个判断决定了你下一步是修收录和入口,还是修前端跳转与缓存。
不要只看热度总量。把资料整理成下面这张检查清单,逐项在两组之间对比:
假设一个短例子:某页面把搜索来源访客全部分到旧版,把站内推荐访客全部分到新版。此时新版热度更高,不能说明新版更受欢迎,只能说明站内推荐人群本身更活跃。这个例子是假设的,但方法可核查——你只需回到分流记录,按来源字段重新分组就能验证。
确认污染后,处理顺序建议如下:
这里有一个实际动作及其结果:如果你把“按来源渠道分流”改为“按访客ID随机分流”,那么原本集中在某一渠道的样本会被打散,两组来源分布趋于一致。这一步完成后,你才能进入下一步——比较两组的停留、点击或转化,而不是继续在污染样本上做推断。
分流修正后,热度总量可能暂时下降,或某个渠道的访问量归零。这不能单独证明处理正确,因为还可能是收录调整、入口下线或统计口径变化造成的。要排除这些解释,至少同时看三件事:分流日志中两组字段分布是否接近、落地页是否与分配版本一致、以及站内统计与第三方估算的口径差异是否被记录。只有证据链能互相印证时,才能认为样本可比。
最后提醒一点:搜索热度分析中的热度指标本身受统计口径影响,第三方估算流量、搜索引擎报告与站内统计往往不一致。识别样本污染时,优先使用你能控制的分流日志和站内埋点,把外部热度作为辅助参考,而不是反过来用热度差异去推断分组是否干净。这样处理,旧内容或旧系统退出时,你才能既保留仍有价值的部分,又不让污染样本误导后续决策。