先给结论:当访客被分到不同版本时,样本污染通常不是靠“权重掉了多少”识别,而是靠分组标签与统计口径是否对齐来识别。你要确认每个访客被分到哪一组、该组的指标由谁记录、两组是否在时间与来源上可比。只要这三件事有一件对不上,后续的权重对比就不能作为判断依据,应优先修正分组或退出这次对比。
访客被分配到不同版本,常见做法是按客户端或服务端分流。污染的第一种来源是分组本身泄漏:同一访客在会话中途切换版本,或爬虫、内部账号、回访用户被反复分配。第二种来源是口径错位:站内统计按会话计数,而外部估算按域名整体聚合,两者混在一张表里比较,看起来像某个版本变差,实际只是统计对象不同。
区分方法很直接:把分组标签单独拉出来,看同一访客标识是否在两组都出现过。如果出现,说明分流不稳定,属于分组污染;如果访客始终只在一组,但两组的数据来源不同,属于口径污染。前者要改分流逻辑,后者要统一数据来源,两者的处理动作完全不同。
遇到污染时,不必强行把这次对比做完,可以按条件选择。
判断顺序建议是先看能否改写,改写不了再看污染比例是否小到可保留,两者都不成立就退出。
不要只凭“某版本数据变差”下结论。可以按下面这条链走一遍,每一步都留下可复查的记录:
这条链的作用是让“污染是否存在”变成一个可复核的问题。假设某站点把新访客分到 A 版、回访访客分到 B 版,那么两组天然在来源和频次上不同。此时总量差异更可能来自访客类型,而不是版本本身。动作上应改为在同一访客类型内部比较,或改用随机分流,结果才会影响下一步是否继续该实验。
有几个现象容易被误当成“没问题”的证据,需要谨慎:
这些信号只能作为辅助,不能替代分组标签核对。把分流标签和原始日志对齐,才是识别样本污染的核心依据。
如果你确认存在分组泄漏,下一步是修分流逻辑并重新开一段干净的观察窗,而不是在旧数据上继续加权修补。如果确认是口径错位,下一步是统一统计来源后重算,再决定是否保留这次对比。如果两者都无法修正,就退出这次版本比较,改用随机分流重新开始。这样处理的好处是:无论最终保留还是退出,你依据的都是可复查的分组事实,而不是被污染数据带出的表面差异。