干预效果持续监控 IV/RDD 因果验证 Bandit 动态调优场景游戏玩家流失干预——对高流失风险玩家发放奖励评估和优化干预效果一、问题背景为什么需要因果验证对高流失风险玩家发放回归奖励后观察到领奖玩家留存 60%、未领奖的只有 30%。但这不是因果效果——存在三类偏差偏差类型表现自选择偏差领奖励的人本来就更活跃/更可能留下来混杂变量第三因素同时影响是否领奖和是否留存反向因果留下来的人更可能领到奖励而非奖励让人留下标准 A/B 测试可以通过随机分组解决但实际运营中常常无法做到伦理约束不能故意对高风险玩家不干预阈值触发策略基于流失分 0.8 才发奖持续评估需求已上线策略需要实时验证效果二、RDD断点回归利用阈值做准实验核心直觉当干预基于某个分数阈值触发时阈值两侧的玩家几乎一样唯一区别是是否收到了干预——这等价于一次自然随机分配。玩家 A流失分 0.801过线收到奖励玩家 B流失分 0.799没过线没收到奖励这两个玩家的特征几乎完全一样唯一变化的就是是否过了阈值收到了干预。估计方法留存率(Y) 70% | • • • ← 收到奖励的玩家趋势 | • 60% | • | ↑ 跳跃 因果效果如 15% 45% | • ↓ | • ← 没收到奖励的玩家趋势 40% | • | • ----------------→ 流失预测分 0.6 0.7 0.8 0.9 1.0 ↑ 阈值cutoff对阈值左侧未干预玩家拟合留存趋势线对阈值右侧已干预玩家拟合另一条趋势线在阈值点两条线的落差跳跃 因果效果适用条件阈值附近的玩家不能自己操纵是否过线需要阈值附近有足够样本使用阈值附近的窗口数据如 0.7~0.9拟合两侧趋势线三、IV工具变量应对不完全服从问题现实中过了阈值的人未必都领奖比如没登录这时 Sharp RDD 退化为 Fuzzy RDD。那 30% 没领的人往往不是随机的——可能正好是最不活跃的人。解法把是否超过阈值当作工具变量是否超过阈值 0.8 ──→ 是否实际领取奖励 ──→ 留存率 工具变量 Z 内生处理变量 D 结果 Y工具变量的两个核心条件✅相关性Z 强影响 D过阈值的人 70% 会领没过的人 0% 会领✅排他性Z 不直接影响 Y分数从 0.79 变到 0.81 本身不会让人留下来计算通过两阶段最小二乘2SLS第一阶段过阈值 → 领取概率提升多少如 70%第二阶段过阈值 → 留存率跳跃多少如 10%因果效果LATE 第二阶段 / 第一阶段 10% / 70% ≈14.3%这是局部平均处理效应对那些因为过了阈值才去领奖的边际服从者的效果。四、持续监控从一次性分析到生产系统为什么需要持续监控群体漂移玩家构成在变化上月有效的干预本月可能失效新鲜感衰减奖励效果随时间递减ROI 追踪实时判断干预是否值得继续投入实现方式时间轴 Week 1 Week 2 Week 3 Week 4 Week 5 [RDD效果] [RDD效果] [RDD效果] [RDD效果] [RDD效果] 15% 14% 11% 7% 3% ← 效果在衰减触发告警滚动时间窗口每周对阈值附近新样本重做 RDD 分析效果趋势图计算因果效果估计值 置信区间告警机制效果连续 N 期低于最低可接受阈值置信区间包含 0不再显著触发策略调整或方案切换五、Thompson Sampling多方案动态调优问题多种干预方案如何分配流量假设有 4 种方案金币奖励、限时活动、客服回访、免费道具效果未知每天有 1000 个高风险玩家需要干预。策略做法问题均等 A/B/C/D 测试各 25% 流量大量玩家被分到差方案遗憾高纯利用选当前最优100% 给估计最好的如果估计不准永远无法发现更好的Thompson Sampling从分布中抽样选最大自适应平衡探索与利用算法步骤1. 建模Beta 分布表示信念每个方案用 Beta(α, β) 分布表示对其留存率的不确定信念α 成功留存次数 1β 失败流失次数 1均值 α / (α β)方差 αβ / [(αβ)² × (αβ1)]数据越多 → αβ 越大 → 方差越小 → 越确定初始状态一无所知 方案 A: Beta(1, 1) → 均匀分布 方案 B: Beta(1, 1) 方案 C: Beta(1, 1) 方案 D: Beta(1, 1) 积累数据后 方案 A: Beta(81, 171) 均值 0.321 方案 B: Beta(61, 191) 均值 0.242 方案 C: Beta(91, 161) 均值 0.361 方案 D: Beta(51, 201) 均值 0.2022. 决策抽样后比较每来一个新玩家Step 1: 从每个方案的 Beta 分布中各抽一个随机值 - A 的 Beta(81, 171) 抽样 → 0.34 - B 的 Beta(61, 191) 抽样 → 0.22 - C 的 Beta(91, 161) 抽样 → 0.38 - D 的 Beta(51, 201) 抽样 → 0.19 Step 2: 选抽样值最大的 → C (0.38) → 该玩家分配到方案 C关键用的不是均值而是抽样值。抽样值围绕均值波动方差大的方案波动更大。3. 更新观察结果后更新分布该玩家最终留存了 → 方案 C 的分布更新 Beta(91, 161) → Beta(92, 161) 该玩家最终流失了 → 方案 C 的分布更新 Beta(91, 161) → Beta(91, 162)为什么能自动平衡探索与利用早期数据少分布宽各方案的抽样值波动大重叠多即使均值低的方案也可能偶然抽到高值 →自然探索后期数据多分布窄最优方案分布集中在高处几乎每次抽样都最高 →自然利用差方案分布集中在低处几乎不可能胜出 →自动放弃早期分布宽重叠大探索为主 A: [||] 均值 0.32 C: [||] 均值 0.36 后期分布窄分离清晰利用为主 A: [||] 均值 0.32 C: [||] 均值 0.36几乎总是赢本质每个方案被选中的概率 ≈ 它是最优方案的后验概率。不需要手动设定探索比例不确定性本身就是探索的驱动力。六、系统联动RDD 监控 Bandit 调优┌─────────────────────────────────────────────────┐ │ 完整系统架构 │ ├─────────────────────────────────────────────────┤ │ │ │ ① 流失预测模型 → 输出流失分 │ │ ↓ │ │ ② Thompson Sampling → 选择干预方案 │ │ ↓ │ │ ③ 执行干预发奖励/推活动/客服回访 │ │ ↓ │ │ ④ 观察结果留存/流失 │ │ ↓ │ │ ⑤ 更新 Bandit 的 Beta 分布在线学习 │ │ ↓ │ │ ⑥ RDD/IV 持续验证因果效果是否真的有用 │ │ ↓ │ │ ⑦ 监控仪表盘 告警 │ │ - 某方案效果衰减 → Bandit 自然转移流量 │ │ - 整体效果崩塌 → 触发策略重设计 │ │ │ └─────────────────────────────────────────────────┘分工Bandit 提供做什么的决策在多个方案中动态选择最优RDD/IV 提供是否真的有效的验证排除混杂因素确认因果性互补关系Bandit 可能因为噪声或混杂因素觉得某方案好RDD 能帮你确认这是不是真的因果效果而非虚假相关。七、关键概念速查概念含义应用场景RDD断点回归利用阈值触发的准随机估计因果效果已上线的基于分数的干预策略IV工具变量找间接开关解决内生性问题干预存在不完全服从时Fuzzy RDD阈值不完全决定是否受干预用 IV 方法处理的 RDDLATE局部平均处理效应仅对边际服从者有效Thompson Sampling从后验分布抽样做决策多方案在线优化Beta 分布[0,1] 区间上的概率分布二项数据的共轭先验建模留存率的不确定性遗憾Regret因探索而放弃的收益衡量 Bandit 策略优劣