《Machine Learning with Applications》：Sequence-Aware GAN-Based Augmentation for Leakage-Safe Next-Session Payment Prediction under Extreme Class Imbalance
编辑推荐：
极端类别不平衡在稀有正事件具有不成比例实际价值的行为预测任务中仍是一个主要障碍。这一挑战在免费游玩（free-to-play）环境中尤为严重，其中支付事件稀疏、受序列条件约束，且若预测目标构造不当易受标签泄露（label leakage）影响。研究人员提出一种
极端类别不平衡在稀有正事件具有不成比例实际价值的行为预测任务中仍是一个主要障碍。这一挑战在免费游玩（free-to-play）环境中尤为严重，其中支付事件稀疏、受序列条件约束，且若预测目标构造不当易受标签泄露（label leakage）影响。研究人员提出一种面向高度不平衡的基于会话的行为数据中防标签泄露的下一会话支付预测的序列感知数据增强框架。与生成孤立少数类记录的常规表格GAN（Generative Adversarial Network, GAN）过采样不同，研究人员提出的填充感知（padding-aware）的基于GAN的行为窗口合成对连续的支付前会话进行建模，保留了与变现预测相关的近期参与度和进展上下文。所得合成轨迹在统一分类流水线中增强训练数据。研究人员使用固定神经预测骨干，将所提方法与随机过采样、SMOTE（Synthetic Minority Over-sampling Technique）、类别加权、阈值优化及其组合在真实生产数据集上进行比较评估。在包含数千万会话、正率约为0.34%的极端真实生产数据集上的实验表明，传统过采样方法提供的实际收益有限，而基于GAN的增强持续改善少数类排序。在主要玩家会话实验中，基于GAN的模型将PR-AUC（Precision–Recall Area Under the Curve）从0.0044提升至0.0140，较基线约提升3.18倍，而其阈值校准变体在所评估的玩家会话场景中取得了最高F1分数。在Spambase基准上的辅助实验提供支持性证据，表明该流水线在静态表格设置下也能改善少数类建模。结果凸显了行为一致的少数类合成及面向精确率–召回率（precision–recall）评估的重要性。
研究背景方面，在免费游玩和数字经济的变现与留存建模中，准确识别潜在付费用户是核心挑战。人类在线行为复杂动态，受人口统计、时空效应及平台交互演变影响且具有非平稳性，导致概念漂移与时序依赖。免费游玩模式中绝大多数用户从不付费，少数用户贡献绝大部分收入，形成极端类别不平衡（extreme class imbalance），正事件率可低至约0.34%。标准机器学习偏向多数类，虽聚合指标看似良好却无法检测稀有的高价值少数事件。分类错误成本不对称，假阴性（漏检潜在付费者）比假阳性后果更严重。此外，若在同一会话内建模支付会引入标签泄露（label leakage），使性能估计过于乐观，因此需采用防泄露的下一会话预测（next-session prediction），仅基于先前观测行为推断。现有不平衡处理方法多假设静态表格或中度不平衡，难以捕捉会话间短时进展、资源积累等序列信号。为此，研究人员开展面向会话级变现预测的序列感知GAN（Generative Adversarial Network, GAN）增强研究，发表于《Machine Learning with Applications》。
主要关键技术方法包括：基于真实生产环境商业游戏发行商的数千万级会话行为数据（涵盖约243万唯一用户，其中约1.87万付费用户，时间跨度2022-12-22至2025-09-22）与公开Spambase基准数据集；构建防泄露的下一会话标签，将会话级支付指标后移一位作为目标；设计固定长度最大为5的填充感知（padding-aware）行为窗口，以支付会话结尾，前端补零并引入存在指示符tk_present；采用CTGAN（Conditional Tabular Generative Adversarial Network）在窗口级表示上训练生成支付前轨迹并重构为会话级记录；定义14种不平衡缓解场景（随机过采样ROS、SMOTE、GAN增强、类别加权CW、阈值优化TH及其组合）；固定预测骨干为共享MLP（Multilayer Perceptron）会话编码器、BiGRU（Bidirectional Gated Recurrent Unit）、掩码注意力池化（masked attention pooling）与分类头的层次神经网络；评估指标采用ROC-AUC（Receiver Operating Characteristic Area Under the Curve）、PR-AUC（Precision–Recall Area Under the Curve）、F1分数及混淆矩阵，并在训练集内仅应用增强以防泄露。
研究结果部分，首先4. Cross-dataset evaluation of class imbalance mitigation strategies中研究人员在玩家会话数据集与Spambase数据集上系统评估14种场景。在4.1. Results for player-session dataset中，基线模型ROC-AUC为0.5、PR-AUC为0.004399、F1为0.0，完全失效。ROS（S1）提升ROC-AUC至0.608但F1仅0.018；SMOTE各场景（S2、S9–S11）ROC-AUC接近0.5且引入大量假阳性；CW单独（S4）增益微弱；TH单独（S5）F1达0.046；GAN仅（S3）PR-AUC升至0.013996、ROC-AUC至0.558，但默认阈值下F1仅0.0002；GAN+TH（S13）取得最高F1为0.052140；GAN+CW（S12）F1为0.048593；全组合GAN+CW+TH（S14）F1为0.049775未进一步改善。4.1.1. Ablation analysis of sequence representation and GAN synthesis中，A0（会话级无增强）默认阈值F1为0.0，PR-AUC提升2.54倍；A1（会话级CTGAN）PR-AUC略降至2.50倍；A2（序列窗口无GAN）PR-AUC提升2.81倍；A3（序列感知CTGAN）PR-AUC提升3.18倍至0.013996，默认阈值F1仅0.0002；校准后A3+TH F1达0.052140为消融最高，表明序列表示与GAN合成共同贡献但需阈值校准。4.2. Results for Spambase dataset中基线已很强（ROC-AUC 0.981、F1 0.916），ROS与SMOTE仅微幅改善，GAN（S3）将F1提升至0.950、PR-AUC至0.986，GAN+TH（S13）F1达0.954为最优，全组合S14反而下降，说明基线可分性好时过度调整不利。4.3. Comparison of results中玩家会话集GAN+TH相对PR-AUC提升218.16%，F1绝对增益0.0521；Spambase集GAN+TH相对ROC-AUC提升0.68%、F1绝对增益0.0376，显示GAN增强在极端不平衡与静态表格均有助益但依赖校准与数据特性。
讨论部分研究人员指出类别不平衡不仅是预处理问题，而是极端偏斜、短时依赖与决策校准交互的结果，需流水线视角联合表示感知增强与阈值校准。经典过采样仅复制或插值在高度异构序列行为中效用有限，SMOTE在稀疏多数重叠区生成模糊样本损害精度。GAN增强改善排序但默认阈值几乎无正预测，须借阈值优化转化排名为操作可用决策；SDMetrics评估显示合成数据保留结构与多变量关系但边缘分布有偏差，应仅作训练增强而非替代真实评估。消融证明序列窗口表示与GAN合成互补，孤立会话级GAN无益。类别加权在GAN场景中未优于阈值校准，其效益具情境依赖性。局限包括单一专有游戏域、固定预测骨干未测其他架构、窗口最长5未显式长程依赖。泄露安全构造为实验设计属性，下一会话公式避免同会话特征受支付污染。总体表明极端不平衡下少数类检测需序列感知GAN增强与阈值校准结合的流水线，而非单一干预。
结论部分翻译总结为：本研究探讨了免费游玩数字平台中防标签泄露的下一会话支付预测的类别不平衡缓解问题，聚焦极度不平衡的基于会话的行为数据。研究人员未将不平衡视为孤立预处理问题，而是检验表示感知增强、可选代价敏感优化与决策阈值校准如何在统一预测流水线中影响少数类检测。结果显示在极端偏斜下孤立干预仅提供有限实际收益。最具用的玩家会话配置将序列感知基于GAN的增强与决策阈值校准结合，而类别加权的收益具情境依赖性。在所评估场景中，传统过采样仅提供微弱或可忽略收益；随机过采样轻微改善排序但未转化为强分类效用，SMOTE变体在玩家会话数据集中无效且常引入许多假阳性。相反，所提基于连续会话短支付前窗口的序列感知基于GAN的增强策略在主防泄露行为预测设置中产生最强PR-AUC改善，但修正后真实验证结果显示该改善较初始估计更温和；基于GAN的排序信号主要与决策阈值校准结合时才具实际用途，玩家会话实验中GAN＋阈值优化场景取得最高F1分数，而对基于GAN的模型增加类别加权未进一步改善最佳结果。这表明真实少数类增强在合成样本保留短时行为上下文时最有用，且阈值校准对将该排序信号转化为可操作正预测仍不可或缺。方法论启示是排序质量与部署就绪分类之区别：极端不平衡下模型ROC-AUC显著改善仍可能在默认决策规则下无法产生有用正预测，故罕见事件预测评估不应仅依赖ROC-AUC，而应使精确率–召回率行为与阈值依赖指标居核心地位。跨数据集实验表明底层问题结构与难度强烈制约不平衡缓解有效性；Spambase基准中基线已佳故改善自然更小，辅助分析仍指示基于GAN的增强在静态表格设置中表现良好，该框架非普适最优但适于少数类稀有、行为异质且受短时上下文塑造的设置。实践中极端不平衡下罕见事件行为预测受益于不平衡缓解的流水线视角：当稀有正事件源于短序列历史时，简单复制或插值不足；将序列感知合成少数类增强与显式阈值校准结合可得更稳健结果，类别加权收益更具情境依赖性。尽管存限，所报结果在评估设置内为使用序列感知生成增强作为高度偏斜行为数据罕见事件预测流水线有用组件提供经验支持。未来可扩展至显式捕获长程依赖的序列生成模型、替代代价敏感目标、自适应阈值与重复运行评估以表征类别先验变化下的稳健性，以及在额外真实数据集更广泛验证。
