利用因果推断打破推荐系统中的反馈循环

《ACM Transactions on Recommender Systems》：Breaking Feedback Loops in Recommender Systems with Causal Inference

研究提出因果调整反馈循环（CAFL）算法，通过因果推断打破推荐系统反馈循环，利用观测数据调整预测偏好，在模拟环境中证明其优于现有方法，解决反馈导致的质量下降和用户行为同质化问题。

　　

摘要

推荐系统在塑造现代网络生态系统中发挥着关键作用。这些系统在以下三个环节之间循环运作：（1）生成推荐结果；（2）收集用户对这些推荐的反馈；（3）根据反馈重新训练推荐算法。在这个过程中，推荐系统会影响用户行为数据，而这些数据随后又被用于更新推荐系统本身，从而形成一个反馈循环。近期研究表明，反馈循环可能会降低推荐质量并导致用户行为同质化，这引发了关于部署推荐系统的伦理和性能方面的担忧。为了解决这些问题，我们提出了“因果反馈循环调整算法（CAFL）”，该算法利用因果推理来打破任何旨在最小化损失的推荐系统的反馈循环。核心观点是，如果推荐系统能够考虑因果变量（即推荐对用户评分的影响程度），那么它就不会陷入反馈循环。此外，我们可以通过调整推荐系统对用户偏好的预测来从观测数据中计算出这些影响程度。通过模拟实验，我们证明了CAFL在提升推荐质量方面优于以往的修正方法。