镜子啊，镜子：探究可能传达到儿童手中的热门推荐中的刻板印象现象

《ACM Transactions on Recommender Systems》：Mirror, Mirror: Exploring Stereotype Presence Among Top-N Recommendations That May Reach Children

儿童通过观察媒体中的刻板印象形成偏见，影响其未来 beliefs, attitudes, and behavior。推荐算法在电影和书籍推荐中普遍存在性别、种族和宗教偏见，需改进系统设计以减少对儿童的不利影响。

　　

摘要

儿童在成长过程中通过观察刻板化的表达方式形成固定观念，这些观念会影响他们未来的信念、态度和行为。这些通常带有负面含义的观念会通过各种在线媒体平台传播，比如流媒体服务和社交媒体。由于这些平台上展示的许多内容都是由推荐算法（RAs）挑选的，因此研究推荐算法在推荐可能对儿童产生负面影响的内容方面的作用变得至关重要。我们通过实证评估来探讨这一问题，分析了在两个知名数据集（Movielens：电影；GoodReads：书籍）中，多种推荐算法生成的Top 10推荐结果中是否存在性别、种族和宗教方面的刻板印象。分析结果显示，所有推荐算法都经常推荐具有刻板印象的内容。性别刻板印象尤为普遍，几乎出现在每一个推荐列表中，并成为最常见的刻板印象类型。我们的研究结果表明，没有一种推荐算法始终倾向于推荐更多具有刻板印象的内容；相反，各种推荐策略中都存在较高的刻板印象出现频率。这项研究的结果凸显了推荐算法在延续和强化有害刻板印象方面对儿童可能造成的风险，这引发了人们对推荐系统设计和评估方法的重新思考。