《Tourism Management》：A socio-technical exploration of bias in generative AI travel planners
编辑推荐：
本研究深入探讨了生成式AI旅行规划器中存在的偏见问题。研究人员采用社会技术系统框架，通过三项互补性研究（文献综合、5000条AI生成行程的计算分析、用户访谈），识别了语言、表征、情境、刻板印象、交叉性、积极性和位置等七类偏见，并揭示了其在信息、社会和技术子系统间的相互作用。结果表明，这些偏见是复杂社会技术系统的涌现属性，不同于传统推荐系统，对旅游业的公平、安全和经济利益具有重要影响。研究为理解和缓解AI在旅游领域的偏见提供了理论模型和实践指导。
随着生成式人工智能（AI）的爆发式增长，我们的旅行计划方式正在经历一场静悄悄的革命。从制定个性化行程、推荐小众餐厅到撰写充满文采的目的地描述，AI旅行助手仿佛一位不知疲倦、知识渊博的私人顾问，让旅行规划变得前所未有的便捷。大型旅游平台如TripAdvisor和Expedia纷纷拥抱这项技术，其市场前景被广泛看好。然而，在这股智能化的浪潮之下，一个紧迫而复杂的问题逐渐浮出水面：这些为我们“量身打造”完美旅程的AI，其推荐是否公正、全面且可靠？它们是否会不自觉地放大现实世界中的偏见，让某些目的地、文化或旅行者群体“隐形”，或陷入刻板印象的窠臼？
与传统推荐系统主要从现有选项中检索和排序不同，生成式AI能够自主创造全新的内容和叙事。这种“创造”能力在带来高度定制化的同时，也引入了新型的偏见风险——例如，对目的地带有文化倾向性的语言描述、对少数群体旅行需求的忽视，或是因训练数据不平衡导致的“热门目的地”马太效应。更重要的是，这些偏见可能不仅仅是技术漏洞，而是深深植根于技术、信息和社会子系统复杂交织的网络中。现有的研究往往将偏见视为单纯的技术问题，忽视了塑造偏见的社会和信息维度。为了厘清生成式AI旅行规划器中偏见的全貌、机制与影响，由Shizhen Jia、Chang Ma、Oscar Hengxuan Chi和Alei Fan组成的研究团队展开了一项系统性探索。他们的研究成果以《A socio-technical exploration of bias in generative AI travel planners》为题，发表在了旅游管理领域的权威期刊《Tourism Management》上。
为了全面回答“生成式AI旅行推荐系统中存在哪些类型的偏见，它们如何在不同旅行规划场景中显现？”这一核心问题，研究团队设计了一套多层次、多方法的研究方案。首先，他们进行了系统的文献综述，旨在识别和归类偏见类型。其次，他们采用了计算分析方法，通过应用程序编程接口（API）调用GPT-4模型，生成了5000条旅行行程推荐，并利用自然语言处理（NLP）技术（如情感分析工具VADER和TextBlob，主题建模工具BERTopic）结合人工编码，对这些推荐进行了大规模的偏见审计与量化分析。最后，他们通过半结构化访谈的方式，招募了30名背景各异的旅行者，深入探究了用户对AI偏见的感知、理解及其采用的缓解策略。
研究结果
- •
识别偏见类型：一项社会技术分类法的建立
通过理论驱动的文献综述，研究团队在社会技术框架下，成功识别并定义了七种与生成式AI旅行规划器密切相关的偏见类型。这七类偏见分属信息、社会和技术三个子系统，并存在跨子系统的相互作用。
- •
信息子系统偏见：包括语言偏见（因训练数据以西方英语资料为主，导致非西方目的地描述失真）、表征偏见（因数据缺乏多样性，导致小众目的地、特定人群或预算选项被忽视）和情境偏见（因未能整合实时或相关情境数据，导致推荐不切实际或不安全）。
- •
社会子系统偏见：包括刻板印象偏见（基于社会固有观念生成推荐，如按性别推荐活动）和交叉性偏见（当用户的种族、性别、年龄等多重身份因素交叉时，面临的复合性歧视）。
- •
技术子系统偏见：包括积极性偏见（算法倾向于生成过于乐观、理想化的描述，忽略潜在挑战和风险）和位置偏见（AI模型过度关注用户提示中先出现的信息，影响推荐的多样性和公平性）。
- •
量化偏见：计算分析揭示的流行度、严重性与相互作用
对5000条AI生成行程的计算分析，为上述理论分类提供了坚实的实证支持。结果显示，所有七类偏见在生成式旅行推荐中都普遍存在。其中，积极性偏见（67.9%）和情境偏见（63.5%）最为常见，表征偏见（58.4%）和语言偏见（52.8%）也影响了过半数的推荐。交叉性偏见虽然自发识别率低，但在计算分析中显示出54.2%的普遍性。混合效应回归模型进一步表明，每种偏见都独立地对推荐质量产生显著的负面影响，其中积极性、情境和表征偏见的负面影响最大。更关键的是，偏见之间存在显著的相互作用和放大效应。例如，语言偏见和表征偏见结合，会额外加剧对非西方目的地的“信息劣势”；而刻板印象偏见与交叉性偏见结合，则会导致对多重边缘化旅行者群体的推荐质量出现更大幅度的下降。
- •
理解用户：感知、策略与信任鸿沟
用户访谈研究揭示了旅行者对AI偏awareness的差异及其应对策略。用户最容易识别表征偏见、积极性偏见和情境偏见，因为这些偏见直接体现在推荐内容中。而对于交叉性偏见和位置偏见这类嵌入在系统处理机制中的偏见，用户的识别率则较低。尽管用户能够识别部分偏见，但他们普遍采取一种“验证而非信任”的策略，包括多源验证（交叉核对多个信息平台）、寻求透明性（希望AI提供推荐依据和来源）以及依赖个人经验。这反映出一个现状：用户意识到了AI工具的局限性，并主动承担了识别和纠正偏见的部分责任，但这同时也在用户与系统之间制造了一道“信任鸿沟”。
研究结论与意义
本研究的核心结论是：生成式AI旅行规划器中的偏见并非孤立的技术错误，而是社会技术系统的涌现属性。它们源于信息（数据）、社会（用户与文化）和技术（算法与界面）三个子系统之间动态、复杂的相互作用。这种偏见在形式、机制和后果上都与传统推荐系统及一般大型语言模型（LLM）研究中的偏见有所不同。
其理论意义重大。研究首次提出了一个针对生成式旅行规划场景的、模型无关的七类偏见分类法，并成功将其置于一个整合的社会技术框架中进行解释。这深化了我们对AI偏见产生机制的理解，强调了必须超越纯技术视角，从系统互动的层面来审视和解决偏见问题。
在实践层面，研究为旅游业各利益相关方敲响了警钟。对旅游平台和开发者而言，必须加强对AI旅行规划器的监督，设计更公平的算法，并审慎治理用于AI训练的旅游数据。对目的地管理组织而言，需意识到数据可见性对旅游经济的重要性，避免因“数据赤字”而导致在AI推荐中“被消失”。对政策制定者和研究者而言，应推动建立针对生成式AI在旅游领域应用的评估标准、审计框架和伦理指南。
总之，这项研究为我们描绘了一幅生成式AI旅行规划器中偏见的“全景图”。它告诉我们，通往真正智能、公平且值得信赖的旅行未来，不仅需要更强大的算法，更需要我们对技术所嵌入的广阔社会信息生态保持清醒的认识和负责任的治理。只有认识到偏见根植于系统性的互动之中，我们才能开始设计出不仅更智能，而且更公正、包容的旅行助手。
