信还是不信？生成式人工智能与慈善和医疗众筹中的“信任困境”

《Behaviour & Information Technology》：To believe or not to believe? Generative AI and the ‘trust dilemma’ in charitable and medical crowdfunding

研究探讨生成式AI在众筹中的伦理与信任问题。通过分析1800条文案及实验验证，发现AI润色文案更分析、目标导向且情感化，但显得不真实；披露AI使用会降低捐赠者的认知与情感信任，凸显AI整合需透明与监管。

　　

摘要

虽然慈善和医疗领域的众筹已成为面临经济困难的人们的重要资源，但它也引发了许多伦理和信任方面的问题。生成式人工智能（GenAI）为提高筹款效率提供了机会，但其滥用可能会削弱捐赠者的信心，并加剧现有的信任问题。本研究基于信任理论和人们对算法的抵触情绪，探讨了将GenAI整合到众筹中的复杂性。研究1利用段落向量、NRC情感词典和LIWC工具，分析了人类撰写与AI重写后的GoFundMe众筹信息在语言和情感表达上的差异（样本量N=1,800）。研究2采用“人在回路”方法（within-subjects design）进行随机实验（样本量N=601），以评估AI作者身份的披露对捐赠者认知信任和情感信任的影响。研究结果表明，AI重写的消息更具分析性、目标导向性，且在情感表达上更为丰富，但同时也显得过于刻意、缺乏真实性。值得注意的是，披露AI参与的事实显著降低了捐赠者的认知信任和情感信任。这一“信任困境”凸显了GenAI在众筹应用中的伦理复杂性，强调了在涉及社会敏感领域的应用中需要建立透明度和监管框架，以确保AI的负责任使用。