人工智能应该模仿人类吗？了解黑人用户对人工智能辅助写作技术的看法

《Proceedings of the ACM on Human-Computer Interaction》：Should AI Mimic People? Understanding AI-Supported Writing Technology Among Black Users

AI写作辅助工具在非裔美国人中的文化排斥与偏见问题研究。通过访谈和观察13名用户发现，工具未能识别AAVE常用表达和姓名，修正建议被感知为文化贬损和排斥，引发用户对技术可能加剧文化边缘化的担忧。需平衡准确性与文化包容性。

　　

摘要

目前，由人工智能支持的写作技术（AISWT，即AI辅助写作工具）已经成为了许多人工作流程中的常规功能，这些技术能够提供语法建议、自动完成句子或生成/重写文本。然而，人们对这些工具所提供的建议的认知却知之甚少。在本文中，我们研究了非裔美国用户对AISWT的看法。这一研究基于自然语言处理领域的先前研究成果，这些成果指出大型语言模型可能蕴含种族偏见。通过对13位使用AISWT的非裔美国用户进行访谈和观察性研究，我们发现用户在利用AISWT提升写作风格与感到“这些工具并非为她们量身定制”之间存在明显的矛盾。具体而言，参与者反映AISWT无法识别非裔美国人日常使用的英语表达和名称，其纠正功能令她们感到受伤和被排斥，并担心这可能会进一步弱化她们的文化身份。最后，我们探讨了那些未能体现非裔美国人文化和语言特点的AISWT与那些试图模仿这些特点的AISWT之间的矛盾，同时关注了准确性、真实性和由此产生的社会差异问题。

可用格式

您可以通过以下格式查看完整内容：

PDF