《阅读AI与理解世界：利用交互式AI系统帮助儿童认识AI偏见》

《ACM Transactions on Computer-Human Interaction》：Reading AI and Reading the World: Using an Interactive AI System to Promote Children's Understanding of AI Bias

AI偏见教育及儿童认知研究。通过开发CLIP4KIDS互动系统，对28名美国五年级学生进行四次课堂测试，定性分析显示学生能识别AI中的假设性偏见和刻板印象，并关联历史不公现象。该研究提供新教育工具、儿童认知实证数据及融合批判性教育学与社会文化理论的框架。

　　

摘要

尽管人工智能（AI）技术存在诸多已记录在案的偏见和缺陷，但它们正在社会各个领域中变得越来越普遍。AI的偏见往往反映了更广泛的社会偏见，并与之相互作用，这凸显了帮助儿童理解这些偏见的必要性，以便他们能够识别自己或他人何时受到基于AI的系统的歧视。为了通过一种新的方法来探索这一学习过程，我们开发了一个名为CLIP4KIDS的交互式系统。我们在美国对28名五年级学生进行了四次课堂实验，并使用定性主题分析方法对数据进行了分析。学生们经常将AI的偏见描述为“假设”和“刻板印象”，并指出了历史上的不公正现象与当前AI模型中的偏见之间的联系。这项工作提供了一种了解AI偏见的新工具，记录了儿童的实际体验，并结合了Vossoughi和Gutiérrez提出的批判性教育学及社会文化理论框架进行了理论分析[129]。