《IEEE Potentials》：The use of artificial intelligence requires increasing criticality
编辑推荐：
本文探讨了人工智能（AI）技术，特别是生成式AI聊天工具的广泛应用与其在公众中，尤其是儿童和青少年群体中被不加鉴别使用的现状。研究人员通过分析巴西的调研数据，揭示了AI使用率高达93%但理解度不足46%的深刻矛盾。研究指出，在享受AI带来便利的同时，必须倡导批判性和有节制的使用，强调理解技术背后的概念对于识别其局限性、规避风险及实现“有意识使用”至关重要。该研究的意义在于，为在AI技术快速普及的时代，如何引导公众，特别是年轻一代，建立负责任的技术使用观念提供了必要的反思和路径。
人工智能（AI）的浪潮正以前所未有的速度席卷全球，从自动驾驶汽车到奥运选手的技术评估，其应用已渗透到日常生活与经济运行的方方面面。伴随着全球各地不断新建的数据中心，技术的进步显而易见。然而，在这片繁荣景象之下，一个不容忽视的阴影正在蔓延——尤其是对儿童和青少年而言，AI技术正被不加鉴别地广泛使用。这引发了一个核心的追问：对于此类技术，特别是以生成式AI（Generative AI）聊天工具形式广泛可得的技术，我们使用的尺度和边界究竟在哪里？正是为了回应这一紧迫的社会性问题，一项聚焦于AI使用现状与公众认知的研究得以开展。
该研究揭示了在巴西——这个国土面积世界第五、人口第七的国家——所存在的一个惊人反差。调研数据显示，尽管有高达93%的人口使用搭载AI的应用工具，但同时有46%的人并不理解AI的含义。这种“高使用率”与“低理解度”之间的巨大鸿沟，突显了AI在该国被广泛而大规模使用，但其本质却鲜为人知的现实。理解一个能够回答问题、根据照片绘制漫画或协助处理日常事务的聊天工具背后究竟是什么，不仅重要，更是实现“有意识使用”的根本前提。研究表明，关键不在于完全掌握其技术深度，而在于理解基本概念，从而能够提出好的问题、审视获得的答案，并最终认识到工具的局限性与潜在风险。
研究的结论明确指出，解决之道在于“有节制的和批判性的使用”。技术日益普及，可以成为日常任务的得力助手，但它绝不能取代通过书籍、文章等正式研究方法从可靠信源中搜寻信息的过程。这项研究的重要意义在于，它敲响了警钟：在拥抱AI赋能的同时，社会必须培养公众，尤其是下一代，建立起必要的批判性思维和数字素养，以确保技术发展真正服务于人，而非让人在无意识中受其牵制。该文发表于《IEEE Potentials》期刊。
本研究主要基于一项在巴西进行的全国性调查研究。该调查由伊塔乌基金会与Datafolha研究所合作开展，旨在量化评估公众对AI工具的使用情况及其对AI概念的理解程度。研究方法侧重于通过问卷调查收集数据，并分析“使用率”与“理解度”之间的相关性，从而揭示在技术普及背景下存在的认知缺口问题。
研究发现与结论
- •
AI应用的广泛性与认知的局限性：研究发现，在巴西，93%的受访者使用具有AI功能的应用，显示出AI技术极高的普及率。然而，与之形成尖锐对比的是，46%的受访者并不理解AI的含义。这一结果直接证实了AI在应用中存在着“广泛使用但普遍不理解”的现状。
- •
“有意识使用”的必要条件：研究强调，理解AI的基本概念（即使不具备技术深度）对于安全、有效地使用这些工具至关重要。这种理解使用户能够提出更精准的问题，对AI给出的答案进行审慎的追问，并最终识别出AI系统的局限性和潜在风险，从而实现“有意识使用”。
- •
批判性与节制性使用的核心原则：为应对上述挑战，研究提出了核心建议：对AI技术应采取“有节制的和批判性的使用”。技术应被视为辅助工具，而非替代人类主动从书籍、学术文章等可靠信源中获取知识并进行独立思考的途径。
结论与讨论
本研究通过对巴西社会的实证调研，清晰地揭示了人工智能技术，特别是生成式AI聊天工具，在公众中呈现“高使用、低理解”的普遍现象。这种现象在儿童和青少年群体中因缺乏鉴别力而尤为令人担忧。文章的核心论点是，在AI技术不可阻挡的普及趋势下，推动社会形成“有意识的使用”文化已刻不容缓。这要求用户不仅会操作工具，更能理解其背后的基本逻辑，保持批判性质疑，并以节制的态度将其作为辅助而非依赖。该研究的深刻意义在于，它将讨论焦点从纯粹的技术进步，转向了技术与社会、个体认知的交互层面，强调了在数字化时代培育公众（尤其是年轻一代）批判性思维与数字素养的极端重要性。唯有如此，我们才能确保人工智能这一强大技术真正服务于社会的可持续发展与人的福祉，而非加剧新的认知鸿沟或伦理风险。这项研究为政策制定者、教育工作者以及技术开发者提供了关键的反思视角和行动依据。
