《Journal of Cybersecurity》:Vigilance towards AI voices can be nudged through a change in ‘MINDSET’
编辑推荐:
AI辅助技术被用于生成高度自然化的合成语音,使听者难以区分真实与合成语音。尽管听者常表现出将这些语音归类为人类的偏倚,但当语音使用代表性不足的地区或非标准方言时,该效应更强——推测原因是听者不习惯此类变体由语音技术呈现。这种MINDSET(Minority,
AI辅助技术被用于生成高度自然化的合成语音,使听者难以区分真实与合成语音。尽管听者常表现出将这些语音归类为人类的偏倚,但当语音使用代表性不足的地区或非标准方言时,该效应更强——推测原因是听者不习惯此类变体由语音技术呈现。这种MINDSET(Minority, Indigenous, Non-standard, and Dialect-Shaped Expectations of Technology,少数群体、原住民、非标准及方言形塑的技术预期)可能使部分语言社群更易遭受基于AI语音的欺骗。为此,本研究检验了简单的信息助推能否将听者的默认假设由“人类”偏移,并提升其将语音归类为“AI”的警觉性。实验1(N=150)考察了概述AI生成(苏格兰)口音与方言能力的助推是否影响人类分类反应。结果显示,关于AI真实复现这些变体能力的助推显著减少了“人类”反应。实验2(N=150)测试了警示AI欺骗风险的基于警觉性的助推单独使用及其与能力信息组合使用的效果。仅含能力信息的助推产生可测量效应,表明更新关于AI能令人信服地复现何种内容的预期,比单纯警告听者保持谨慎更有效。这些发现对网络安全、欺诈防范与公众意识运动具有实际应用价值。随着AI生成语音日益用于诈骗、欺骗与误导信息,更新关于AI语言能力预期的信息助推或可提供一种低成本、可扩展的警觉性提升途径——尤其在历史上被语音技术系统边缘化或排除的语言社群中。
研究背景与问题提出
近期AI辅助语音技术可生成高度自然化且多功能的合成语音,在语言教育、营销、临床辅助沟通等领域具有正向价值,并能提升少数群体、原住民、非标准及方言(MIND)变体在技术领域中的语言表征。然而同一技术亦被武器化用于语音克隆诈骗、冒充CEO转账、假绑架勒索等犯罪活动。既有人脸与深伪视频研究指出,单模态语音欺骗较双模态深伪提供更少检测线索。既有文献显示,听者对AI语音存在“人类分类偏误”(Human Categorization Bias),即默认归为“人类”,该偏误在熟悉的非标准方言(如苏格兰Dundonian Scots)上更强,Kirk(2020)将其解释为MIND变体使用者因“技术无法真实复现自身方言”的既有图式而产生MINDSET偏误。训练与反馈对提升检测灵敏度(A′)收效甚微,Mai等甚至断言“提升人类检测能力不现实”。依据错误管理理论(Error Management Theory)与信号检测理论(Signal Detection Theory, SDT),在不确定下更优策略是偏移反应标准(criterion)而非提升感知灵敏度,以牺牲更多“人类误报”为代价减少“AI漏报”这一高代价错误。论文发表于《Journal of Cybersecurity》。
主要关键技术方法
两项实验均通过Prolific招募苏格兰地区自述仅通英语的受试者,实验1与实验2各N=150,实验2排除实验1参与者。语音材料沿用Kirk(2020)的12名双语男性说话人(Dundee,苏格兰标准英语与Dundonian Scots各6句中性句),AI版本由ElevenLabs语音到语音变换工具生成,共288条刺激。分类任务在Gorilla Experiment Builder平台实施,试次前呈现文本助推。SDT指标采用非参数B″D衡量反应偏误(正值保守偏人类,负值宽松偏AI)与A′衡量灵敏度。实验1为3(助推:控制/负向能力/正向能力)×2(方言:Dundonian/标准)混合设计;实验2为3(助推:控制/警觉/组合)×2(方言)混合设计。假设与分析计划均在OSF预注册。
研究结果
实验1(Experiment 1)
方法部分采用上述混合设计与B″D/A′指标。结果部分显示,Nudge Condition主效应显著F(2,147)=7.02, P=0.001;正向能力助推整体B″D=0.23,显著低于控制组0.53(P=0.002, d=-0.61)与负向组0.52(P<0.001, d=-0.66),控制与负向无差异。方言主效应显著,Dundonian偏误更强(0.61 vs 0.19),但Nudge×Dialect交互不显著。A′在各条件无差异,证实助推未改灵敏度只移标准。讨论指出正向能力信息通过更新自顶向下“相似性”预期降低AI反应阈值。
实验2(Experiment 2)
方法部分将警觉助推(“AI语音正被用于诈骗,误判有严重后果,有疑即想AI”)与组合助推(能力+警觉)对比控制组。结果部分Nudge主效应显著F(2,147)=6.52, P=0.002;警觉组B″D=0.39与控制0.44无差(P=0.542),组合组0.16显著低于警觉(P=0.007)与控制(P<0.001)。A′仍无组间差异。讨论认为单纯威胁警示因实验内无真实代价而未生效,仅能力信息更新预期才具助推力。
总体讨论(General discussion)
两项实验证明:正向能力助推通过更新MINDSET降低人类分类偏误,警觉警示单独无效;方言强效应在各助推下稳定,无交互,说明助推广泛更新对AI语音能力的图式而非针对某一变体;助推不移灵敏度只移标准,依错误管理理论以多误报换少漏报系适应性权衡。
结论翻译(Conclusion)
本论文推进了关于听者如何对AI语音分类的理论理解,表明判断不仅由感知线索形塑,亦由先前预期(尤当涉及代表性不足语言变体时)形塑,且此类预期可被成功更新。除理论推进外,本发现具重要实践意涵:相较训练听者检测愈发拟人化AI语音(成效有限),更有效且可扩展的途径是偏移听者对AI语音的概念化,尤在历史中被语音技术欠服务故更易受语音欺骗的语言社群中。就此,本工作提供首批针对AI语音欺骗的行为对策之一,表明缓释风险或更少依赖警告,而更多依赖鼓励听者改变其MINDSET。