编辑推荐:
目的:社交机器人预计将渗透到我们生活的各个领域,从童年到老年——从教育、警务、娱乐,到医疗保健。确保其以安全可靠的方式部署,需要深入理解社交机器人可能助长的广泛犯罪与安全威胁。方法:研究人员开展了一项范围综述,以概述与社交机器人相关的犯罪和安全威胁以及潜在对策
目的:社交机器人预计将渗透到我们生活的各个领域,从童年到老年——从教育、警务、娱乐,到医疗保健。确保其以安全可靠的方式部署,需要深入理解社交机器人可能助长的广泛犯罪与安全威胁。方法:研究人员开展了一项范围综述,以概述与社交机器人相关的犯罪和安全威胁以及潜在对策。结果:研究人员从任何学科的388篇学术和非学术文章中识别出18种不同的犯罪威胁和17种可能的对策。犯罪威胁范围从欺诈和非法侵入,到间谍活动和针对机器人的虐待。对策主题包括确立社交机器人权利和许多技术适应性调整。结论:鼓励社交机器人领域的利益相关者利用这些发现来预先防范与社交机器人相关的未来犯罪风险。开放问题包括:在针对机器人的威胁情况下,是否应确立机器人权利;在涉及机器人软件(半)自主决策的犯罪情景中,应由谁承担责任;以及如何将情境犯罪预防措施应用于社交机器人独特的网络物理空间。
社交机器人未来犯罪:范围综述论文解读
随着人工智能(artificial intelligence, AI)的发展,社交机器人被设计为能够与人类进行社交互动的具身机器人,其应用已从教育、医疗、警务扩展到娱乐、陪伴等领域。在许多老龄化社会,社交机器人被视为应对劳动力短缺的方案。然而,新技术往往带来新的犯罪机会,社交机器人可能被用于欺诈、骚扰、盗窃等犯罪,也可能成为犯罪攻击的目标。当前相关文献零散,缺乏系统性梳理。这篇发表于《Crime Science》的研究通过范围综述系统识别社交机器人相关的犯罪与安全威胁及对策,为政策制定者、开发者提供前瞻性依据,以防范“犯罪收割”现象。
研究人员遵循PRISMA框架,检索了Web of Science、ProQuest Central和IEEE Xplore数据库,检索式使用“social* NEAR/10 robot*”结合犯罪相关术语,截止日期为2024年7月24日。纳入文献涵盖任何学科的学术与非学术出版物,最终纳入388篇。两名研究人员独立筛选10%的标题和摘要,采用流行率与偏倚调整kappa(prevalence and bias adjusted kappa, PABAK)统计量评估信度;数据提取后采用建构主义主题分析进行综合,形成威胁与对策的主题分类。
研究识别出18种犯罪威胁,归为8类,具体如下。
(一)犯罪威胁类别
1. 对机器人的物理虐待(Physical abuse against robots):包括盗窃、物理攻击和性虐待。文献描述了踢打、遮挡传感器、破坏机器人等行为,攻击动机可能源于反自动化情绪或机器人外形引发的不适。
2. 言语虐待(Verbal abuse):指人类因机器人性别或种族外观而施以侮辱性言论,与拟人化倾向相关。
3. 欺诈与欺骗(Fraud and deception):包括社会工程(利用机器人社交技能操纵人泄露信息)、冒充真人以及无意欺骗。
4. 仇恨犯罪或骚扰(Hate crime or harassment):涉及机器人设计中的偏见对用户造成冒犯,或破坏机器人以伤害用户。
5. 隐私泄露(Privacy breaches):包括未经授权访问或披露个人数据,如通过中间人攻击、监控等方式窃取信息。
6. 对人类的身体伤害(Physical harm to humans):分为故意伤害(如命令机器人攻击)和意外伤害(如导航故障碰撞)。
7. 财产犯罪(Property offences):包括机器人辅助盗窃/入室盗窃、非法侵入和财产损害。
8. 机器人计算机滥用(Robot computer misuse):包括对机器人系统的网络攻击以及利用被攻击机器人实施进一步犯罪。
研究还识别出17种对策,归为4类。技术措施(Technological)包括改进导航系统、物理设计、网络安全措施、控制机器人行为的软件、预测人类行为的系统以及行为记录与解释技术。法律和政策措施(Legal and policy)包括对新型危害行为入罪、赋予机器人法律人格、行业监管和行为准则。社会措施(Social)包括用户教育、社会调查和机器人道歉。混合/其他措施(Hybrid/other)包括开放数据、风险评估、开发指南和透明数据处理。
讨论部分指出,社交机器人威胁具有网络物理特性,两类犯罪机制值得关注:一类直接源于机器人的社交属性,利用人类的拟人化倾向;另一类间接源于技术和环境条件。前者需要法律和哲学层面的回应,后者适合采用情境犯罪预防措施。现有文献重安全轻安保,未来需加强针对故意威胁的研究。
结论部分翻译如下:随着AI和机器人技术的进步与人口老龄化同步,能够与人类进行有意义社交互动的社交机器人预计将越来越多地用于医疗保健、警务、教育、私人陪伴、娱乐和性满足等合法目的。与任何新技术一样,社交机器人的广泛引入可能创造新的犯罪和安全威胁,而这些可能被开发者、制造商和政策制定者忽视。本研究对相关学术和灰色文献进行范围综述,发现社交机器人可实现广泛的威胁,包括针对机器人的身体或言语虐待、性侵犯,以及机器人作为工具或犯罪主体的欺诈、入室盗窃和伤害。由于机器人具备计算机系统和在线连接,它们面临网络攻击风险,且因其具身性,网络威胁易转化为网络物理威胁。该论文的核心理论贡献是识别出两种独立的犯罪机制,并强调需综合技术、法律、社会和混合措施来应对这些威胁。