RoBCtrl：通过强化操纵机器人控制交互攻击基于 GNN 的社交机器人检测器

《ACM Transactions on Knowledge Discovery from Data》：RoBCtrl: Attacking GNN-Based Social Bot Detectors via Reinforced Manipulation of Bots Control Interaction

　　摘要社交网络已成为个人获取实时信息的重要来源。社交机器人（bot）在这些平台上的影响力引起了研究人员的高度关注，并推动了众多检测技术的发展。然而，这些检测方法的安全性与鲁棒性仍未得到充分探索。现有的基于图神经网络（GNN）的方法由于存在"对社会代理的控制有限"、"机器人检测器的黑箱特性"以及"机器人的异质性"等问题而无法直接应用。为应对这些挑战，本文提出了首个针对基于GNN的社交机器人检测器的对抗性多智能体强化学习框架，即RoBCtrl。具体而言，我们采用扩散模型，通过对现有账户数据进行细微修改来重建高保真机器人账户，从而规避社交平台上的检测。据我们所知，这是扩散模型首次被应用于有效模拟社交机器人的演化行为。随后，我们采用多智能体强化学习（MARL）方法来模拟机器人的对抗行为。我们根据影响力与预算对社交账户进行分类，并部署不同的智能体来控制各类别中的机器人账户，通过强化学习优化附着策略。此外，还设计了基于结构熵的分层状态抽象以加速强化学习过程。在多个社交机器人检测数据集上的大量实验表明，我们的框架能够有效破坏基于GNN的检测器的性能。