EASE-CloudNet:通过 GNN 启发的选择性推理与多目标蒸馏实现边缘 - 云端小型语言模型的自适应安全对齐
《Electronics》:EASE-CloudNet: Adaptive Safety Alignment for Edge–Cloud SLMs via GNN-Informed Selective Reasoning and Multi-Objective Distillation
【字体:
大
中
小
】
时间:2026年09月05日
来源:Electronics 2.9
摘要
EASE-CloudNet 是一个用于部署在资源受限的边缘节点上的生成式小语言模型(SLM)的两阶段安全对齐框架。其输入为自然语言用户查询,输出为安全、有用的自然语言回复或拒绝;网络流量分类和资源调度操作不属于本研究评估的任务范围。在第一阶段,云端教师模型利用安全策略图生成结构化的安全推理依据和响应目标,并将其蒸馏至 Qwen2.5-1.5B/3B 和 Llama3.2-3B 学生模型中。在第二阶段,通过离线异构图和两层 GraphSAGE 模型识别出脆弱的语义区域;这些脆弱性目标用于监督一个轻量级的边缘侧路由器。我们将部署成本建模为可微分的门控条件期望,因此实测延迟和能量常数通过其推理概率影响路由器。在 Qwen2.5-1.5B 消融实验中,完整模型获得了 3.9% 的 StrongREJECT 攻击成功率(ASR)、54.7% 的 MMLU 准确率以及 70 个平均生成令牌;A100 参考配置报告显示每查询 18.8 毫秒和 2.37 焦耳,即相较于未对齐模型高出 3.3% 的延迟和 2.6% 的实测 GPU 能量开销。物理边缘运行测量显示,在 Jetson Orin NX 上的直接/推理端到端延迟为 41.2/68.7 毫秒,在 Snapdragon 8 Gen 3 上为 62.5/105.3 毫秒,直接/推理能量分别为每查询 0.48/0.79 和 0.71/1.18 焦耳。采用相同种子的霍尔姆 - 邦弗伦尼校正检验证实,在所有三个基础模型上,其在 StrongREJECT 和 WildJailbreak 上的 ASR 均低于 EASE()。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号