安全与隐私技术委员会(TC)是IEEE控制系统协会(CSS)内的一个动态且跨学科的论坛。它汇集了致力于推进安全性和隐私保护控制系统科学的研究人员、从业者以及早期职业专业人士。该委员会成立于2021年,重点通过在设计可信的赛博物理系统时解决理论和实践挑战来促进学术界、工业界和政府之间的合作。其范围涵盖系统安全、隐私、韧性、密码学、嵌入式系统、在对抗性条件下的网络控制以及关键基础设施和物联网环境的安全保护。
委员会的活动主要集中在协调活动、传播技术知识以及促进社区参与度上。为了支持持续合作,TC成立了一个拥有70多名成员的LinkedIn群组,作为分享想法、促进机会和协调未来计划的平台。
在2024年美国控制会议(ACC)上,TC举办了一个名为“下一代赛博物理系统的安全与隐私学生早餐会”(图1 和 图2 )的双部分活动。此次活动旨在支持和吸引该领域的学生和早期职业研究人员,内容包括技术演讲、专家小组讨论以及以职业发展为焦点的交流机会。会议为参与者提供了一个宝贵的平台,就学术求职、职业发展以及智能系统安全方面的新兴挑战进行了交流(图3 )。该活动由一支由学生、博士后学者和青年教师组成的专门团队领导,其中包括来自乌普萨拉大学的Sribalaji Coimbatore Anand、纽约大学的Tao Li、KTH皇家工业大学的Aris Kanellopoulos和北卡罗来纳大学夏洛特分校的Dipankar Maity。此外,这个由学生主导的活动能够取得成功,得益于不同职业阶段的TC成员们的强有力支持,包括密歇根州立大学的Shaunak Bopardikar、加州大学欧文分校的Yasser Shoukry、杨百翰大学的Sean Warnick和纽约大学的Quanyan Zhu。他们的努力反映了TC致力于培养一个专注于赛博物理系统安全和隐私的可持续和包容性的研究社区的承诺。
图2 在2024年ACC期间举行的‘下一代赛博物理系统的安全与隐私学生早餐会’上的虚拟参会者。从Zoom屏幕左侧开始:Filippos Fotiadis、Rajad Allsic、Christos Mavridis、Sandeep Banik、Tao Li和Aris Kanellopoulos。(来源:Filippos Fotiadis提供的照片。)
显示全部
图3 Rajad Allsic在2024年ACC期间‘下一代赛博物理系统的安全与隐私学生早餐会’的虚拟环节中关于赛博物理系统中的网络安全和隐私挑战进行演讲。(来源:Filippos Fotiadis提供的照片。)
显示全部
与此同时,TC在2024年IEEE决策与控制会议(CDC)上组织了一个关于“安全与可控学习系统”的研讨会。该研讨会讨论了在反馈控制循环中对学习算法的日益依赖及其相关风险。研讨会由德克萨斯大学奥斯汀分校的Thinh T. Doan和乔治亚理工学院的Kyriakos G. Vamvoudakis主持,探讨了学习可控系统的验证、安全性和方法论。特别强调了这些方法与经典控制理论和当代人工智能(AI)的交叉点。
TC主办了一个名为“下一代赛博物理系统的安全与隐私学生早餐会”的双部分活动。
TC成员还共同组织了第15届博弈论与AI安全会议(GameSec 2024),该会议于2024年10月16日至18日在纽约市举行。这个跨学科会议是从事博弈论、网络安全和AI研究的顶尖研究人员的最佳场所。2024年的会议涵盖了对抗学习、战略欺骗和AI支持控制环境中的弹性系统设计等主题。
TC的学术成就最近获得了CSS TC杰出学生论文奖的认可,该奖项授予了斯图加特大学的Sebastian Schlor,其指导老师是Frank Allg?wer教授。他们的论文《自助保证:动态加密控制的稳定性和性能分析》发表在《IEEE控制系统快报》(第8卷,第2235-2240页,2024年),最初在CDC 2023会上进行了展示。作者在加密控制系统中的自助错误与鲁棒性保证之间建立了令人信服的联系。他们的工作为未来计算效率高的隐私保护系统设计提供了基础。它激励社区重新审视并重新解释经典控制范式,以满足现代安全和隐私需求。
除了这些旗舰活动外,TC还与CSS TC的生物医学系统小组建立了合作关系。这种合作关系探讨了医疗设备的独特安全和隐私要求。在这些系统中,实时操作约束和患者安全考虑需要高度坚固和保密的设计。
对安全和隐私感兴趣的CSS成员被鼓励参与TC的活动。参加研讨会、邀请的会议和跨学科项目,成员可以帮助塑造未来具有弹性、安全和隐私意识的控制系统。如需更多信息或加入委员会,请联系主席Quanyan Zhu,邮箱为quanyan.zhu@nyu.edu。
Quanyan Zhu