特邀报告: Can Federated Learning Really Preserve Privacy?

摘要：作为一种新兴的分布式机器学习范式，联邦学习允许客户端在不将其私有数据传输到服务器的情况下，协同训练机器学习模型。尽管联邦学习被誉为一种保护隐私的机器学习训练范式，最近的文献研究指出与服务器共享梯度可能导致原始私有数据（如图像和文本）在训练过程中被重构的潜在风险。这种新攻击被称为梯度深度泄漏（DLG），它的发现引发了一系列新的研究来提高它的攻击效率并提供更强的防御能力来抵御这些已知的DLG系列攻击。然而，在设计更高效、更有效的防御机制之前，我们开始重新思考在没有任何防御机制情况下实际威胁的严重程度。现有的研究主要集中在理想设置下从已知梯度或模型权重中重构原始数据，而未考虑到联邦学习中的实际设置。在本次演讲中，我将介绍我们最近的一些发现，即在标准的联邦学习设置中，现有梯度泄漏攻击的有效性和效率大幅减弱。在这种设置下，客户端发送的是模型更新而非梯度，使用非独立同分布的本地数据进行多次本地训练迭代，并且模型权重的初始化是正常的。我还将介绍我们的新型轻量级防御机制Outpost，它可以在整个联邦学习过程中针对不断变化的隐私泄漏风险提供足够且自适应的保护。这是我与多伦多大学博士生Fei Wang合作的研究成果。

个人简介：李葆春博士于1995年于中国清华大学计算机科学与技术系获得学士学位，1997年和2000年分别在美国伊利诺伊大学厄巴纳-香槟分校计算机科学系获得硕士和博士学位。 自2000年起，他一直在多伦多大学电气和计算机工程系工作，目前是该系正教授。自2005年8月起，他任职Bell Canada Endowed Chair。他目前的研究兴趣包括云计算、安全与隐私、分布式机器学习、联邦学习和网络。 李博士合作发表了450多篇研究论文，总被引用次数超过24000次，根据谷歌学术引用，H指数为87。他曾获得2000年IEEE通信学会通信系统领域的Leonard G. Abraham奖、2009年IEEE通信学会多媒体通信最佳论文奖、2009年多伦多大学McLean奖和2023年IEEE INFOCOM最佳论文奖。李博士同时也是加拿大工程院会士和IEEE会士。

特邀报告: AI and DevSecOps

摘要：DevSecOps是在软件开发过程的各个阶段中系统地整合安全测试的方法。其目标是通过使用工具自动化安全专家的知识和经验，从而在开发生命周期的早期阶段就能够及早识别和解决安全问题。然而，DevSecOps的有效性在很大程度上取决于智能工具模拟或潜在替代安全专家的能力。随着人工智能和生成计算（AIGC）的出现，现在有一种新的方式来实现这个目标。在本次演讲中，我将讨论在DevSecOps领域中利用人工智能的最新努力，特别是在静态应用安全测试（SAST）、动态应用安全测试（DAST）和渗透测试等领域。此外，我还将概述在各种应用中使用AIGC的潜在途径，包括构建针对特定领域的专用大型语言模型。

个人简介：刘杨博士目前是南洋理工大学的终身教授，NTU网络安全实验室主任，HP-NTU公司实验室项目主任以及新加坡国家卓越卫星和可信人工智能中心的主任，并于2019年荣获大学领袖论坛讲席教授。 刘杨博士专注于软件工程、网络安全和人工智能。他的研究填补了程序分析、数据分析和人工智能在高可信度和安全性软件设计与实施中理论与实际应用之间的鸿沟。他的许多研究成果已经成功商业化。到目前为止，他在顶级会议和期刊上发表了450多篇论文，获得了20个最佳论文奖和在顶级软件工程会议的最有影响力系统奖。他还获得了许多重要奖项，包括微软亚洲研究院奖学金、TRF奖学金、南洋助理教授、Tan Chin Tuan奖学金、ACM杰出讲演者、南洋研究奖、NRF研究员职位和南洋创新奖（创业）奖。

报告主题：利用扬声器后门的语音设备电磁注入攻击

摘要：智能语音因其自然高效的人机交互特性，是智能家居、语音助手等领域的关键数据交互接口。然而，这类基于语音交互开发的智能产品却潜藏巨大安全隐患，本文揭示了语音系统内扬声器作为磁注入攻击的后门漏洞所带来的威胁。首次揭露了磁场对扬声器内部结构影响的发声机制，发现可利用调制的磁场向语音交互系统注入恶意指令，造成用户隐私泄露和财产损失。基于集成电路原理制作了可嵌入充电插座的攻击设备原型，发射高穿透性的磁场信号攻击附近智能设备。经证明，这类磁场攻击对电子设备构成了新的威胁，同时也为硬件安全设计提供了有价值的启示。

个人简介：浙江省千人计划专家。曾任美国科罗拉多大学丹佛分校助理教授，纽约州立大学布法罗分校研究科学家。主要研究方向为物联网安全，智能与移动传感，智能网联车安全，生物识别身份认证，人工智能等。主持国家自然科学基金面上项目、军委科技委项目，以及多项与华为、浙商银行等企业合作的横向项目。获2021 ACM SIGSAC China新星奖，SIGMOBILE研究亮点论文，MobiSys’20，SenSys’21, Infocom’21等6次会议最佳论文奖及提名奖，HotMobile’18会议最佳演示奖，和IEEE J-BHI期刊封面文章等奖项。

报告主题：基于代理重加密的云数据安全共享

摘要：云计算是重要的基础信息设施，云数据安全与隐私是云计算技术发展的关键支撑。本报告围绕基于代理重加密技术的云数据安全共享技术，从代理重加密的基本概念、性质、安全性等方面详细介绍代理重加密技术的发展，并介绍了代理重加密技术的一些最新研究成果。最后，本报告讨论云数据安全与隐私未来的潜在发展方向和趋势。

个人简介：研究方向包括云计算中的数据安全与隐私保护、区块链。在WWW、IEEE TDSC、TPDS、DCC等国际期刊和会议上发表了高水平论文60多篇，是SCI期刊Computer Standards & Interfaces的编委以及30多个国际会议的程序委员会委员，承担了国家自然科学基金、科技部重点研发、工信部创新发展工程、腾讯财付通等多个项目，相关研究成果被应用于军工、企业等多个领域。获得ACISP2022、NSS 2019等多个国际学术会议最佳论文奖。

报告主题：互联网域名系统安全国际学术研究前沿介绍及趋势分析

摘要：作为互联网关键信息基础设施之一，绝大多数上层网络服务依赖于域名系统实现资源寻址定位。本报告结合近年来国际网络安全领域一系列前沿学术成果，梳理域名系统安全学术研究发展动态，介绍若干具有重要影响力的域名协议设计及实现缺陷，并探讨未来域名安全研究可能的趋势。

个人简介：主要研究方向包括：网络基础设施安全、互联网测量与安全分析、涉网犯罪与黑灰产业链对抗。获得NDSS 会议杰出论文奖、DSN 会议最佳论文奖以及国际互联网协会颁网络研究应用奖等国际重要学术奖项。

报告主题：基于风险规避的安全强化学习方法

摘要：近年来，无线网络安全事件频发，通信抗干扰和隐私保护等需求快速增长，亟需设计高效的无线网络安全机制，防御窃听和敌意干扰等攻击。本报告将讨论基于风险规避的安全强化学习方法，采用分层架构、安全探索及安全向导解决现有技术存在的优化速度慢、安全性能差和短期安全风险等难点。该方法设计基于策略优先级的分层结构压缩策略维度，构建基于安全约束的风险规避机制，避免探索导致任务失败的危险策略。在此基础之上，设计基于期望效益和风险值的深度神经网络，指导智能体规避短期风险，进一步提升学习效率。接着，在无人机抗干扰通信和机器人货物运输等场景验证了所提方法的有效性。

个人简介：研究方向为强化学习、联邦学习、无人机和车联网通信安全等。已发表/录用论文20余篇，其中IEEE期刊论文12篇，包括影响因子为33.840的IEEE Commun. Survey & Tutorials综述论文，2篇论文入选IEEE通信学会最佳读物(方向分别仅3篇和7篇)，6篇IEEE期刊热点论文，2篇ESI高被引论文。曾获2022年ACM SIGSAC中国新星奖、第十五届福建省自然科学优秀学术论文奖、第十四届中国物联网学术会议优秀论文奖和Int. Conf. Mach. Learn. for Cyber Security最佳学生论文奖。

报告主题：对称密码算法的自动化分析与设计

摘要：对称密码算法的分析经过近三十年的发展，方法种类繁多，密码算法只有通过各种攻击方法的检验后，才能证明它在现阶段是安全的。一方面，对称密码算法的安全性分析是一项复杂且耗时费力的工作；另一方面，保障高效地为新算法提供可靠的安全性评估结果也逐渐成为决定算法设计水平的关键。报告将介绍对称密码算法的自动化分析与设计方面的最新研究成果。

个人简介：研究方向为对称密码算法的分析与设计、机器学习在密码分析中的应用。近五年在对称密码算法的分析与设计领域公开发表CCF期刊/会议论文20余篇，在国际五大顶级密码会议EUROCRYPT、ASIACRYPT和FSE共发表14篇，其中一作8篇。获国家科学技术进步一等奖（2020年、排名12）、国家密码科技进步一等奖（2017年、省部级、排名5）、中国密码学会密码创新奖二等奖、英国工程技术学会（IET）2022年最佳论文奖、中国密码学会优秀博士论文奖、ACM SIGSAC China优秀博士论文奖。

报告主题：多样网络环境下鲁棒的恶意加密流量检测研究

摘要：随着多数互联网流量使用传输层安全协议TLS进行加密，近期的研究广泛利用深度学习模型进行加密流量分类来实现各类任务，如恶意流量识别、网站指纹识别等。基于深度学习的方式能自动从TLS流的数据包序列中提取复杂和丰富的潜在特征，在加密流量上取得了出色的分类结果。然而，我们的真实测量研究发现，已有的深度学习方法在实际多样化的网络环境中存在显著的性能下降，为实际部署鲁棒的加密流量检测系统带来巨大挑战。通过系统的分析，我们发现其原因在于TLS流的数据包模式会由于各类的TCP可靠传输机制而在不同的网络环境中发生剧烈变化。为此，我们提出了Rosetta系统来为现有的深度学习模型实现鲁棒的TLS加密流量分类。它利用TCP感知的流量增强机制和自监督学习来理解内含的TCP语义，从而提取TLS流的鲁棒表征。真实且大量的实验证明，Rosetta能够显著提高现有深度学习模型在多样化网络环境中的TLS流量分类性能。

个人简介：主要研究方向包括软件定义网络安全、网络流量分析、路由安全等，在NDSS、CCS、USENIX Security、TIFS等网络与安全领域顶级会议和顶级期刊发表论文10篇，曾获得 2021年 ACM SIGSAC China 优博奖、 2021 年清华大学“水木学者”、 2019 年 USENIX Security Student Travel Grant、 2017 年 EAI SecureComm Best Paper Award等奖励。

报告主题：可信大语言模型

摘要：随着ChatGPT、Midjourney、Stable Diffusion等应用的广泛使用，大模型安全性备受关注。现有研究主要围绕大模型自身安全性开展。除此之外，还需注意防止其引发其他风险，本次报告将介绍大模型如何重新塑造数字灰色产业治理。包含：（1）大模型对于灰色产业的变革 （2）aigc时代的风控框架构建

个人简介：研究方向为可信AI包括隐私保护机器学习，可信大模型以及不确定性估计。本科毕业于北京大学数学系，博士毕业于北京大学计算机系。在ICML，ICLR，KDD，NeurlPS，HPCA，ISCA，CVPR等多个顶级会议上发表三十余篇论文。曾获得ACM中国区信息安全学会优秀博士，中国电子教育协会优秀博士，苹果博士奖学金（每年大陆仅一位），北京市优秀毕业生等多个荣誉称号。以委员会秘书的身份参与了 IEEE P2830 共享机器学习标准的制定。

报告主题：隐私信息检索问题的近期进展

摘要：在隐私信息检索模型下，用户可在访问记录不被泄露的保证下访问公开数据库。自1995年该模型被提出后，研究人员已经在降低客户计算与通信开销上得到了理论最优的结果。在经典模型下，每个询问的服务器计算开销于2000年被证明为至少是线性扫描整个数据库的成本。近期，研究人员提出了预处理模型，在理论上证明了亚线性算法的存在性。我们近期的理论工作（Eurocrypt2023）在该模型下取得了理论最优的结果。然而，在不依赖于更强的分布式信任假设下，真正具有实用性的算法设计一直是空白。我们在近期提出了首个亚线性的实用隐私信息检索算法，填补了该领域的空白，且取得了优秀的实用性能：在100GB大小的数据库测试中，我们的算法平均每次查询仅需小于40ms的计算时间，总延迟对比其他工作降低100倍以上。

个人简介：指导老师为Elaine Shi教授和Giulia Fanti教授。研究领域涉及隐私保护的算法设计，包括差分隐私，密码学等。同时也涉及区块链，点对点网络等内容。

报告主题：虚拟现实场景下的去匿名化攻击

摘要：虚拟现实（VR）可以在元宇宙中为用户提供身临其境的体验。虚拟现实最有前途的特性之一是，可以通过将用户的物理世界外观更改为任意的虚拟化身来保护用户的身份。然而，最近提出的去匿名化攻击证明了识别VR化身伪装背后的用户身份的可行性。在本次演讲中，我们提出了AvatarHunter，这是一种基于受害者固有运动特征的非侵入性和用户无意识的去匿名攻击。AvatarHunter通过在VR场景中从多个视图录制视频，在不需要任何许可的情况下，不知不觉地收集受害者化身的步态信息。我们设计了一个基于Unity的特征提取器，在不受化身外观变化影响的同时，保留化身的运动特征。实验结果表明，AvatarHunter在封闭世界和开放世界的化身设置中分别可以获得92.1%和66.9%的攻击成功率，并优于已有的研究成果。

个人简介：目前主要致力于物联网安全、语音接口安全、与隐私政策分析的研究，近年来在CCS、USENIX Security、INFOCOM、TDSC、TMC等国际会议与期刊上发表CCF-A/中科院JCR一区学术论文13篇，获得2015年SocialSec会议最佳论文奖。获评2022年度ACM SIGSAC CN优秀博士论文奖与2022年度ACM中国优秀博士论文奖。

报告主题：协议栈跨层交互式漏洞挖掘与验证

摘要：TCP/IP 协议栈在传递数据时，不同层次间的网络协议需要跨层动态交互。在这一过程中引发的二义性、信息泄露等一系列安全问题，目前仍未受到广泛关注。本次报告深入讨论分析了这一问题，介绍了TCP/IP 协议栈在跨层交互过程中存在的四种典型安全问题，并提出了系统化的防御方案。

个人简介：主要研究领域为网络安全。研究成果一作发表于国际信息安全领域 “四大”顶级会议以及ToN等国际顶级期刊，并获得CCS’2020最佳论文提名奖。成果得到了Wi-Fi联盟、Linux、Github、高通、华为、阿里、锐捷、H3C等多个安全社区和设备厂商的确认及致谢，并在CNCERT、华为等国家网络空间安全主管部门和知名企业进行了转化应用。

报告主题：基于移动应用的博彩诈骗研究

摘要：随着移动互联网的蓬勃发展，以博彩诈骗为代表的网络诈骗犯罪愈演愈烈。不法分子通过在移动应用上设立虚假博彩平台，利用即时通信软件传递诈骗信息，并广泛使用移动支付渠道来实现博彩诈骗。我们基于博彩诈骗案件真实数据开展系统性实证研究，研究数据囊括2021年的1,461 起诈骗案件记录和 1,487 个博彩诈骗应用。基于对上述真实数据开展定性和定量分析，我们有效地解释了博彩诈骗的运营渠道和欺诈链条，有助于更好地了解当前博彩诈骗生态系统，并提出可能的对应反制方法。

个人简介：研究聚焦于互联网地下产业检测、网络犯罪治理、移动应用隐私保护、区块链安全等，相关成果在执法机关、工业界均有成功应用。获得ACM CCS 2018亮点论文等荣誉。个人主页：https://ghong.site/