报告题目:稀疏去中心化联邦学习快速算法
报告人:孔令臣 教授 (北京交通大学数学与统计学院)
报告时间:2026年5月26日(星期二)10:00-11:30
报告地点:数学科学学院114(小报告厅)
校内联系人:王磊 教授 联系电话:84708351-8417
报告摘要:随着边缘智能和分布式数据分析的发展,去中心化联邦学习在无中心服务器条件下实现多节点协同建模,具有较好的系统鲁棒性和隐私保护潜力。然而,在实际应用中,模型高维化、通信资源受限、节点数据异质以及隐私泄露风险等因素相互交织,使得算法在通信效率、收敛速度和隐私保护之间面临复杂权衡。本报告围绕稀疏去中心化联邦学习中的快速优化问题,介绍两类面向不同场景的算法设计思路。首先,针对高维稀疏模型下通信开销大和隐私保护需求强的问题,介绍基于1比特压缩感知、周期通信、部分邻居参与和差分隐私机制的CEPS算法。该方法利用稀疏结构降低通信负担,并通过高效的信息编码与隐私扰动机制实现通信效率与隐私保护的协同设计。其次,针对一般非凸去中心化联邦学习中节点交互频繁、数据异质性显著的问题,介绍基于部分消息交换机制的PaME算法。该方法通过随机化的局部坐标交换减少单轮通信量,并结合去中心化混合更新机制,在保持算法收敛性的同时提升训练效率。此外,通过在高维稀疏学习任务和一般非凸学习任务上的数值实验,比较所提出算法与典型去中心化联邦学习方法在通信开销、收敛速度、目标函数下降效果和模型训练性能等方面的差异,并进一步分析稀疏结构、部分通信、隐私扰动和数据异质性对算法实际表现的影响。通过实验结果,展示CEPS和PaME在提升通信效率、加快收敛过程以及增强去中心化联邦学习适用性方面的有效性。
报告人简介:孔令臣,教授,博士生导师,中国运筹学会数学规划分会理事长,北京交通大学数学与统计学院副院长。主要从事对称锥互补问题和最优化、高维数据分析、统计优化与学习、医学成像等方面的研究。在《Mathematical Programming》、《SIAM Journal on Optimization》、《Statistica Sinica》、《IEEE Transactions on Pattern Analysis and Machine Intelligence》、《Technometrics》、《IEEE Transactions on Signal Processing》和《Electronic Journal of Statistics》等期刊发表论文60余篇。2005年获山东省高等教育教学成果奖三等奖,2012年获中国运筹学会青年奖,2018年获得北京市高等教育教学成果奖一等奖,2022年获教育部自然科学奖二等奖和北京市高等教育教学成果奖二等奖。