近日,bat365中文官方网站2020级计算机科学与技术专业本科生周嘉晟为第一作者的学术论文被IEEE International Conference on Communications, ICC 2024(通信领域顶会)正式录用。
论文录用信息:
J. Zhou, S. Lin, H. Liu, X. Chen, P. Shi, L. Zhu, D. Zhang. "N4: Network for N Neural Network Training", Accepted by IEEE International Conference on Communications, ICC 2024.
近年来,神经网络分布式训练面临较大的通信瓶颈,如何利用网络加速分布式训练是目前网络领域的热点问题之一。该论文对利用可编程交换机充当参数服务器的优化问题展开研究,利用可编程交换机充当参数服务器,运用网内聚合技术进行流式聚合,通过设计通信协议,自定义数据包头部字段支持多种神经网络同时进行分布式训练,并确保各神经网络训练的高性能和隔离性;在神经网络训练的部署阶段,考虑真实物理网络的限制和资源差异,通过线性规划在真实物理网络拓扑中优化参数服务器的选择,从而提高了训练效率和系统性能,并且能够在训练过程中支持部署方案的动态优化。实验表明,与现有解决方案相比,N4有效地提升网络灵活性和训练的效率。该论文由bat365官网登录入口可编程网络课题组学生周嘉晟、林声睿、陈昕杨、施彭湃,在张栋教授指导下,与浙江大学的研究团队刘宏岩博士合作共同完成。
N4系统架构图
IEEE ICC是由国际电气电子工程师学会(IEEE)主办的通信领域旗舰会议,于每年6月上旬定期召开,自1965年举办至今50多年来,已成为世界通信行业规模最大、最具影响力的标志性学术会议之一,其内容涵盖了信息论、无线通信、通信信号处理、下一代网络、光网络与系统、认知无线电、传感网、绿色通信等,每年都汇集了世界各国通信学术界和产业界的顶尖学者。