READ-2359 FRL: Federated Rank Learning

论文名称 FRL: Federated Rank Learning
作者 Hamid Mozaffari, Virat Shejwalkar, Amir Houmansadr
来源 USENIX Security 2023
领域 Machine Learning - Federal learning - Security – poisoning attack
问题 由于客户端的模型空间较大,恶意客户端可以轻易的对FL进行投毒攻击
方法 FRL将客户端更新的空间从浮点数的连续空间减少到整数值的离散空间。 根据SuperMasks训练机制的思想,客户端利用其本地训练数据对全局模型的参数进行排序,服务器使用投票机制聚合客户端在每轮通信中提交的参数排名

阅读记录

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述


总结

本文基于Supermask思想提出了一种新的FL框架。在FRL中,不同客户端共同寻找使得子网路性能最佳的Supermask,而非共同训练全局模型。在该过程中,由于客户端与服务器之间只传递全局模型中边的排名,大大缩减了恶意客户端的攻击空间,同时降低了客户端的通信开销。