READ-2331 Untargeted Poisoning Attack Detection in Federated Learning via Behavior Attestation

最新推荐文章于 2025-08-15 22:26:00 发布

原创最新推荐文章于 2025-08-15 22:26:00 发布 · 483 阅读

CC 4.0 BY-SA版权

文章标签：

67 篇文章

订阅专栏

论文提出了一种基于行为验证的方法，通过监测客户端在FederatedLearning中的持续训练行为，评估其可靠性，以检测恶意客户端的无目标攻击。恶意客户端的更新策略导致其与正常训练的客户端区别明显，通过分析模型更新的相关性和偏差变化来识别异常行为。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

论文名称	Untargeted Poisoning Attack Detection in Federated Learning via Behavior Attestation
作者	Ranwa Al Mallah, David Lopez, Godwin Badu Marfo, Bilal Farooq
来源	arXiv 2021
领域	Machine Learning - Federal learning - Security - untargeted poisoning attack
问题	对于无目标攻击，现有的防御机制忽略了在特定节点的训练过程中对其行为的及时检查
方法	attestedFL通过长时间观察客户端的持续性行为，判断客户端是否真的在训练并向目标前进，从而评估客户端是否可靠，并不对恶意客户端的数量进行假设

在2023年开始了这个专栏，但是中间由于有一堆事要干（懒惰），就停止了记录，在这个快要放假但还没有放假的好时节，打算把自己看过的文献全都放到CSDN！BUT，由于我还是有一堆事要干（懒惰），决定不再一点一点复制，而是直接放出阅读笔记的截图

在这里插入图片描述

恶意客户端并不会真正训练其本地模型，而是制造更新值。因此，通过观察客户端是否真的在一次又一次地训练迭代可以评估客户端是否可靠：

随着通信轮数增加，全局模型逐渐收敛，客户端更新趋近于0，而恶意客户端更新会为了阻碍全局模型收敛而逐渐增加。
尽管来自不同客户端的模型更新几乎是相互正交的且方差很低，但对于由同一客户端，跨轮次之间的模型更新将彼此相关性。因此，本地模型更新之间没有随时间表现出相关性的客户端可能被认为是不可靠的。
在数据分布不均匀的情况下，服务器需要接受一些模型有较大偏差的良性客户端，虽然此类良性客户端的精度较差，但随着时间推移，错误率差值将会逐渐减小，而恶意客户端的错误率差值会逐渐增加。