基于图神经网络的对抗攻击 Nettack: Adversarial Attacks on Neural Networks for Graph Data

最新推荐文章于 2023-11-18 11:30:40 发布
最新推荐文章于 2023-11-18 11:30:40 发布
阅读量6.7k 收藏 42
点赞数 6
CC 4.0 BY-SA版权
文章标签： 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_49393427/article/details/111484560

研究意义

随着GNN的应用越来越广，在安全非常重要的应用中应用GNN，存在漏洞可能是非常严重的。
比如说金融系统和风险管理，在信用评分系统中，欺诈者可以伪造与几个高信用客户的联系，以逃避欺诈检测模型；或者垃圾邮件发送者可以轻松地创建虚假的关注者，向社交网络添加错误的信息，以增加推荐和传播重大新闻的机会，或者操控在线评论和产品网站。
因此，我们需要研究对图神经网络的攻击和防御，在我们真正部署一个模型前，应该确认一下这个模型在面对对抗攻击的时候足够健壮？

参考资料

https://zhuanlan.zhihu.com/p/88934914
https://blog.csdn.net/b224618/article/details/82025371
https://blog.csdn.net/travalscx/article/details/84677646
https://www.in.tum.de/en/daml/all-news/news-single-view-en/article/best-paper-award-at-kdd-2018/

  • 项目：https://www.in.tum.de/daml/nettack/
  • 项目：https://www.in.tum.de/en/daml/research/nettack/
  • 代码：https://github.com/danielzuegner/nettack
  • poster：https://www.in.tum.de/fileadmin/w00bws/daml/nettack/kdd_poster.pdf
  • paper：https://arxiv.org/abs/1805.07984
  • talk ppt：https://www.in.tum.de/fileadmin/w00bws/daml/nettack/kdd_talk.pdf

介绍

来自KDD 201

最低0.47元/天 解锁文章

200万优质内容无限畅学
【随记】Adversarial Attacks on Neural Networks for Graph Data
图挖掘领域，新晋砖家 ☞ 未来可期，欢迎和静静一起学习交流吖
12-09 567
目录 1、简介（含背景知识） 0、先验知识 0.1、针对于图神经网络的分类问题主要有两种，即图分类、节点分类。具体如下： 0.2、攻击方式分类 0.3、机器学习类别 2、正文 一、Introduction 二、Preliminary 三、Related work 四、attack method 4.0 问题定义 4.1 unnoticebale perturbation 五、产生对抗图 六、实验部分 3、参考 1、简介（含背景知识） 0、先验知识 0.1、针对于图神.
基于图神经网络的对抗攻击防御 GNNGUARD: Defending Graph Neural Networks against Adversarial Attacks
随便记记笔记
12-23 2547
参考资料 项目：https://zitniklab.hms.harvard.edu/projects/GNNGuard/ 代码：https://github.com/mims-harvard/GNNGuard paper：https://arxiv.org/abs/2006.08149 poster：https://zitniklab.hms.harvard.edu/publications/posters/GNNGuard-NeurIPS20.pdf 介绍 论文来自于NeurIPS 2020，题目是G
KDD2018《Adversarial Attacks on Neural Networks for Graph Data》 论文详解
专注。
03-26 4265
论文链接：https://arxiv.org/pdf/1805.07984.pdf Abstract 本文介绍了第一个在属性图上进行对抗攻击的研究，特别关注利用图卷积的思想模型。除了在测试阶段进行攻击，本文进行了更具挑战的poisoning attack（聚焦于机器学习模型的训练阶段）类别。在考虑实例间依赖关系的情况下，针对节点特征和图结构进行对抗扰动（adversarial perturbation）。通过保证重要的数据特征保证扰动是不可见的（unnoticeable）。为了解决底层的离散域（disc
图卷积神经网络+图深度学习对抗攻击Adversarial Attacks on Neural Networks for Graph Data
travalscx的博客
12-01 4834
图卷积神经网络 GCN入门了解的一个超级好的博客 https://www.jianshu.com/p/89fbed65cd04?winzoom=1 在这篇论文Adversarial Attacks on Neural Networks for Graph Data中，总结了GCN： 论文中描述了一个单隐层的目的是用来做节点分类的GCN Adversarial Attacks on Neural ...
Adversarial Attacks on Neural Networks for Graph Data（2018 ACM SIGKDD）
最新发布
weixin_43856668的博客
11-18 509
基于图的深度学习模型在节点分类任务上取得了较好的性能。尽管已经有了很多成果，但目前还没有研究它们对敌对攻击的鲁棒性。然而，在可能使用它们的领域，例如在网络上，对手很常见。图的深度学习模型容易被愚弄吗？在这项工作中，我们介绍了对属性图的对抗性攻击的第一个研究，特别关注利用图卷积思想的模型。除了测试时的攻击外，我们还解决了更具挑战性的中毒/致病攻击，这些攻击集中在机器学习模型的训练阶段。因此，在考虑实例之间的依赖关系的情况下，我们针对节点的特征和图结构产生对抗扰动。
读书笔记17：Adversarial Attacks on Neural Networks for Graph Data
b224618的博客
09-05 8000
https://arxiv.org/pdf/1805.07984.pdf 看过之后有一个思考，adversarial attack的目标是事先选定一个class，然后选择攻击方式，尽可能使得模型把样本分类成这个类别，并且class probability和原class的probability拉开差距，但是可不可以将目标设定为最小化原分类class的probability，也就是只将目标定位为使t...
WWW2020《Adversarial Attacks on Graph Neural Networks via Node Injections：分层增强学习方法》（NIPA）论文详解
专注。
04-28 1903
论文链接：https://faculty.ist.psu.edu/vhonavar/Papers/www20.pdf poisoning attack 1 Abstract and Introduction 本文考虑了一种针对图数据的节点注入中毒攻击（poisoning attack）的形式。对节点注入攻击的关键步骤进行建模，例如，通过马尔可夫决策过程（MDP）在注入的对抗节点和其他节点之间建立链接、选择注入节点的标签等。本文提出了一种针对节点注入中毒攻击（Node Injection Poisoni
【论文学习】图神经网络对抗攻击顶会论文汇总（2018-2021年）
qq_38391210的博客
08-19 7162
图对抗攻击 在信贷领域，结合贷款人的金钱交易来评估他的信用情况，人与人的交易记录就是用图来表示。 对于图来说，特征往往是离散的（例如图的结构特征，一条边要么存在，要么不存在）。 对于图来说，很难定义图上的微小扰动。 在图像对抗攻击领域，通常是在训练好的模型上输入扰动图片使其预测错误evasion attack，但是在图对抗攻击领域是让扰动后的图上重训练的模型性能变差，这种攻击被称为投毒攻击。 图卷积网络 图卷积网络被用来解决半监督结点分类问题。 经典的论文 （1）Adversarial Attacks on
【Paper-Attack】Exploratory Adversarial Attacks on Graph Neural Networks
duanyuchen的博客
03-27 442
Exploratory Adversarial Attacks on Graph Neural Networks 依赖training loss的最大梯度的这种基于梯度的策略，在攻击GNN模型时候，可能不会产生一个好的结果。 原因在于图结构的离散的特点。 ⇓ \Downarrow ⇓ 我们可不可以推导出一种有效的方法，来选择攻击GNN的扰动？ 我们提出一种新颖的exploratory adversarial attack命名为EpoAtk。 专注于poisoning attack 和 global at
GCN_ADV_Train：图神经网络的对抗训练
02-25
基于优化的GNN攻防 在这项工作中，我们首先提出一种新颖的基于梯度的图神经网络（GNN）攻击方法，该方法可简化处理离散图数据的难度。 与当前对GNN的对抗性攻击相比，结果表明，仅对少量的边缘扰动（包括添加和删除）进行扰动，我们基于优化的攻击会导致分类性能显着下降。 此外，利用我们基于梯度的攻击，我们提出了针对GNN的第一个基于优化的对抗训练。 引用这项工作： 徐凯迪*，陈洪格*，刘思佳，陈品宇，翁翠薇，洪明义和林雪， ，IJCAI 2019。（*平等贡献） @inproceedings{xu2019topology, title={Topology Attack and Defense for Graph Neural Networks: An Optimization Perspective}, author={Xu, Kaidi and Chen, Hongge and
基于图的对抗式攻击和防御（Adversarial attacks and defenses on graphs）.pdf
03-05
在这篇综述中，我们对目前的攻击和防御进行了分类，以及回顾了相关表现优异的模型。最后，我们开发了一个具有代表性算法的知识库，该知识库可以使我们进行相关的研究来加深我们对基于图的攻击和防御的理解。
图神经网络对抗攻击与防御
12-23
图神经网络对抗攻击与防御PPT，分享了Nettack和GNNGUARD
awesome-graph-attack-papers:图神经网络的对抗性攻击和防御
05-03
很棒的图攻击和防御论文 该存储库旨在提供有关图数据或GNN（图神经网络）的对抗性攻击和防御的工作的链接。 内容 （根据攻击目标分类） 0.工具箱 Github存储库： DeepRobust （ ） 对应的文章： DeepRobust：一个用于对抗攻击和防御的PyTorch库。 1.调查文件 图的对抗性攻击与防御：回顾与实证研究。 魏进，李亚新，韩寒，王一奇，姬水旺，夏茹·阿格瓦尔，唐继良。 SIGKDD Explorations2020。 [论文] [代码] 图的对抗性学习概览。 陈亮，李金堂，彭佳颖，谢涛，曹增旭，徐坤，何湘南，郑子斌。 arxiv，2020年。 [论文] 图像，图形和文字的对抗性攻击和防御：综述。 韩旭，马瑶，刘浩辰，德巴扬·德布，刘慧，唐继良，阿尼尔·K·in那。 arxiv，2019年。 [论文] 图形数据的对抗性和防御性：一项调查。 孙立超，王继，
Procedural Noise Adversarial Examples for Black-Box Attacks on Deep Neural Networks论文笔记
XP and Altoria
11-25 2565
Procedural Noise Adversarial Examples for Black-Box Attacks on Deep Neural Networks论文笔记 0. 概述 如今一些深度神经网络对于一些对抗性样本(Adversarial sample)是弱势的, 对抗性样本就是指我们对输入进行特定的改变, 通过原有的学习算法最终导致整个网络内部出现误差, 这属于攻击的一种, 然而, ...
《Adversarial Attacks on Neural Network Policies》阅读笔记
孤山的都灵族如果不会打铁怎么办
03-24 669
目录摘要介绍白盒攻击过程 摘要 对抗攻击可以攻击基本的神经网络模型，攻击常见的深度学习任务（如分类、识别）等，仅需要通过修改一像素的值，就可以使得神经网络输出目标结果，并且在白盒与黑盒场景下均可以攻击成功。值得注意的是，考虑到现实任务中积攒的数据往往总是那么规整，全面，且需要人工智能模型参与决策的任务变得非常服啊，对无监督学习、强化学习模型的攻击（在某些应用场景下也可以理解为测试）也需要考虑到其特质，进行进一步研究。本文提出目前的对抗攻击策略也能用于攻击强化学习策略。 介绍 强化学习没有大量的标记好的训练样
图神经网络对抗攻击的研究学习（一）
qq_61879501的博客
11-07 5278
初窥图神经网络对抗攻击
【生成对抗样本】Simple Black-Box Adversarial Attacks on Deep Neural Networks
Shall_ByeBye的博客
06-20 2107
对深度神经网络的简单黑盒对抗性攻击 作者：Narodytska N，Kasiviswanathan S 2017年发表在IEEE Computer Society Conference on Computer Vision and Pattern Recognition Workshops 主要内容 深度神经网络容易受到精心设计的对抗性干扰，这会导致输入的错误分类。在本文中，我们专注于深度卷积神经网络，并证明即使没有目标网络的任何内部知识，对手也可以轻松制作对手示例。 我们的攻击利用了一种新颖的基于局部搜
黑客如何攻击图神经网络？别小看土豪转账一分钱
网易智能
01-11 865
作者：谭婧，虎嗅认证作者，《亲爱的数据》公众号出品人，香港浸会大学硕士，N年前高考作文满分得主。曾负责中国节能集团控股企业战略管理工作，许多年管理咨询经验，也曾任人脸识别创业公司合伙人。...
图神经网络对抗攻击（图注入攻击）
weixin_44809488的博客
10-06 2944
图神经网络在各种实际应用中都取得了良好的性能。然而，最近的研究发现，GNN容易受到对抗攻击。本文研究了最近引入的一种针对**图注入攻击（GIA）**的真实攻击场景。在GIA场景中，攻击者无法修改输入图的现有连接结构或节点属性，而是通过向其中注入攻击节点来执行攻击。*我们分析了GNN在GIA设置下的拓扑脆弱性，并在此基础上提出了用于有效注入攻击的拓扑缺陷图注入攻击（TDGIA）*TDGIA首先引入拓扑脆弱边选择策略来选择原始节点与注入节点连接。然后设计平滑特征优化目标，为注入节点生成特征。
可视化对抗性攻击：adversarial_lab工具深度解析
- **各种对抗攻击**：列出了实现的对抗攻击类型，包括快速梯度符号法（FGSM）、迭代式攻击等，这些攻击方法在深度学习安全领域很常见，用于测试模型的鲁棒性。 - **即将推出**：表明该工具还在不断更新中，将增加更...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

苏打呀

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值