3-机器学习进阶-模型的攻击和防御

最新推荐文章于 2025-03-05 16:47:27 发布
最新推荐文章于 2025-03-05 16:47:27 发布
阅读量669 收藏 1
点赞数
CC 4.0 BY-SA版权
分类专栏： 李宏毅课程-机器学习飞桨深度学习学院 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_15821487/article/details/119488433
探讨了如何通过梯度计算优化模型对细微变化的响应，强调了主动防御与被动防御的区别，以及FGSM攻击和白盒/黑盒攻击的原理。文章还提到了利用模型漏洞的防御手段和数据模拟对抗的复杂性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

在这里插入图片描述
假如细微的变化，人能识别出来，但是机器得出完全不同的东西了
在这里插入图片描述
真实的越远越好，非真实的越近越好，同时限制下输入偏差不能太大，模型固定去调整输入，把输入当做参数去训练
在这里插入图片描述
两中方法计算限制距离，
在这里插入图片描述
限制，第二种方式最好，同样可以进行梯度计算，每次迭代更新的时候加个判断就好，拉到满足条件，离目标点最近
在这里插入图片描述
画圆即可，超出了拉进来
在这里插入图片描述
维度是非常多的，某个维度的变化可能导致突变，梯度的方向就是找到这个突变的方向，用多维度去看问题
在这里插入图片描述
FGSM在意方向，梯度设置很大，一次性得到结果
在这里插入图片描述
攻击的分类，知道模型参数，白箱攻击
在这里插入图片描述
黑箱攻击，不知道模型参数和架构，只知道训练数据，训练出来一个新的一样可以攻击
在这里插入图片描述
假如训练数据不知道，可以模拟一大堆数据造一批训练资料，一样可以攻击
在这里插入图片描述
模型的防御，被动防御和主动防御
在这里插入图片描述
被动防御，增加过滤层，让输入更加平滑，相当于只有某个方向的变化能攻击，把这个方向的变化平滑了
在这里插入图片描述
主动防御，训练阶段就开始找这些漏洞参数，并重新训练模型，训练好的模型又会产生新的漏洞，反复迭代更新，但是只要找到漏洞数据的方法被泄露出去，一样可以攻击，或者有一个开源攻击所有找漏洞的方式一样可以切攻击，尚待解决的问题

人工智能-机器学习：对抗攻击与防御(Adversarial Attack and Defense)
u013250861的博客
11-29 7319
什么是对抗攻击与防御(Adversarial Attack and Defense) - 在实际的机器学期分类器中，更多的情况是用在实际生活中，很多时候实际系统会遇到很多的干扰、甚至是人为的蓄意攻击。如垃圾邮件等，我们需要让机器判别这些恶意攻击。 - 机器训练出来的模型不光性能要强，还要能够对抗人类的恶意、攻击。 - 现阶段，各种机器学习的模型很容易被攻击，但是不容易防御。 # 二、对抗攻击(Adversarial Attack) ## 1、对抗攻击(Adversarial Attack)的分类
AI：200-机器学习在网络安全中的创新应用-深度学习与SVM在异常检测中的实践
一键难忘的博客
07-08 937
在本文中，我们探讨了利用机器学习技术进行网络异常检测与安全防御的重要性和方法。首先介绍了机器学习在网络安全领域的应用，包括异常检测、威胁情报分析、行为分析和恶意代码检测等方面。接着，通过示例代码展示了基于传统机器学习方法、深度学习方法和卷积神经网络的网络异常检测模型。我们讨论了深度学习模型的优势和挑战，并重点关注了模型解释性和可解释性在网络安全中的重要性。最后，提出了提高模型解释性和可解释性的方法和技术，并强调了用户参与和反馈在此过程中的重要性。
李宏毅机器学习笔记——14. Attack ML Models and Defense（机器学习模型的攻击与防御）
weixin_44790306的博客
07-17 1668
摘要： 文章目录1. Attack （模型攻击）基本思想2. Defense（模型防御） 1. Attack （模型攻击） 对图像模型进行攻击 基本思想 2. Defense（模型防御）
机器学习笔记五—机器学习攻击与防御
qq_45193988的博客
08-28 1114
系列文章目录 机器学习笔记一 机器学习笔记二 机器学习笔记三 机器学习笔记四 机器学习笔记五 文章目录系列文章目录前言一、循环神经网络二、Jordan network和Elman network三、LSTM和GRU总结 前言    这一节在重新回顾一下循环神经网络的相关知识（RNN） 一、循环神经网络    循环神经网络是一种具有记忆力的网络，它可以记忆前边的输入，使得前边的输入n对后边n+1的输出产生影响 注：蓝色框为记忆单元，初始值赋值为（0,0），所有的权重设置为1，bias为0
[李宏毅-机器学习]ML攻击与防御 Attack ML model
炼丹师
02-22 782
Attack white box 已经拥有模型 只更新一次便得到最终的结果 black box 不知道模型 defense 对需要识别的图片使用filter做处理
GitHub项目推荐 | 用于对机器学习模型进行对抗性攻击、防御和基准测试的Python库：CleverHans 3.0.0...
09-23 803
CleverHans (最新版本: v3.0.0) 项目地址：https://github.com/tensorflow/cleverhans 此资料库包含CleverHans的源代码，CleverHans是一个Python库，用于将机器学习系统中的漏洞与对抗性示例进行对比。 您可以在随附的博客上了解有关此类漏洞的更多信息。 CleverHans资料库正在不断发展，并欢迎贡献最...
【QT-FFMPEG实战进阶】：跨平台录制秘籍大公开
![【QT-FFMPEG实战进阶】：跨平台录制秘籍大公开]...在QT中，FFMPEG可以作为后端支持来开发各种音视频应用，如播放器、录屏工具和视频会议系统等。本章节将从基本的库集成开始，引导你了解如何在QT项目中应用F
网络攻击与防御-第四章 Metasploit渗透攻击.pptx
06-29
【Metasploit渗透攻击详解】 Metasploit是一个广泛使用的开源渗透测试框架，它为安全研究人员和道德黑客提供了...同时，应遵循教育理念，通过学习和实践，点燃对网络安全的热情，提升防御能力，保障网络空间的安全。
利用机器学习进行网络异常检测与安全防御
一键难忘的博客
07-07 2244
随着互联网的快速发展，网络安全已经成为了企业和个人必须要面对的重要挑战之一。网络攻击的形式层出不穷，从传统的病毒和恶意软件到更加复杂的网络入侵和数据泄露，网络安全人员需要不断地提高对抗这些威胁的能力。在这个背景下，利用机器学习技术进行网络异常检测和安全防御成为了一种有效的方法。
安卓恶意代码检测系统 - Python机器学习项目源码及文档
安卓恶意代码检测是信息安全领域的重要课题，通过机器学习算法可以从大量的数据中学习和提取恶意行为的特征，从而实现对未知恶意代码的检测和防御。这类项目不仅可以提高学生的实战能力，也有助于培养他们解决实际...
PUF模拟与机器学习建模攻击
05-03
一个使用python对puf的模拟器，并使用机器学习结合cma-es（协方差矩阵自适应策略）进行建模攻击，得出准确率。
【抗疫不出门】李宏毅教授机器学习课程笔记三——攻击和防御
weixin_39389001的博客
03-02 663
这一讲是：Attack and Defense 视频地址 Attack讲的是如何攻击机器学习 Defense讲的是如何来抵御这个攻击 攻击是比较容易的（现有的很多机器学习模型都容易被攻击）。防御却比较困难（如何有效防御，还有很远的路要走）。 文章目录1 动机2 Attack2.1 什么是机器学习攻击2.2 Attack的损失函数和约束条件2.2.1 损失函数2.2.2 约束条件2.3 如何解Att...
深度学习中模型攻击与防御（Attack DL Models and Defense）的原理与应用（李宏毅视频课笔记）
双鸭山•克里菲斯•北方孤星之堕
08-05 6378
文章目录0 前言1 Attack（模型攻击）1.1 Attack on Image Recognition Network Model（对图像识别网络模型的攻击）1.1.1 Loss Function for Attack1.1.2 Constraint（相似度的限制）1.1.3 Solution to Attack（求解攻击信号）1.1.4 Example1.1.5 Explanation of Attack1.2 FGSM（快速梯度下降法）1.3 Black Box Attack（黑盒攻击）1.3.1
深度学习：模型攻击（Model Attack）详解
m0_73640344的博客
10-16 1144
模型攻击展示了当今AI系统可能面临的安全威胁。为了确保这些系统的安全和可靠，开发和部署AI解决方案时必须考虑到这些潜在的攻击，并采取适当的防御措施。通过综合安全性设计、持续监控和适时更新，可以显著降低这些攻击对AI系统的影响。
机器学习-26-Attack ML Model and Defense(模型攻防)
迷雾总会解
12-20 1507
神经网络不仅是要用在研究上，最后更多的肯定要在各种有意义的应用中。因此model仅仅是对杂讯(噪声)robust和大部分时间work是不够的，还要去对抗恶意攻击(注意，这里不是说仅仅是对抗杂讯，而是所谓的，不暴露出弱点)。即使是垃圾邮件识别，人脸识别这种最基础广泛的领域，也存在着大量的攻击对抗。因此，对这方面的研究是十分重要的。
AI安全前沿：模型攻击与防御策略
2401_84466359的博客
09-01 2867
在训练阶段，攻击者借助数据投毒的方法，利用带有触发器（trigger）的训练数据将隐藏的后门嵌入深度神经网络（Deep Neural Network, DNN）中，致使给模型良性的样本时，模型会做出正确的预测，而当输入样本中出现攻击者定义好的触发器时，模型中被隐藏的后门会被激活，将输入样本分类到攻击者预先指定的分类中。因此后门攻击属于违反完整性的攻击。
机器学习训练过程中的模型攻击的类型
watqw的博客
05-04 3988
前言 所谓的模型攻击是指，恶意的用户干扰正常的机器学习过程，从而达到某种目的，而实施的一系列操作。 通常，一个机器学习过程有数据收集，训练模型两个主要过程。在数据收集阶段，采取的攻击，一般叫做数据投毒攻击。而在训练阶段采取的攻击，叫做模型投毒攻击。 数据投毒攻击 所谓的数据投毒攻击，是指在数据收集阶段，或者数据预处理阶段实施的攻击。 标签反转，如我们要训练一个识别图片的数字的模型。我们将一部分图片中数字为1的图片，标签转换的0，这样可以使得最终训练的模型的准确率大幅下降。 数据加噪，给训练集的数据加上一些噪
【大模型安全】模型对抗攻击手段
最新发布
大河之犬的博客
03-05 2224
对抗攻击通过对输入数据增加一些不易受到人类感知的扰动，使得模型在输入数据上产生错误的输出结果，从而干扰或破坏模型的性能和可靠性。数据投毒等攻击手段需要攻击者控制训练集等，而对抗攻击仅需针对模型生成特定扰动对抗攻击的核心思想是通过对输入数据进行微小的扰动，使其几乎无法被人眼察觉，但会对模型的预测结果产生显著影响。这些微小的扰动包括添加、删除或修改输入数据中的一些特征。例如，在图像分类任务中，对抗攻击者可以通过微调像素值或添加噪声，使图像看起来与原始图像几乎没有差异，但却能使模型将其错误分类。
机器学习8 -- 模型攻防（model attack & model defense）
热门推荐
谢杨易的博客
09-09 1万+
1 什么是模型攻防 1.1 攻防定义 我们在平常的深度学习模型开发中，一般关注的重点在模型指标上，比如ACC、F1、Bleu等。但其实还有另一方面需要注意，那就是模型攻防，特别是在人脸识别等安全领域。什么是模型攻击（model attack）呢？以图片分类为例，如下图。原始图片经过分类模型，可以正确识别是tiger cat。我们在图片上加入某些一定分布的噪声后，模型可能就会把它错误识别为其他类别，比如keyboard。 1.2 攻击条件 模型攻击必须满足两个条件 在原始图片上加入一定噪音，通过
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值