Adversarial Diffusion Distillation

最新推荐文章于 2025-08-20 18:02:53 发布
最新推荐文章于 2025-08-20 18:02:53 发布
阅读量523 收藏 5
点赞数 3
CC 4.0 BY-SA版权
文章标签： 计算机视觉 人工智能 stable diffusion
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43446879/article/details/136907834
本文介绍了一种新型方法AdversarialDiffusionDistillation(ADD)，它结合了扩散模型的高质量生成能力和GANs的快速速度，通过对抗训练和分数蒸馏优化，能在1-4步内生成高真实性的图像，且在复杂图像处理上表现出色。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Adversarial Diffusion Distillation

1. Motivation

  • 扩散模型中的迭代推理过程需要大量的采样步骤，这目前阻碍了它们的实时应用。
  • 生成对抗网络（GANs）有着单步形式和固有速度的特点，但是生成图片质量相比于DMs较差
  • 本工作的目标是将扩散模型（DMs）的生成高质量样本的能力与生成对抗网络（GANs）固定的速度结合起来。

2.Contribution

  • 引入了ADD，这是一种将预训练的扩散模型转化为高保真、实时图像生成器的方法，仅使用1-4个采样步骤。
    • ADD方法采用了对抗训练和分数蒸馏(score-distillation)的组合，我们仔细分析了几种设计选择。
    • ADD显著优于强基线方法，如LCM、LCM-XL和单步GAN，并且能够处理复杂的图像构图，同时在仅一个推理步骤中保持高图像真实性。
    • 使用四个采样步骤，ADD-XL在5122像素分辨率下优于其教师模型SDXL-Base。

3. Method

请添加图片描述

  • τn=1000\tau_n= 1000τn​=1000
DBY9909
关注
【深度学习】Adversarial Diffusion Distillation，SDXL-Turbo 一步出图
q742971636的博客
12-03 1425
对于基线，我们使用了最好的公开可用模型：潜在扩散模型[50, 54]（SD1.5 1，SDXL 2），级联像素扩散模型[55]（IF-XL 3），蒸馏扩散模型[39, 41]（LCM-1.5，LCM-1.5-XL 4），以及OpenMUSE[48]，MUSE[6]的重新实现，这是专门为快速推理开发的变压器模型。学生预训练（表1c）。最近，[13]的作者展示了基于分数的模型与GANs之间的强关系，并提出了Score GANs，这些GANs是使用来自扩散模型的基于分数的扩散流进行训练的，而不是使用鉴别器。
sdxl-turbo:adversarial diffusion distillation
liguandong
12-11 749
2.蒸馏，目前包括lcm_lora在内的方法，都是对扩散的去噪过程进行蒸馏，从之前的五十步，三十步道1-4步即可出图。注意文生图算法通常来说，包括两个维度，1.模型架构维度，vae encoder+diffusion+vae decoder，通常再包括一个clip encoder给text侧做embedding，2.扩散理论的加噪和去噪的训练和采样过程，模型架构可以一样，但是在加噪和去噪上同样可以有多种方法的改进，比如采样器，cm，lcm，lcm-lora以及sdxl-turbo这种。
【论文笔记】Adversarial Diffusion Distillation
xhyu61的博客
10-14 1224
「我是土生土长的罗浮持明，曾以『丹朱』之名拜师求艺。但师父陷入政争，被流放他乡，我也随她远走。如今改换姓名『衣锦还乡』，真是感慨万千。」——《崩坏：星穹铁道》灵砂
扩散模型对抗蒸馏：ADD 和 Latent-ADD
weixin_44966641的博客
10-21 1704
ADD 和 LADD 是 SD 系列同步推出的模型加速方法，结合对抗训练和蒸馏训练，提高模型的生图速度的同时兼顾生成质量，分别训练出了 SDXL-Turbo、SD3-Turbo 等模型，在开源加速模型中有比较大的影响力。
（2023，SDXL-Turbo，少步生成，对抗损失，分数蒸馏损失）对抗扩散蒸馏
qq_44681809的博客
03-26 2306
本文介绍对抗扩散蒸馏，它使用分数蒸馏来利用现成的大规模图像扩散模型作为教师信号，并结合对抗损失来确保即使只有一到两个采样步骤，图像的保真度也很高。
Diffusion:从Score-based (DM) 到 Distillation-based (CM)再到Consistency Trajectory Models（CTM）
wangcr_pangge的博客
11-20 886
diffusion model是生成模型的新贵，近年在图像生成领域火爆出圈，当然，其实在笔者所研究的声音合成领域，diffusion也能表现非凡。笔者初闻diffusion是在大二的随机过程课上，可惜当时也学得不是很懂/doge。借着学习近期论文Consistency Trajectory Models的机会，我们来好好梳理一下diffusion model的发展历程。和。我们下面就以这两类的发展历程来diffusion model的种种细节。在正式开始前，我们先来学习一些基础的数学知识！
知识蒸馏—原理+代码实战(Distillation CNN 和 Progressive Distillation Diffusion)
热门推荐
ZhengrongYue的博客
11-28 1万+
知识蒸馏—原理+代码实战(Distillation CNN 和 Progressive Distillation Diffusion)
The paradox of diffusion distillation 扩散蒸馏的悖论
cdxxsq的博客
04-02 815
扩散模型将生成高维分布数据的困难任务分解为许多去噪任务，每个任务都相对容易得多。我们训练它们一次解决其中一个任务。为了抽样，我们顺序进行多次预测。这种迭代细化是它们强大能力的来源。……真的是这样吗？近期关于扩散模型的很多论文都集中在减少所需的抽样步骤上；一些工作甚至旨在实现单步抽样。当将任务分解为许多更简单的步骤被认为是这些模型首先能够如此良好工作的原因时，这似乎有点违反直觉！在这篇博客文章中，让我们更仔细地看看减少扩散模型获取好结果所需的抽样步骤的各种方法。
Stable Diffusion：AI人工智能领域的创新突破
AI天才研究院
05-09 1050
随着深度学习技术的飞速发展，生成式人工智能（Generative AI）已成为当前技术领域的核心热点。Stable Diffusion作为扩散模型（Diffusion Model）的典型代表，首次实现了高质量图像生成的商用级落地，引发了AI绘画、内容创作等领域的颠覆性变革。本文将从技术原理、算法实现、工程实践和应用场景四个维度，全面解析Stable Diffusion的核心技术架构，揭示其在图像生成任务中超越传统模型（如GAN）的关键优势，并通过实战案例演示如何利用开源工具快速构建图像生成系统。核心概念。
2024年了，Diffusion模型还有什么可做的？
CV_Autobot的博客
07-11 493
作者|叫我Alonzo就好了 编辑| AI生成未来原文链接：https://www.zhihu.com/question/647875443/answer/3432594698点击下方卡片，关注“自动驾驶之心”公众号戳我-> 领取自动驾驶近15个方向学习路线>>点击进入→自动驾驶之心『扩散模型』技术交流群本文只做学术分享，如有侵权，联系删文纯属brainstorm，欢迎大...
NeRF-Diffusion系列文章阅读
Iron_lyk Blog
06-08 2838
（外貌，纹理）。最后渲染出的图像不仅用GT来监督，还用CLIP loss来监督。在预训练扩散模型火爆之后，这一系列的工作逐渐开始使用预训练扩散模型（Imagen/Stable-diffusion）作为guidance，最初的文章是DreamFusion，它提出了SDS损失，后续的工作都是基于SDS来做的。这里对SDS（Score Distillation Sampling）做一个回顾。
去噪扩散概率模型（DDPM）
whaosoft143ai的博客
10-12 1108
具体来说，为了在两个域 A 和 B 之间执行风格迁移，本文使用在域 A 上训练的扩散模型对来自域 A 的图像进行编码，然后使用在域 B 上训练的扩散模型进行解码。研究者在 ImageNet 64x64 和 CIFAR-10 上进行了实验，结果表明提出的蒸馏模型只需 4 步就能生成在视觉上与教师模型媲美的样本，并且在更广泛的指导强度上只需 8 到 16 步就能实现与教师模型媲美的 FID/IS 分数，具体如下图 1 所示。在第二步中，他们利用提出的方法逐渐地将从第一步学得的模型蒸馏为更少步骤的模型。
【计算机视觉与深度学习实战】07基于Hough变换的答题卡识别技术：原理、实现与生物识别拓展（有完整代码）
nmdbbzcl的博客
08-19 144
本文通过对基于霍夫变换的答题卡识别技术的深入分析，不仅展示了经典计算机视觉算法在教育信息化中的实际价值，更重要的是探索了该技术向生物图像分析领域拓展的可能性。这种跨领域的技术迁移体现了计算机视觉算法的通用性和可扩展性，为传统算法的现代化应用提供了新的思路。在答题卡识别的具体实现中，我们提出的多层次预处理策略有效解决了实际应用中面临的图像质量问题。自适应二值化方法能够处理光照不均匀的情况，形态学滤波组合策略能够在去除噪声的同时保持边缘信息的完整性，基于中位数的角度估计方法提高了倾斜检测的鲁棒性。
【计算机视觉与深度学习实战】03基于Canny、Sobel和Laplacian算子的边缘检测系统设计与实现
nmdbbzcl的博客
08-16 183
本文设计和实现的边缘检测系统在多个方面体现了现代图像处理应用的先进特性。首先，系统通过集成三种经典的边缘检测算法（Canny、Sobel、Laplacian），为用户提供了全面的边缘检测解决方案。每种算法都提供了丰富的参数控制接口，使得用户能够根据具体的应用需求进行精细调节。系统的模块化设计确保了良好的可扩展性，新的边缘检测算法可以很容易地集成到现有框架中。在用户体验方面，系统实现了直观的图形用户界面，支持实时参数调节和即时结果预览。
【arXiv2025】计算机视觉|FGA：即插即用！让你的模型精准预测人群密度！
m0_51665349的博客
08-18 420
本研究提出了傅里叶引导注意力（FGA），一种用于人群计数估计的新型注意力机制，旨在解决现有基于卷积的注意力网络中全尺度全局模式捕获效率低下的问题。FGA 通过利用快速傅里叶变换 (FFT)以及针对全局特征的空间注意力和针对半全局和局部特征的通道注意力卷积来有效地捕获多尺度信息，包括全尺度全局模式。FGA 的架构涉及双路径方法：（1）通过 FFT 处理全尺度全局特征的路径，从而有效提取频域信息；（2）使用传统卷积和通道注意力处理剩余特征图以获取半全局和局部特征的路径。这种双路径架构使 FGA 能够无缝集成。
【完整源码+数据集+部署教程】无人机目标检测系统源码和数据集：改进yolo11-efficientViT
2301_78772942的博客
08-18 849
【完整源码+数据集+部署教程】无人机目标检测系统源码和数据集：改进yolo11-efficientViT
YOLO12 改进、魔改｜频域自注意力求解器FSAS,通过频域高效计算自注意力，在降低时间与空间复杂度的同时保留关键特征信息，提升遮挡、小目标检测
qq_64693987的博客
08-17 721
FSAS是一种基于频域的自注意力机制，通过快速傅里叶变换将传统空间域O(N²)复杂度的注意力计算转换为频域O(NlogN)运算。该方法将查询和键特征转换到频域进行元素乘积计算相关性，再逆变换回空间域生成注意力图，显著降低了高分辨率图像处理的计算成本。FSAS能同时保留图像的高频（细节）和低频（全局）信息，在目标检测和图像分割任务中表现优异，尤其适合与YOLO系列模型结合提升小目标和遮挡场景的检测精度。论文还提供了将FSAS集成到YOLOv12的具体代码实现方案。
DL00271-基于YOLOv11的激光雷达LiDAR船舶目标检测含完整数据集
最新发布
crasher123的博客
08-20 223
赶紧加入这场激动人心的研究革命吧！为未来的智能航行贡献你的力量。这项技术的应用，正在为海上智能监控与自动驾驶船舶开辟全新局面！，让你能够轻松开展后续研究，并进行个性化的优化和实验！高校老师、学生和研究者们，前沿技术来了！为了帮助更多科研人员复现研究成果，本文提供了。
Adversarial Robustness
05-29
Adversarial Robustness，中文称为对抗鲁棒性，是指机器学习模型在面对人为制造的对抗样本（即通过对原始样本加入一定的扰动使其被误分类）时，仍能保持良好的性能表现。目前，对抗攻击已经成为机器学习中重要的研究...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值