当前位置: 首页 > news >正文

Diffusion系列 - Classifier Free Guidance 和 蒸馏 公式推导(五)

【待完成】。。。

介绍

推理时引导的方法中,也可以分为分类器引导(CG)和无分类器引导(CFG)两大类,后者是现代扩散模型的主流。

原理

CFG 的核心逻辑正是通过结合这两次预测的结果来增强条件信号的影响力。其常用公式为:
噪声预测 = 无条件预测 + 引导强度 × (条件预测 - 无条件预测)
其中,(条件预测 - 无条件预测) 代表了提示词让模型产生的“偏移量”,引导系数大于1时,就相当于把这个偏移量放大,逼迫模型更朝着符合提示词的方向生成。

局限与加速方案

因为每一步都需要计算两次,CFG 的主要代价就是高昂的计算成本和推理时间,这也使得整体推理速度几乎减半。
针对这一问题,目前有以下几种优化思路:

  • 自适应引导(如 Step AG):研究发现,在去噪过程的后期(信噪比较高时),条件预测和无条件预测的方向趋于一致,CFG的作用减弱。因此,Step AG 策略仅在去噪过程的前 30%~50% 步骤中应用两次前向传播的 CFG,后半程仅做单次条件预测,这样能在质量基本不降的情况下节省 20%~30% 的推理时间。
  • CFG 蒸馏:将使用了 CFG 的教师模型的结果直接蒸馏到一个新的学生模型中,并将引导强度作为嵌入输入新模型,这样在新模型推理时就不再需要两次前向传播,只需单次即可实现类似效果。

蒸馏

DMD 蒸馏全称为分布匹配蒸馏,是一种用于大幅加速扩散模型推理过程的技术。它的核心目标是将原本需要几十步甚至上百步迭代的扩散模型,转换成仅需单步或少步(如4步)即可生成高质量图像的快速生成器。
经过 DMD(分布匹配蒸馏)及其变体蒸馏后的模型,在推理时通常 不再需要CFG的两次前向传播 ,而是可以直接通过单次前向传播生成图像。
这主要得益于蒸馏过程将 CFG 的效果直接“烘焙”进了生成器中。

http://www.jsqmd.com/news/839158/

相关文章:

  • 2026 年海口手表回收选择指南:正规流程与报价解析 - 奢侈品回收测评
  • 适合闺蜜送礼的保温杯推荐:2026年颜值设计、IP联名与礼物属性全对比 - 科技焦点
  • 指标口径如何校准?多币种云充值重塑2026出海云运维收益
  • DirectX12画三角形时,GPU命令队列、围栏和资源屏障到底在干嘛?
  • 5分钟快速上手:Koikatu HF Patch完整安装与使用指南
  • 歌词滚动姬:重新定义歌词时间轴同步的专业级工具
  • 2026 北京黄金回收如何抉择门店,安全靠谱首选收的顶 - 奢侈品回收测评
  • 第一次blog作业分析
  • 别再手动建模了!Multisim 14.2 导入LTspice模型库的保姆级避坑指南
  • Claude Code用户如何迁移到Taotoken解决封号与token不足困扰
  • 2026雅思哥会员买哪个?VIPLite、VIP、SVIP区别与性价比推荐 - 品牌2025
  • 对比直接使用官方API,Taotoken在用量可视性与账单追溯上的优势
  • 2026年5月市政水务4-20mA电磁流量计国产厂家排名 - 水质仪表品牌排行榜
  • 射频链路中 Coupler(耦合器)的作用分析
  • 2026杭州玻尿酸产品:下巴、面颊、颞部等部位的产品搭配方案 - charlieruizvin
  • 做了5年电力运维,教你挑靠谱无人机电力巡检公司 - 速递信息
  • 【2026最新】Windows 11 彻底关闭自动更新全指南:从底层服务到注禁止win11自动更新的 6 种高效方法
  • 【会议征稿通知 | 南京师范大学主办 | IEEE出版 | EI 、Scopus稳定检索】第七届电气技术与自动控制国际学术会议(ICETAC 2026)
  • 泉州黄金回收哪家靠谱?2026丰泽/鲤城/晋江实体门店盘点,上门回收当场结算 - 润富黄金珠宝行
  • 2026年部分水质分析仪高性价比厂家推荐参考:国内主流供应商选型深度分析 - 高先生12138
  • 别再乱设过期时间了!深入Minio分享链接与临时凭证的时效性管理
  • XUnity自动翻译器:5分钟快速上手指南,打破游戏语言壁垒
  • 沃尔玛购物卡回收全流程,轻松变现! - 团团收购物卡回收
  • 磁力搜索聚合工具:23个站点一站式资源查找解决方案
  • 厦门名包回收认准这一家:无套路、不压价、全程透明 - 奢侈品回收测评
  • 2026年交通事故勘查系统市场升级:这样选更靠谱 - 速递信息
  • 如何快速配置XXMI启动器:面向游戏玩家的终极模组管理指南
  • 三步解密Python打包文件:从黑盒到源码的完整提取路径
  • 2026年实测3款论文降AI工具:手动+工具高效搞定降AIGC率 - 降AI实验室
  • 2026年新疆铁路汽车托运公司推荐:私家车托运/二手车托运/商务车托运优选服务商 - 品牌推荐官