【无标题】

diffusion model

在这里插入图片描述

  • latent diffusion :先对图片降维,然后在降维空间做diffusion;stable diffusion即基于此方法实现的,因此计算量很小;
    在这里插入图片描述
  • 共用降噪网络U-Net:输入noisy image+step,告诉网络当前的噪声等级;预测出来噪声,noisy image-noise,得到降噪之后的图片;然后继续送进网络,再做一次这样的推理;

stable diffusion

在这里插入图片描述

  • stable diffusion的推理流程:CLIP模型对文本进行编码,得到文本-图片共享域的embedding;然后送给lattent diffusion,最后输出经过解码器重建为高清图片。

  • diffusion 正向流程是图片加白噪声,具体加的方法看schedule的设置,比如每次加一定量;或者先加的少,后加的多—图片特征损失的比较慢;高斯噪声可以累加,因此在设置step=100的时候,实际上每一步的结果都可以直接推出来了;
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

  • stable diffusion的输入【step, noisy image,文本特征】,为了加强文本对生成内容的控制,引入classifier free guidance进行控制;有文本控制和没有文本控制的情况下,生成两种噪声,互减之后的部分既是文本引导改变的噪声部分,乘一定的系数对文本引导改变的结果进行加强,再加上没有文本引导部分的噪声,合并成本轮预测的噪声。

  • 进阶玩法:

相关推荐

  1. 标题

    2024-04-13 09:18:03       72 阅读
  2. 标题

    2024-04-13 09:18:03       69 阅读
  3. 标题

    2024-04-13 09:18:03       67 阅读
  4. 标题

    2024-04-13 09:18:03       77 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-04-13 09:18:03       98 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-04-13 09:18:03       106 阅读
  3. 在Django里面运行非项目文件

    2024-04-13 09:18:03       87 阅读
  4. Python语言-面向对象

    2024-04-13 09:18:03       96 阅读

热门阅读

  1. Python 装饰器

    2024-04-13 09:18:03       34 阅读
  2. 【QT教程】QT6_QML测试与调试技巧

    2024-04-13 09:18:03       32 阅读
  3. unicloud中文字段排序bug

    2024-04-13 09:18:03       138 阅读
  4. test4132

    test4132

    2024-04-13 09:18:03      37 阅读
  5. 二维数组得学习

    2024-04-13 09:18:03       134 阅读
  6. Scala详解(2)

    2024-04-13 09:18:03       77 阅读
  7. 数据库DMP格式备份文件

    2024-04-13 09:18:03       122 阅读
  8. 3d max快捷键命令大全

    2024-04-13 09:18:03       42 阅读
  9. 用自动LOD简化3D网格【Babylon.js】

    2024-04-13 09:18:03       43 阅读