Diffusion蒸馏相关

现有算法汇总

渐进式蒸馏（Progressive distillation）

[2202.00512] Progressive Distillation for Fast Sampling of Diffusion Models (arxiv.org)

一致性蒸馏（Consistency distillation）

LCM: [2303.01469] Consistency Models (arxiv.org)

基于Gan的蒸馏

DiffusionGAN(UFOGAN)： [2311.09257] UFOGen: You Forward Once Large Scale Text-to-Image Generation via Diffusion GANs (arxiv.org)

MobileDiffusion: MobileDiffusion: Rapid text-to-image generation on-device (research.google)

开源算法效果质量测试

InstaFlow: 0.9B，只能单步推理，并且guidance_scale=0.0, infernece_step=1 sdxl-turbo: 可以单步可以多步，guidance_scale=0.0 sdxs: 只能单步推理，guidance_scale=0.0 lcm: 需要多步推理，不然效果不好