2015 · Foundations
Deep Unsupervised Learning using Nonequilibrium Thermodynamics
扩散生成模型的原始起点:从非平衡热力学理解前向加噪与反向生成。
A RESEARCH READING MAP · OCT 2026
面向学生与研究者的概率生成模型文献索引,当前重点收录扩散模型与 Flow Matching。 按研究问题分类,并以首次公开时间追踪进展。
CORE READING PATH
12 篇论文覆盖 diffusion、score/SDE、引导、潜空间、Flow Matching 与 Rectified Flow。建议按编号阅读,再进入专题分支。
必读建立主干;推荐补齐方法;前沿追踪新进展;背景提供统一视角。
2015 · Foundations
扩散生成模型的原始起点:从非平衡热力学理解前向加噪与反向生成。
2019 · Foundations
建立基于分数估计的生成建模路线,为后续 score-based diffusion 奠定目标函数。
2020 · Foundations
用 SDE 统一多类扩散过程,并给出反向 SDE 与 probability-flow ODE 两种视角。
2021 · Guidance
展示 classifier guidance 与强 U-Net 设计怎样把扩散模型推向高质量图像生成。
2021 · Latent diffusion
把扩散过程搬到压缩潜空间,奠定大规模文本到图像系统的基本架构。
2022 · Objectives
把网络预条件、噪声分布与采样器拆开分析,建立清晰且实用的设计空间。
2022 · Flow matching
以回归条件速度场训练连续归一化流,给出 diffusion paths 与 OT paths 的统一入口。
2022 · Flow matching
通过 rectification 与 reflow 学习更直的传输轨迹,连接 flow matching 与少步生成。
LATEST VERIFIED
按论文首次公开日期排序,而不是最新版提交日期;自动发现只生成候选,人工核对后才进入论文库。
架构与规模化
Xiaoyu Wu, Yifei Wang, Weihang Guo +4
Paper ↗蒸馏与少步生成
Woobin Park, Jaeyeon Kim, Yilun Du +2
Paper ↗蒸馏与少步生成
Jiawei Zhang, Ziyu Wan, Nanye Ma +5
Paper ↗理论分析与评测
Giulio Biroli, Marc Mézard
Paper ↗蒸馏与少步生成
Shanchuan Lin, Yansong Peng, Fu-Yun Wang +1
Paper ↗架构与规模化
Kaede Shiohara
Paper ↗METHOD MAP
主地图按研究问题组织:训练什么、怎样采样、如何控制、在哪个空间生成,以及怎样从随机扩散连接到确定性传输。
从热力学、score matching、SDE 与 continuous normalizing flow 建立统一数学背景。
score · SDE · ODE7 papers ↘噪声日程、预测目标、损失加权、预条件与训练稳定性。
ε · x₀ · v8 papers ↘DDIM、ODE/SDE solver、并行采样与速度—质量权衡。
NFE ↓ · quality ↑10 papers ↘classifier-free guidance、结构控制、个性化与图像编辑。
condition → trajectory13 papers ↘在压缩表示中训练扩散或 flow,以降低大规模生成成本。
x ↔ z5 papers ↘从 U-Net、DiT 到因果潜变量架构,以及高分辨率训练和系统扩展。
U-Net → DiT11 papers ↘progressive distillation、consistency、distribution matching 与单步生成。
many steps → one16 papers ↘Flow Matching、Conditional Flow Matching、Rectified Flow 与 stochastic interpolants。
dxₜ / dt = vθ17 papers ↘FULL LIBRARY
按标题、作者或标签搜索;按 12 个研究方向、阅读层级与首次公开时间筛选。每条记录均链接到论文一手页面。
为什么读在像素空间扩散模型内部学习层级表示,通过分组、压缩计算与解组恢复图像特征,并以批次级压缩预算允许分组随图像内容和扩散时刻变化。适合与 DiT、JiT 和 H-Net 对照,理解无需独立预训练视觉编码器时,视觉层级与自适应计算如何影响生成质量和训练效率;文生图扩展还展示了无区域标注的图文语义关联。
为什么读Priming Models 先用固定噪声级别的重建目标预训练,再进行特征空间中的分布匹配后训练。它为比较单步生成方法的训练复杂度与生成质量提供了一条简洁路线,可与扩散蒸馏、Consistency 和 MeanFlow 对照阅读。
为什么读SMD 以 on-policy 速度回归进行少步蒸馏,用仅训练时使用的 Pivot 残差代理分离局部速度变化与区间平均预测,不增加部署模型。适合与 DMD、Consistency 和 MeanFlow 对照,理解回归式蒸馏如何简化训练并支持 4-NFE 生成。
为什么读将数据与 OU 加噪变量的耦合联系到熵正则最优传输,比较扩散、流匹配和 OT 的模态分化机制,并给出反向 score 动力学的变分原理,是连接生成模型、最优传输与统计物理的理论读物。
为什么读把少步生成从固定噪声时间网格改写为数据空间中的自我细化,在几乎不改动 DMD 的前提下去掉 schedule search;是比较 flow-space iteration 与迭代精炼路径的一条清晰新基线。
为什么读以仅增加一层线性预测头的方式,让 VAE 从训练数据学习自回归潜变量先验,缓解先验—后验分布缺口;它以非量化、非迭代的祖先采样挑战 AR-Diffusion,是理解生成质量与推理速度权衡的一条有趣替代路线。
为什么读将机器学习力场扩展为可学习的 Langevin 随机积分器,以大时间步推进分子动力学,并考察动力学性质的准确性与跨分子迁移。适合研究 flow maps 在科学模拟中的应用,以及加速采样与保持物理动力学之间的取舍。
为什么读从噪声训练样本上的 NTK Gram 谱解释扩散模型为何先学习分布结构、后记忆单个样本,并给出抑制记忆的谱正则化线索。
为什么读以逐步降噪的局部目标训练带循环状态的概率流,使模型无需长程反向传播也能积累推理计算,并通过更细时间网格实现推理时扩展与多解生成。
为什么读以 Fisher–Rao 几何统一扩散与流模型的奖励微调和未归一化密度采样,将模型更新解释为规范模型流形上的 Newton 迭代,并在给定假设下分析理想迭代的收敛性。适合与 Adjoint Matching 对照,理解不同回归目标的分布含义及近似是否保留目标分布。
为什么读以时间无关速度场连接分布,并从 Beckmann 输运的通量约束推导可直接学习的单步生成映射,统一 autonomous flow、Poisson flow 与 equilibrium matching。
为什么读将确定性 flow map 推广到加性噪声 SDE 的强解映射,为扩散模型提供保留随机路径信息的 simulation-free 训练与少步采样框架。
为什么读GRAM 将确定性的递归推理改写为随机潜变量轨迹,用摊销变分推断训练,并沿递归深度与并行轨迹数量两个方向扩展推理计算。它兼顾条件推理与无条件生成,属于概率潜变量生成架构而非扩散语言模型,可与 Thinking with Looped Flows 对照阅读。
LEARNING RESOURCES
专著用于系统建构,课程与教程帮助补齐推导,博客建立直觉,代码用于复现。资源与论文分别统计,并优先链接作者、课程或出版社的一手页面。
Lilian Weng → MIT OCW → Annotated Diffusion
MIT 6.S184 → The Principles of Diffusion Models
Yang Song → Score / SDE 论文 → Max Welling 等专著
13 项学习资源
系统教材 · MIT Press · forthcoming 2027
Chieh-Hsin Lai, Yang Song, Dongjun Kim, Yuki Mitsufuji, Stefano Ermon
从变分、score-based 与 flow-based 三种视角统一扩散模型,覆盖训练目标、采样、引导与 Flow Matching。官网提供公开版本、代码、勘误和教学指南。
理论进阶 · Cambridge University Press · 2026
Max Welling, Sirui Lu, Lars Holdijk
以自由能为主线连接生成式 AI 与随机热力学,串联变分推断、最优控制、最优输运、Normalizing Flow 和扩散模型。
系统学习 · Yang Song · Blog
Yang Song
从 score function、Langevin dynamics 讲到连续时间 SDE 与 probability flow ODE,是理解 score-based generative modeling 的经典长文。
快速入门 · Lil'Log · Blog
Lilian Weng
以清晰的推导串联扩散过程、去噪目标、条件生成与加速采样,适合作为进入论文主线前的第一篇概览。
理论进阶 · Sander Dieleman · Blog
Sander Dieleman
从扩散 ODE 的局部速度积分出发,统一解释 Flow Map、Consistency Models 与 MeanFlow,系统比较 compositionality、Lagrangian 和 Eulerian 三类一致性条件,并串联蒸馏、从零训练、一步与少步采样、奖励引导和离散数据扩展。
系统课程 · MIT 6.S184 · Course
Peter Holderrieth, Ezra Erives
系统覆盖概率路径、Flow Matching、扩散模型、采样与现代生成模型实践;适合配合核心论文路径按周学习。
快速入门 · MIT OCW · Video tutorial
Yang Song, MIT OpenCourseWare
面向初学者的视频教程,从生成建模问题出发解释扩散与 score-based 方法的核心直觉。
系统学习 · CVPR · Tutorial
CVPR 2022 Tutorial
覆盖扩散模型的理论基础、条件生成、逆问题与应用,适合作为早期代表性工作的专题复习入口。
快速入门 · Hugging Face · Tutorial
Niels Rogge, Kashif Rasul
用带注释的 PyTorch 实现逐步拆解 DDPM,帮助读者把论文公式对应到可运行的训练与采样代码。
系统学习 · arXiv:2412.06264 · Guide
Yaron Lipman, Marton Havasi, Peter Holderrieth, Neta Shaul, Matt Le +5
从连续归一化流、条件概率路径到训练与采样,给出 Flow Matching 的完整推导和配套实现。
快速入门 · arXiv:2406.08929 · Tutorial
Preetum Nakkiran, Arwen Bradley, Hattie Zhou, Madhu Advani
以逐步推导和基础概率知识解释扩散模型,适合需要先补齐数学细节再进入原始论文的读者。
系统学习 · CVPR 2026 · Tutorial
Chieh-Hsin Lai, Subham Sahoo, Dongjun Kim, Yang Song, Yuki Mitsufuji +1
面向连续与离散扩散的快速生成教程,系统讲解 ODE 采样、少步蒸馏、Consistency 与 Flow Map 方法、离散一致性蒸馏,以及支持少步生成和推理时扩展的采样器,并配有实践演示。
代码实践 · facebookresearch · GitHub
Meta FAIR
模块化的 Flow Matching Python 工具箱,包含概率路径、solver、loss 与示例,适合复现概念并搭建研究原型。
MAINTENANCE
GitHub Actions 定期检索 diffusion model、score-based model、flow matching、rectified flow 等 arXiv 关键词。
自动化只创建候选 issue;相关性、主分类、阅读层级与元数据由实验室成员确认。
数据校验、重复检查与构建通过后,GitHub Pages 自动更新;发布日期统一使用 first-posted。
SOURCES & CREDIT
用于交叉核对基础阅读主线;本站扩展了 Flow Matching 与 2024–2026 年工作。
作为扩散模型方向的广域 watchlist;本站重新核对一手链接并独立分类。
用于跟踪 flow matching、rectified flow、几何方法及应用分支。
用于梳理 Flow Map、Consistency、MeanFlow 与少步蒸馏主线;本站筛选其核心方法论文并回到一手记录核对。
标题、作者、首次公开日期与论文链接以一手记录为准;不转载论文摘要。