学习地图
实线索引用于阅读前置;不代表历史继承或实证优劣。每篇文内单独解释实际借鉴与比较。
1. 压缩与离散生成
Section titled “1. 压缩与离散生成”- 生成模型的基本语言
- 自编码器:有用的瓶颈
- VAE:同时学习重建与采样
- VQ-VAE:学习离散字典
- VQ-VAE-2:分开全局结构与局部细节
- Attention、掩码与下一 token 预测
- “图像更好”的三种含义
- VQGAN:保留感知细节的 tokenizer
- VAR:预测下一尺度,而非下一个 patch
2. Transformer 重建
Section titled “2. Transformer 重建”3. 扩散与 flow
Section titled “3. 扩散与 flow”- 扩散与 flow:学习从噪声出发的路径
- DiT:latent 扩散内部的 Transformer
- DiTo:通过去噪学习 tokenizer
- FlowMo:Transformer 通过 flow 重建图像
4. 共享语义表征
Section titled “4. 共享语义表征”- 语义特征:对哪种任务有用?
- RAE:解码冻结的表征
- MAETok:先塑造空间,再改善解码
- UniTok:拆分编码,共享表征
- VILA-U:一套视觉塔,连接理解与生成
- AToken:连接语义、连续与离散表示