MAETok：先塑造空间，再改善解码

交互教程

tokenizer 可先学习更易生成的空间，再训练更好的像素解码器。

之前已经能做什么

只做重建的瓶颈奖励像素细节；RAE 继承冻结表征。MAETok 探索中间路线：学习连续 tokenizer，同时用遮罩与辅助目标组织 latent 空间。

Transformer 编码器将可见图像信息压缩为一维 latent tokens。浅层辅助解码器预测 HOG、预训练 DINO/CLIP 特征等目标，同时像素解码器负责图像重建。额外预测任务使表征不只拟合像素。

阅读顺序从左到右。点击模块，将它与计算和代码对应。代码为教学伪代码；来源链接提供论文方法或已核查的实现。

瓶颈是连续的，不是 VQ 码本查找。

visible = select_visible(patches,mask)
z = encoder(visible,latent_slots)

浅层头预测侧重点不同的目标。

loss_aux = target_losses(aux_heads(z),teacher_targets)

编码器固定时，解码器仍可改善。

z = stop_gradient(encoder(image))
loss_pixels = reconstruction_loss(decoder(z),image)

\mathcal{L}=\mathcal{L}_{\mathrm{pixels}}+\sum_j\lambda_j\mathcal{L}_{\mathrm{aux},j}

在演示中遮住 patch，查看哪些目标位置对编码器未知。训练样本仍保留目标，因此可以监督隐藏内容。真实模型需要利用上下文与学习先验。演示只显示可见性，不模拟特征预测。

论文使用 40–60% masking，直接移入原始 MAE 的 75% 默认值会改变方法。128 个连续向量也与 128 个离散 code ID 载荷不同，判断相同压缩率前应计入特征宽度与精度。

改变参数，查看计算值，再把它与上方的真实模型说明对照。

解析教学模型 · 控件改变的是例子，不是训练后的研究模型。

被隐藏 patch 数 8查看的 query 4

灰色位置的输入不包含目标真值，模型需要预测它们。

表征学习后冻结编码器，微调像素解码器以改善重建，再在 latent 上训练独立扩散模型。这个顺序在提升像素恢复能力时保持表征结构稳定。教师预训练属于依赖成本。

论文用混合模型分析解释更易扩散的动机，但这不是“任意真实数据上类别越可分、生成必然越好”的定理。本文依据论文阅读，未审计固定官方代码版本。

为什么解码器微调前冻结编码器？

它保留前期目标学出的 latent 空间，只改变从该空间恢复像素的方式。

本页图形与伪代码为教学重绘。论文报告、固定实现观察和解析示例分别标记；未运行研究模型。