AToken：连接语义、连续与离散表示
交互教程
统一 tokenizer 不必向每个下游任务提供完全相同的表示层。
之前已经能做什么
Section titled “之前已经能做什么”语义特征可支持识别，但连续载荷可能很大；压缩 latent 可支持重建；离散 code 则支持类别式生成。AToken 连接这些表示，并将视觉接口扩展到固定尺寸图像之外。
改变了什么，为什么
Section titled “改变了什么，为什么”从 SigLIP2 视觉塔出发，通过渐进训练引入低维连续 latent 与可选量化。Transformer 使用稀疏坐标 (t,x,y,z) 处理图像、视频及 3D 输入。在新增 4D RoPE 之外保留学习得到的二维绝对位置，以保存预训练空间结构。
阅读顺序从左到右。点击模块，将它与计算和代码对应。代码为教学伪代码；来源链接提供论文方法或已核查的实现。
预训练语义
保留有用的 SigLIP2 初始化。
semantic = pretrained_visual_tower(patches,ape)紧凑表示
任务接口可能访问不同阶段。
latent = compress(semantic)
codes = quantize(latent) if discrete_mode else latent位置感知重建
加入多轴旋转相位，同时保留指定 APE。
phase = sum(freq[axis]*coord[axis] for axis in axes)
output = decoder(tokens,rotary_phase=phase)逐步理解机制
Section titled “逐步理解机制”坐标演示固定图像 x、y 相对位移，改变时间与深度相对位移，观察它们对单个旋转相位的贡献。静态图像可令 t、z 均为零。四个轴描述输入坐标，不代表每张图都有四个非零空间维度。
演示频率为便于计算而选，并非模型参数。真实表示还包含内容与预训练绝对位置，因此 AToken 可说明“加入 RoPE 必须删除所有 APE”并非通则。
改变参数，查看计算值，再把它与上方的真实模型说明对照。
解析教学模型 · 控件改变的是例子，不是训练后的研究模型。
虚构频率仅用于展示四轴相位；静态图像可将时间与深度差设为零。
| 量 | 值 |
|---|---|
| 相位（弧度） | 1.500 |
| 单位通道对内积 | 0.071 |
训练与采样的区别
Section titled “训练与采样的区别”训练使用感知及 Gram 矩阵目标替代对抗训练。Gram 矩阵比较特征相关性，因此可在无需学习判别器的情况下约束纹理统计。无 GAN 仍有感知特征依赖；不同任务也可能读取不同表示阶段。
这些结果不能证明什么
Section titled “这些结果不能证明什么”本文依据论文及作者页，未核验可复现实验的官方代码提交。不能将最佳语义分数与最佳压缩结果视为来自完全相同瓶颈。仅做图像实现时，应先区分图像网格坐标与全局 slot 身份，再扩展视频或 3D。
为什么图像可以使用四轴位置接口？
未使用轴可固定为零；接口能表示多种模态，不要求各模态在所有轴上变化。
来源与后续阅读
Section titled “来源与后续阅读”本页图形与伪代码为教学重绘。论文报告、固定实现观察和解析示例分别标记；未运行研究模型。