AIGC 基本功|数据并行与 ZeRO 显存切分-ZeRO 数据并行与 ZeRO 显存切分 所属方向：分布式训练 ｜ 难度：进阶 ｜ 前置知识：无 关键词：数据并行、DDP、ZeRO、优化器状态切分、FSDP、显存占用估算 01. 为什么需要它 先算一笔会让很多人意外的账：训练一个 75 亿参数模型，模型权重明明只有 15 GB，为什么放进 80 GB 显存的 GPU 还会爆？ 假设用混合精度 Adam 训练。每个参数除了 2 字节的 FP16/BF16 权重，还要留下 2 字节梯度、4 字节 FP32 主权重、4 字节一阶动量和 4 字节二阶动量。合计不是 2 字节，而是 16 字节/参数： $$7.5\times10^9\times16\ \mathrm{bytes}=120\ \mathrm{GB}$$ 这 120 GB 还没有算激活、临时通信缓冲区、CUDA context 和显存碎片。换句话说，模型甚至没开始处理一帧视频，单是“为了训练而保存的状态”就已经放不下。 自然的反应是：“那我上 64 张卡。”可如果只用普通数据并行，每张卡都会保留完整的参数、完整的梯度和完整的 Adam 状态。64 张卡只是把不同 mini-batch 同时算得更快，每张卡看到的仍然是同一份 120 GB。总显存从 80 GB 变成 5120 GB，但单卡瓶颈一点没松，模型照样启动不了。 这就是 ZeRO 要解决的矛盾：数据并行已经拥有整个集群的总显存，却因为每张卡都复制同样的训练状态，只能使用其中一张卡的容量。ZeRO 不改变模型的数学计算，而是按顺序切掉三种冗余副本： ZeRO-1 切优化器状态； ZeRO-2 再切梯度； ZeRO-3 连参数也切，只在某一层即将计算时临时拼回来。 把刚才的 75 亿参数模型放到 64 个数据并行 rank 上，三阶段的模型状态显存分别是 31.41 GB、16.64 GB 和 1.88 GB。最后一个数字正好是 $120/64$。这些数字不是宣传页上的模糊“最高节省多少”，而是本文后面会逐项推出来、再用代码复现的结果。 对视频生成尤其要补一句：视频 DiT 的 token 数很长，激活往往比模型状态还大。ZeRO 能拆掉模型状态冗余，但不会自动消灭激活。先分清是哪一类显存爆了，再决定用 ZeRO、激活重计算还是序列并行，比盲目把配置改成 stage 3 更重要。 02. 最小可用理解 三句话先建立框架： 数据并行让每个 rank 保存同一个模型、读取不同数据，反向后把局部梯度求平均，因而数学上等价于在合并后的大 batch 上做一次同步更新。 既然所有 rank 最终拿到相同梯度，它们各自保存一整套 Adam 状态并重复做同一份更新就是冗余；ZeRO 把状态分片，每个 rank 只负责其中 $1/N$。 切得越彻底，常驻显存越少，但参数就越需要“用前聚合、用后释放”，因此省下的显存会转化成通信、调度和峰值控制问题。 如果只记一件事：DDP 是复制计算，ZeRO 是切分状态；ZeRO 没有改变梯度本身。 这里的 rank 可以先理解为一个独立训练进程，通常一个 rank 独占一张 GPU。$N$ 表示数据并行进程数，world_size 就是 $N$。每个 rank 处理本地 batch，但每一步结束后所有 rank 必须得到一致参数，否则下一步就不再是同一个模型。 03. 数学推导 3.1 为什么平均梯度等价于一个大 batch 设全局 batch 有 $B$ 个样本，均匀切给 $N$ 个 rank，每个 rank 得到 $b=B/N$ 个样本。模型参数记作 $w$，第 $i$ 个样本的损失是 $\ell(x_i;w)$。 第 $r$ 个 rank 的局部平均损失为： $$L_r(w)=\frac{1}{b}\sum_{i\in\mathcal{B}_r}\ell(x_i;w)$$ 其中 $\mathcal{B}_r$ 是 rank $r$ 拿到的样本集合，$b$ 是本地 batch size。对参数求导，得到局部梯度： $$g_r=\nabla_w L_r(w)=\frac{1}{b}\sum_{i\in\mathcal{B}_r}\nabla_w\ell(x_i;w)$$ 同步数据并行对所有局部梯度取平均： $$g=\frac{1}{N}\sum_{r=1}^{N}g_r=\frac{1}{Nb}\sum_{r=1}^{N}\sum_{i\in\mathcal{B}_r}\nabla_w\ell(x_i;w)=\frac{1}{B}\sum_{i=1}^{B}\nabla_w\ell(x_i;w)$$ 右边正是把所有样本放在一张卡上算全局平均损失所得到的梯度。等价成立依赖三个前提：损失能按样本分解且样本计算不因分组改变（如本地 BatchNorm 统计会破坏这一条件）；各 rank 从同一个参数 $w$ 出发；样本权重一致；更新前完成同步。若最后一个 batch 在各 rank 上不等长，仍然机械地“先本地平均再按 rank 平均”，样本就会被赋予错误权重。这也是分布式数据加载器必须谨慎处理尾 batch 的原因。 DDP 的核心任务由此非常明确：它不替你切输入，而是在 autograd 产生梯度后，把各 rank 的 $g_r$ 聚合成相同的 $g$。 3.2 先把 16 字节拆明白 设模型有 $P$ 个可训练参数，采用低精度前后向和 FP32 Adam 更新。每个参数对应： 低精度参数：2 字节； 低精度梯度：2 字节； FP32 主参数：4 字节； Adam 一阶矩 $m$：4 字节； Adam 二阶矩 $v$：4 字节。 后面三项统称优化器状态，共 12 字节。普通 DDP 每个 rank 的模型状态显存是： $$M_{\mathrm{DDP}}=(2+2+12)P=16P$$ 注意这是一个状态下界模型，没有包含激活等剩余显存。它的价值不是预测 nvidia-smi 到个位数，而是先回答“哪一类状态值得切”。 实际套公式时，$P$ 应取需要优化器更新的参数量，不是配置文件里笼统写出的模型总参数量。冻结的视觉编码器通常仍要保存推理权重，却不产生梯度和 Adam 状态；共享 embedding 在参数统计中也只能算一次。优化器同样会改常数：SGD 无动量时几乎没有 $m,v$，8-bit Adam 会压缩这两份状态，某些纯 BF16 配置也不保留 FP32 主参数。所以正确动作不是背住“训练恒等于 16 字节/参数”，而是先列出当前训练栈真正持有的张量，再把每一项的元素数乘 dtype 字节数。本文使用 16 字节，是为了与 ZeRO 原论文的混合精度 Adam 假设严格对齐。 3.3 ZeRO 三阶段到底切了什么 ZeRO-1：只切优化器状态。 参数和梯度仍然每卡各有一份，12 字节的 FP32 主参数与 Adam 两个矩按 $N$ 份切开： $$M_{\mathrm{Z1}}=4P+\frac{12P}{N}$$ 当 $N$ 很大，第二项趋近于 0，但第一项中的 2 字节参数和 2 字节梯度仍然复制，所以 ZeRO-1 的极限是 $4P$，相对 $16P$ 最多节省 4 倍。 ZeRO-2：再切梯度。 常驻的完整副本只剩 2 字节低精度参数；梯度与优化器状态合计 14 字节一起分片： $$M_{\mathrm{Z2}}=2P+\frac{14P}{N}$$ 当 $N$ 很大，极限是 $2P$，相对普通 DDP 最多节省 8 倍。这里“切梯度”不是说某个 rank 永远见不到别人的梯度，而是 reduce-scatter 聚合后，每个 rank 只保留自己负责更新的那一片结果，其余梯度用完即释放。 ZeRO-3：参数也切。 参数、梯度和优化器状态全部只保留 $1/N$： $$M_{\mathrm{Z3}}=\frac{16P}{N}$$ 这时单卡模型状态随卡数线性下降，理论上终于可以使用整个数据并行组的聚合显存。代价是某层计算前必须 all-gather 出完整参数，计算后再 reshard。这里的“完整”通常只针对一个 FSDP unit 或若干层，而不是一次把全模型永远拼回显存；包装粒度如果选错，峰值仍然可能爆掉。 代入 $P=7.5\times10^9$、$N=64$： DDP：$16P=120.00$ GB； ZeRO-1：$4P+12P/64=31.41$ GB； ZeRO-2：$2P+14P/64=16.64$ GB； ZeRO-3：$16P/64=1.875$ GB。 这与 ZeRO 原论文表 1中的 120、31.4、16.6、1.88 GB 对上了。论文使用十进制 GB；如果监控工具显示 GiB，同一字节数会小约 7.4%，比较数字前先统一单位。 3.4 显存省了，通信为什么没有立刻爆炸 设梯度张量大小为 $G$ 字节。高带宽 ring all-reduce 通常拆成 reduce-scatter 和 all-gather。忽略延迟、拓扑和协议常数后，每个 rank 在两个阶段分别移动： $$V_{\mathrm{RS}}=\frac{N-1}{N}G,\qquad V_{\mathrm{AG}}=\frac{N-1}{N}G$$ 因此普通 DDP 的总通信量近似为： $$V_{\mathrm{DDP}}=2\frac{N-1}{N}G\approx2G$$ ZeRO-1/2 把原来的 all-reduce 改排成“梯度 reduce-scatter + 更新后参数 all-gather”。在本文参数与梯度均为两字节的假设下，两者大小同为 $G$，理想总字节量仍约为 $2G$。若用 FP32 梯度而参数为 BF16，两项大小不同，不能直接沿用该字节比。区别在于数据留在哪里、何时释放，而不是凭空少传了一半。 ZeRO-3 还要在前向和反向各聚合一次参数，再做梯度 reduce-scatter。按 ZeRO 论文用参数元素数 $P$ 计量，普通数据并行约移动 $2P$ 个元素，Stage 3 约移动 $3P$ 个元素，所以是基线的 1.5 倍。这个 1.5 倍假设参数/梯度通信 dtype 相同并采用所述聚合与释放调度，是理想带宽模型，不是训练时间必然乘 1.5：通信能否和计算重叠、跨没跨节点、消息是否太碎，都会改变真实结果。 3.5 别把模型状态公式当成整机显存公式 实际峰值更接近： $$M_{\mathrm{peak}}=M_{\mathrm{model\ states}}+M_{\mathrm{activations}}+M_{\mathrm{temporary}}+M_{\mathrm{runtime}}+M_{\mathrm{fragmentation}}$$ 第一项就是前面推导的参数、梯度和优化器状态。激活由 batch、序列长度、空间分辨率、层数和 checkpoint 策略决定；临时项包含 all-gather bucket、梯度 bucket 和算子工作区；runtime 包含 CUDA context、通信库等；碎片则取决于张量生命周期和分配器状态。 ZeRO 原论文给过一个很有提醒意义的例子：15 亿参数 GPT-2 的模型状态至少 24 GB；序列长度 1024、batch 32 时，激活约 60 GB，即使用激活重计算降到约 8 GB，临时 FP32 扁平缓冲还可能再占 6 GB。只看 $16P$ 判断“32 GB 正好能放下”会直接翻车。 模型状态随数据并行卡数的变化。固定 FP16 参数/梯度与 FP32 主权重及 Adam 状态，纵轴为十进制 GB；不含激活、临时聚合缓冲和运行时。 04. 代码实现 本节有两个完整脚本，均只依赖 Python 标准库。第一个复现论文显存表；第二个把 DDP all-reduce 与 ZeRO-2 的 reduce-scatter + all-gather 拆开，验证它们做出同一次 Adam 更新。完整代码在文末附录。 4.1 用公式生成显存账本 zero_memory_ledger.py 把每个阶段写成“每卡复制多少字节 + 分片多少字节”： STAGES = ( Stage("DDP", 16.0, 0.0, 1.0), Stage("ZeRO-1", 4.0, 12.0, 1.0), Stage("ZeRO-2", 2.0, 14.0, 1.0), Stage("ZeRO-3", 0.0, 16.0, 1.5), ) def bytes_per_parameter(self, world_size: int) -> float: return self.replicated_bytes + self.sharded_bytes / world_size replicated_bytes 是每个 rank 必须完整保留的部分，sharded_bytes 是可以除以 $N$ 的部分。默认参数就是论文的 7.5B/64 卡案例。实际运行： model=7.5B, world_size=64 assumption: fp16 params 2B + fp16 grads 2B + fp32 master/m/v 12B = 16 bytes/parameter stage bytes/param model-state GB vs DDP comm/step GB DDP 16.0000 120.00 1.00x 30.00 ZeRO-1 4.1875 31.41 3.82x 30.00 ZeRO-2 2.2188 16.64 7.21x 30.00 ZeRO-3 0.2500 1.88 64.00x 45.00 note: activation, temporary buffers and fragmentation are excluded 为什么 64 卡的 ZeRO-1 只有 3.82 倍而不是宣传里的 4 倍？因为 4 倍是 $N\to\infty$ 的上限，有限卡数下 $12P/N$ 还没有消失。ZeRO-2 的 7.21 倍同理。ZeRO-3 没有复制项，所以恰好获得 64 倍。 再换成 1.5B/8 卡： model=1.5B, world_size=8 assumption: fp16 params 2B + fp16 grads 2B + fp32 master/m/v 12B = 16 bytes/parameter stage bytes/param model-state GB vs DDP comm/step GB DDP 16.0000 24.00 1.00x 6.00 ZeRO-1 5.5000 8.25 2.91x 6.00 ZeRO-2 3.7500 5.62 4.27x 6.00 ZeRO-3 2.0000 3.00 8.00x 9.00 note: activation, temporary buffers and fragmentation are excluded 这组数字揭示一个选型习惯：模型状态只差几 GB 时，ZeRO-1/2 往往已经够用；不必为了追求最低常驻显存直接承担 Stage 3 的参数聚合。 4.2 ZeRO 为什么没有改掉优化结果 zero_update_simulator.py 构造 4 个 rank、8 个参数。每个 rank 看见不同数据，因此产生不同局部梯度。DDP 路径先得到完整平均梯度，再完整执行 Adam；ZeRO-2 路径只把平均梯度对应的两元素分片交给各 rank，每个 rank 维护自己的 $m,v$，更新后再把四个参数片聚合起来。 核心区别只有分片发生的位置： reduced_full_grad = average_columns(local_grads) ddp_params, ddp_m, ddp_v = adam_first_step(PARAMS, reduced_full_grad) param_shards = shard(PARAMS, WORLD_SIZE) grad_shards = shard(reduced_full_grad, WORLD_SIZE) updated_shards = [] for params_for_rank, grads_for_rank in zip(param_shards, grad_shards): updated, local_m, local_v = adam_first_step(params_for_rank, grads_for_rank) updated_shards.append(updated) zero_params = [value for part in updated_shards for value in part] 真实运行输出： world_size=4, parameter_count=8, shard_width=2 local gradient matrix shape=(4, 8) reduce-scatter result shape=(4, 2) averaged gradient: [0.02, 0.045, 0.07, 0.095, 0.12, 0.145, 0.17, 0.195] DDP updated params: [0.099, -0.201, 0.299, -0.401, 0.499, -0.601, 0.699, -0.801] ZeRO-2 gathered params: [0.099, -0.201, 0.299, -0.401, 0.499, -0.601, 0.699, -0.801] max_abs_diff=0.000000000000 Adam m/v scalars per rank: DDP=16, ZeRO-2=4, reduction=4.00x max_abs_diff=0 是本文最重要的代码结果：同一份平均梯度、同一优化器规则下，把参数更新分给不同 rank 并不会改变更新后的模型。每卡 Adam 的 $m,v$ 元素数则从 16 降到 4，正好是 4 倍。真实系统还需要 bucket、异步通信、混合精度和异常恢复，但数学骨架就是这几十行。 05. 工业级实现对照 最小实现为了看懂“切什么”，生产实现要解决的则是“什么时候切、什么时候聚合、怎么让网络传输藏在计算后面”。下面以 2026-09-05 可见的官方实现为准。 5.1 PyTorch DDP：复制参数，反向时同步梯度 PyTorch 的 DistributedDataParallel 采用一进程一卡。它不会自动切分输入；应用通常用 DistributedSampler 保证不同 rank 读取不同样本。模型参数在每卡完整复制，autograd hook 在反向过程中把就绪梯度装进 bucket，并尽早发起 all-reduce，以便通信和后续层反向计算重叠。 这解释了两个常见现象：第一，DDP 通常比单进程 DataParallel 快，因为没有主卡收集和 Python 线程瓶颈；第二，DDP 加卡能缩短时间，却不会降低模型状态的单卡显存。它首先是一种吞吐扩展方案，不是大模型装载方案。 5.2 ZeroRedundancyOptimizer：最小改动的 Stage 1 思路 PyTorch 的 ZeroRedundancyOptimizer 可以和 DDP 组合。每个 rank 只为大约 $1/N$ 的参数维护本地优化器状态，更新自己负责的参数后广播结果，让所有 DDP 副本重新一致。这对应 ZeRO-1 的核心思想；参数仍完整复制，所以不能把它当成 FSDP 的替代品。 官方文档还标记该 API 为 experimental，并提示启用 overlap_with_ddp=True 时，最初若干迭代可能因为梯度 bucket 尚未稳定而不做参数更新。工程上不能只看“少了多少 GB”，还要读清 API 的更新时序、checkpoint 聚合和版本状态。 5.3 DeepSpeed ZeRO：三个阶段直接写进配置 DeepSpeed 官方 ZeRO 教程把三个阶段定义得很直接：Stage 1 切优化器状态，Stage 2 再切梯度，Stage 3 再切参数。一个典型配置是： { "zero_optimization": { "stage": 2, "contiguous_gradients": true, "overlap_comm": true, "reduce_bucket_size": 500000000 } } contiguous_gradients 针对碎片与通信连续性，overlap_comm 尝试把通信藏进计算，reduce_bucket_size 在“消息大到能吃满带宽”和“临时 bucket 不要撑爆显存”之间取舍。这些开关没有脱离前面的公式，只是在控制公式之外的临时项和时间轴。 如果 GPU 显存仍不够，ZeRO-Offload 可以把优化器状态与计算移到 CPU，ZeRO-Infinity 进一步使用 CPU 和 NVMe。但 官方 ZeRO-Offload 教程 展示的 10B 单 V100 案例并不意味着 offload 免费：PCIe 传输、CPU Adam 吞吐、NUMA 与磁盘带宽会变成新的瓶颈。 5.4 PyTorch FSDP：Stage 2/3 的框架化实现 知识树里的代码锚点 torch/distributed/fsdp/fully_sharded_data_parallel.py#FullyShardedDataParallel 在当前 PyTorch main 仍存在。FSDP1 的 ShardingStrategy 可以这样理解： NO_SHARD：参数、梯度、优化器状态都复制，行为接近 DDP； SHARD_GRAD_OP：梯度和优化器状态分片，参数在计算窗口内保持完整，接近 ZeRO-2； FULL_SHARD：参数、梯度和优化器状态全分片，接近 ZeRO-3； HYBRID_SHARD：节点内全分片、节点间复制，减少低带宽跨节点通信。 不过当前 PyTorch FSDP2 教程 已经明确建议迁移到 fully_shard：FSDP2 以 DTensor 做逐参数分片，不再依赖 FSDP1 的扁平参数；reshard_after_forward=True 对应 FULL_SHARD，设为 False 则更像 SHARD_GRAD_OP。文章或配置里只写“用了 FSDP”已经不够，必须同时说明代际和策略。 5.5 一层参数在 FSDP 中的生命周期 以 full shard 为例，一个 FSDP unit 在一次训练步里大致经历： 常驻状态只有本 rank 的参数分片； pre-forward hook 发起 all-gather，临时物化完整参数； 执行该 unit 的前向； 释放完整参数，恢复分片； 反向前再次 all-gather 参数； 计算梯度后执行 reduce-scatter，每个 rank 只留下本地梯度片； 本地优化器只更新本 rank 的参数与状态分片。 真正决定峰值的不是“最终只存 $1/N$”，而是同一时刻有多少 unit 正在 all-gather、预取队列有多深、最大 unit 有多大。如果把整个模型只包成一个巨型 unit，那么计算前仍要暂时物化全模型；如果把每个很小的算子都单独包起来，又会制造大量小消息，延迟和调度开销反而吞掉吞吐。Transformer 常按 block 包装，就是在这两端之间折中。 FSDP2 的公开契约仍是同一个时间逻辑：前向/反向前由 hook unshard，之后 reshard，梯度用 reduce-scatter 汇聚。实现细节从 flat parameter 变成 DTensor，不代表 ZeRO 的“按需物化”思想变了。 5.6 一个实用的选择顺序 先测量，再逐级加复杂度： 模型状态能放下，只想提吞吐：先用 DDP； Adam 状态是主要缺口：DDP + ZeRO-1/ZeroRedundancyOptimizer； 梯度也造成明显压力：ZeRO-2 或 FSDP 的 shard-grad 策略； 单卡连参数副本都放不下：ZeRO-3/FSDP full shard； 模型状态已经很小但长视频仍 OOM：处理激活重计算、micro-batch、FlashAttention 或序列并行，而不是继续折腾 ZeRO stage； 网络太慢：优先让分片组留在节点内，再用张量/流水线或混合分片扩到节点间。 06. 代价与边界 ZeRO 不减少总计算量。 同一个 batch 的前向、反向和 Adam 更新并没有少。它让每个 rank 少存状态，并通过通信在需要时恢复视图。若模型原本就能舒适放下，Stage 3 很可能只是增加通信和 hook 调度，吞吐反而下降。 通信字节相同，不代表时间相同。 ZeRO-2 与 DDP 在论文模型里都是约 $2G$，但一次大 all-reduce 和许多 layer-wise reduce-scatter/all-gather 的延迟特征不同。NVLink 节点内、InfiniBand 节点间、普通以太网的最优 bucket 大小不会一样；跨节点带宽不足时，1.5 倍 Stage 3 通信尤其明显。 平均显存很低，峰值仍可能 OOM。 参数 all-gather、预取、梯度归约、算子 workspace 可能同时在场。只看稳定阶段的 memory_allocated 会漏掉峰值；要记录 max_memory_allocated，并逐步调 wrap 粒度、prefetch 和 bucket。 ZeRO 解决不了激活随序列长度增长。 视频 DiT 中，时间、宽、高一起扩张，token 数可能成倍增加，注意力和 MLP 保存的激活随之增长。参数切到 1 GB 后仍然爆显存，并不说明 ZeRO 失效，而是瓶颈已经从模型状态转移到激活。 checkpoint 变复杂。 每个 rank 手里只有一片状态，保存时要选择 full、sharded 或 local state dict。把完整 checkpoint 聚合到 rank 0 可能让 CPU 内存瞬间成为瓶颈；只保存分片又要求恢复时正确处理 world size 和布局。训练能跑并不等于容灾链路可用，上线前至少做一次“保存—退出—换步数恢复”的演练。 全局操作必须认识分片。 梯度范数裁剪、参数检查、EMA、冻结部分参数、权重共享都不能默认“当前 rank 能看到完整张量”。例如 FSDP 提供自己的 clip_grad_norm_，就是因为全局范数需要跨分片归约。绕开框架直接遍历本地 .grad，算到的只是局部值。 offload 是拿带宽换容量。 CPU 内存比显存大，NVMe 又比 CPU 内存大，但层级越远，带宽越低、延迟越高。小模型或计算密度不够的模型会被数据搬运压垮；只有“不 offload 根本跑不了”或计算足以覆盖传输时，这个交换才划算。 大 batch 会改变优化问题。 增加数据并行度时，如果每卡 batch 不变，全局 batch 会随 $N$ 增长。ZeRO 保证同一全局 batch 下更新等价，却不保证扩大 batch 后收敛曲线不变。学习率、warmup、梯度累计和数据采样仍要一起调整。 什么时候不该用 ZeRO-3：模型与激活在单卡尚有充足余量、网络较慢、模型由大量极小模块组成且难以形成高效 bucket，或者你更看重最低延迟和调试简单性。此时 DDP 或 ZeRO-1/2 往往是更好的工程答案。 07. 经典论文脉络 这条路线不是“突然发明一种分布式训练”，而是一步步把数据并行里的冗余拆掉： Horovod（arXiv:1802.05799，2018）把 ring all-reduce 做成易接入的训练抽象，奠定了现代同步数据并行“各算各的、梯度集体归约”的工程基线；它解决吞吐扩展，但每个 worker 仍保存完整模型状态。 ZeRO（arXiv:1910.02054，2019）指出数据并行浪费的不是总显存，而是参数、梯度和优化器状态的重复副本；三阶段切分在保持数据并行计算粒度的同时，把模型状态显存从 $16P$ 推到 $16P/N$。 ZeRO-Offload（arXiv:2101.06840，2021）把优化器状态与计算搬到 CPU，并针对 CPU Adam 优化，让单张 32 GB V100 训练 10B 模型成为论文展示案例；留下的新问题是主机带宽和异构调度。 ZeRO-Infinity（arXiv:2104.07857，2021）继续把 CPU 与 NVMe 纳入内存层级，用带宽感知的分区和预取突破 GPU 内存墙；容量继续扩大，但 I/O 调度成为系统的核心。 PyTorch FSDP（arXiv:2304.11277，2023）总结了把 fully sharded data parallelism 纳入 PyTorch eager 训练栈的实践，让 ZeRO-3 类思想不再只属于单一外部训练引擎，并推动后续 FSDP2 的逐参数分片。 主线可以压缩成一句话：all-reduce 证明“计算可以复制、结果可以同步”，ZeRO 进一步问“既然结果会同步，状态为什么还要复制”。 后续 Offload、Infinity、FSDP 都是在回答状态放在哪、何时出现、以什么粒度搬运。 08. 常见误解 “数据并行会把模型切到多张卡上。” 不会。普通 DDP 是每卡一个完整模型，只切数据。能把吞吐从一张卡扩到八张，不代表能装下超过单卡容量的参数。 “ZeRO-3 后每卡永远只有 $1/N$ 参数。” 常驻状态是 $1/N$，计算某个 FSDP unit 前仍需临时 all-gather 完整参数。忽略这个瞬时窗口，就会得到理论显存能放、实际 forward 前仍 OOM 的配置。 “ZeRO-2 比 DDP 少传一半梯度，所以一定更快。” ZeRO-2 用 reduce-scatter 只留下梯度片，但更新后还要 all-gather 参数片。按论文的理想字节模型，总通信量与 DDP all-reduce 相同；快慢来自重叠、bucket、拓扑与实现，而非简单少一半。 “用了 ZeRO 就不用 activation checkpointing。” 两者切的是不同账本。ZeRO 处理模型状态冗余；activation checkpointing 用额外重算减少前向激活保存。长视频训练经常需要两者同时用。 “参数是 BF16，所以 Adam 也只占 2 字节。” 常见混合精度训练会保留 FP32 主参数与 FP32 的 $m,v$，优化器部分仍是 12 字节/参数。不同优化器、8-bit optimizer 或纯 BF16 更新会改变常数，因此使用 $16P$ 前必须先列出真实 dtype 与状态。 “64 卡 ZeRO-1 就一定省 4 倍。” 4 倍是 $N$ 很大时的渐近上限。64 卡的精确值是 $16/(4+12/64)=3.82$ 倍；8 卡只有 2.91 倍。宣传中的“up to”不能替代自己的显存账本。 “只要 loss 一样，所有数据并行更新都严格一致。” 浮点归约顺序会改变末位误差，随机数、dropout、数据尾 batch 和非确定性 kernel 也会影响复现。数学上等价不等于 bitwise identical；本文模拟得到 0 误差，是因为使用同一确定性顺序与双精度标量。 09. 动手验证 下面五个实验都能在没有 GPU 的机器上完成。两个脚本全文在附录，复制保存后直接用 Python 3 运行。 实验一：复现原论文表格。 python zero_memory_ledger.py 预期看到 7.5B/64 卡下 DDP、ZeRO-1/2/3 分别为 120.00、31.41、16.64、1.88 GB。如果结果差约 7%，检查自己是不是把 GiB 和十进制 GB 混用了。 实验二：观察有限卡数离理论上限有多远。 python zero_memory_ledger.py --params-b 1.5 --world-size 8 预期 ZeRO-1 只省 2.91 倍，ZeRO-2 只省 4.27 倍，ZeRO-3 才精确省 8 倍。再把 world-size 改成 2、4、16、64，观察 Stage 1 向 4 倍、Stage 2 向 8 倍收敛。 实验三：验证更新等价性。 python zero_update_simulator.py 预期 DDP 与 ZeRO-2 的八个新参数完全相同，max_abs_diff=0；每 rank 的 Adam $m,v$ 标量数从 16 降为 4。把 local_gradient() 的公式改掉，只要两条路径仍使用同一平均梯度，最终参数就应继续一致。 实验四：故意制造尾 batch 权重错误。 在模拟器里让最后一个 rank 只代表一个样本、其他 rank 各代表两个样本，然后比较“先对每个 rank 求平均再除以 4”和“按总样本数加权平均”。预期两个梯度不同。这能解释为什么真实训练要使用 DistributedSampler、drop_last 或正确的样本权重，而不能只相信 all-reduce。 实验五：给自己的模型补全账本。 从训练日志记录参数量、每种状态 dtype、峰值激活与临时 buffer。先用脚本算模型状态理论值，再和框架峰值相减。如果差值随序列长度或分辨率快速增长，瓶颈是激活；如果几乎不随输入变化，才优先继续切模型状态。预期这一步比直接试三个 ZeRO stage 更快找到真正的 OOM 原因。 10. 延伸阅读 读完这篇可以沿分布式训练知识树继续： 混合精度与数值稳定性：本文的 16 字节常数建立在混合精度 Adam 上；理解 FP16、BF16、FP8 的动态范围后，才能判断哪些状态可以继续降精度。 张量并行与流水线并行：当单个算子或单层连临时 all-gather 都放不下时，需要切计算本身；下一步要算 TP 通信量和 PP 气泡率。 序列并行与 Ring Attention：模型状态已经切完，长视频仍被激活卡住时，才轮到沿序列维度切注意力计算。 本文的核心资料均来自原始论文与官方实现：ZeRO 的显存和通信公式以 ZeRO 原论文为准；三阶段配置参考 DeepSpeed ZeRO 官方教程；DDP、优化器分片和 FSDP 策略分别核对了 PyTorch DDP 文档、ZeroRedundancyOptimizer 文档 与 FSDP 文档。代码路径和 API 会随上游重构，工业实现部分注明的日期就是版本边界。 附录：完整代码 09 节用到的脚本全文如下（zero_memory_ledger.py、zero_update_simulator.py、make_figures.py）。复制到本地存成同名文件，按各脚本开头的依赖说明准备环境后即可运行。 zero_memory_ledger.py #!/usr/bin/env python3 """复现 ZeRO 论文中的混合精度 Adam 模型状态显存账本。 这里只计算参数、梯度和优化器状态，不包含激活、临时通信缓冲区、 CUDA context 与内存碎片。单位同时使用十进制 GB，便于和论文表格对照。 """ from __future__ import annotations import argparse from dataclasses import dataclass @dataclass(frozen=True) class Stage: name: str replicated_bytes: float sharded_bytes: float communication_multiple: float def bytes_per_parameter(self, world_size: int) -> float: return self.replicated_bytes + self.sharded_bytes / world_size STAGES = ( Stage("DDP", 16.0, 0.0, 1.0), Stage("ZeRO-1", 4.0, 12.0, 1.0), Stage("ZeRO-2", 2.0, 14.0, 1.0), Stage("ZeRO-3", 0.0, 16.0, 1.5), ) def gb(byte_count: float) -> float: """转为十进制 GB；ZeRO 原论文的 120 GB 使用这个口径。""" return byte_count / 1_000_000_000 def main() -> None: parser = argparse.ArgumentParser() parser.add_argument("--params-b", type=float, default=7.5, help="参数量，单位十亿；默认复现论文的 7.5B 示例") parser.add_argument("--world-size", type=int, default=64, help="数据并行进程数") args = parser.parse_args() if args.params_b <= 0 or args.world_size <= 0: raise ValueError("params-b 与 world-size 必须为正数") params = args.params_b * 1_000_000_000 gradient_bytes = params * 2 # fp16/bf16 梯度 baseline_comm = 2 * gradient_bytes # ring all-reduce: reduce-scatter + all-gather print(f"model={args.params_b:g}B, world_size={args.world_size}") print("assumption: fp16 params 2B + fp16 grads 2B + " "fp32 master/m/v 12B = 16 bytes/parameter") print("stage bytes/param model-state GB vs DDP comm/step GB") ddp_bytes = STAGES[0].bytes_per_parameter(args.world_size) for stage in STAGES: bpp = stage.bytes_per_parameter(args.world_size) state_gb = gb(params * bpp) saving = ddp_bytes / bpp comm_gb = gb(baseline_comm * stage.communication_multiple) print(f"{stage.name:<8} {bpp:>10.4f} {state_gb:>17.2f} " f"{saving:>9.2f}x {comm_gb:>15.2f}") print("note: activation, temporary buffers and fragmentation are excluded") if __name__ == "__main__": main() zero_update_simulator.py #!/usr/bin/env python3 """用单进程模拟 DDP 与 ZeRO-2 的一次 Adam 更新。 脚本不依赖 GPU、PyTorch 或分布式运行时。四个“rank”先各自产生一份局部 梯度，再比较两条路径：DDP 对完整梯度做 all-reduce；ZeRO-2 对梯度做 reduce-scatter、每个 rank 只更新自己的参数片，最后 all-gather 参数。 """ from __future__ import annotations import math WORLD_SIZE = 4 PARAMS = [0.10, -0.20, 0.30, -0.40, 0.50, -0.60, 0.70, -0.80] LEARNING_RATE = 1e-3 BETA1 = 0.9 BETA2 = 0.999 EPSILON = 1e-8 def local_gradient(rank: int, width: int) -> list[float]: """构造确定性的局部梯度，模拟每个 rank 看见不同数据。""" return [((rank + 1) * (index + 2) - 3) / 100.0 for index in range(width)] def average_columns(rows: list[list[float]]) -> list[float]: return [sum(column) / len(rows) for column in zip(*rows)] def shard(vector: list[float], world_size: int) -> list[list[float]]: if len(vector) % world_size: raise ValueError("为了让示例清楚，参数量必须能被 world_size 整除") width = len(vector) // world_size return [vector[rank * width:(rank + 1) * width] for rank in range(world_size)] def adam_first_step(params: list[float], grads: list[float]) -> tuple[list[float], list[float], list[float]]: """执行 Adam 的第 1 步，并返回新参数、m、v。""" new_params: list[float] = [] m_state: list[float] = [] v_state: list[float] = [] for value, grad in zip(params, grads): m = (1.0 - BETA1) * grad v = (1.0 - BETA2) * grad * grad m_hat = m / (1.0 - BETA1) v_hat = v / (1.0 - BETA2) updated = value - LEARNING_RATE * m_hat / (math.sqrt(v_hat) + EPSILON) new_params.append(updated) m_state.append(m) v_state.append(v) return new_params, m_state, v_state def main() -> None: local_grads = [local_gradient(rank, len(PARAMS)) for rank in range(WORLD_SIZE)] # DDP：每个 rank 经 all-reduce 得到同一份完整平均梯度，并完整更新参数。 reduced_full_grad = average_columns(local_grads) ddp_params, ddp_m, ddp_v = adam_first_step(PARAMS, reduced_full_grad) # ZeRO-2：reduce-scatter 的结果等价于先平均，再只保留所属分片。 param_shards = shard(PARAMS, WORLD_SIZE) grad_shards = shard(reduced_full_grad, WORLD_SIZE) updated_shards: list[list[float]] = [] state_sizes: list[int] = [] for params_for_rank, grads_for_rank in zip(param_shards, grad_shards): updated, local_m, local_v = adam_first_step(params_for_rank, grads_for_rank) updated_shards.append(updated) state_sizes.append(len(local_m) + len(local_v)) # all-gather 后每个 rank 都能拿到同一份新参数；这里拼接一次代表该结果。 zero_params = [value for part in updated_shards for value in part] max_abs_diff = max(abs(a - b) for a, b in zip(ddp_params, zero_params)) shard_width = len(PARAMS) // WORLD_SIZE print(f"world_size={WORLD_SIZE}, parameter_count={len(PARAMS)}, " f"shard_width={shard_width}") print(f"local gradient matrix shape=({WORLD_SIZE}, {len(PARAMS)})") print(f"reduce-scatter result shape=({WORLD_SIZE}, {shard_width})") print("averaged gradient:", [round(x, 4) for x in reduced_full_grad]) print("DDP updated params:", [round(x, 6) for x in ddp_params]) print("ZeRO-2 gathered params:", [round(x, 6) for x in zero_params]) print(f"max_abs_diff={max_abs_diff:.12f}") print(f"Adam m/v scalars per rank: DDP={len(ddp_m) + len(ddp_v)}, " f"ZeRO-2={state_sizes[0]}, reduction={WORLD_SIZE:.2f}x") if __name__ == "__main__": main() make_figures.py """Regenerate this article's deterministic teaching figure (numpy + matplotlib).""" from pathlib import Path import matplotlib matplotlib.use("Agg") import matplotlib.pyplot as plt import numpy as np OUT=Path(__file__).resolve().parents[1]/"figures" OUT.mkdir(exist_ok=True) plt.rcParams.update({"font.sans-serif":["PingFang SC","Arial Unicode MS","DejaVu Sans"],"axes.unicode_minus":False}) n=np.array([1,2,4,8,16,32,64]); p=7.5e9 fig,ax=plt.subplots(figsize=(8,4.8)) for name,y in [("DDP",np.full(n.shape,16.)),("ZeRO-1",4+12/n),("ZeRO-2",2+14/n),("ZeRO-3",16/n)]: ax.plot(n,y*p/1e9,"o-",label=name) ax.set(xscale="log",yscale="log",xlabel="Data-parallel ranks",ylabel="Model states per rank (GB)",title="7.5B model: FP16 weights/grads + FP32 master/m/v") ax.legend();ax.grid(alpha=.25);fig.tight_layout() fig.savefig(OUT/'zero_states.png',dpi=170) plt.close(fig) print(OUT/'zero_states.png') 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-04|港中深5秒训练撑起一小时世界推演-SolarWM 今日 AIGC 论文速览 今日共 10 篇 重点论文标题列表 SolarWM（香港中文大学（深圳）、SLAI、新加坡国立大学、香港中文大学、香港科技大学、香港科技大学（广州）、NVIDIA、UCLA、微软亚洲研究院）：5秒训练撑起一小时世界推演 SelfLift（清华大学、字节跳动）：少步扩散再砍41%延迟 f-loss（LIX 巴黎综合理工学院（CNRS, IP Paris）、AMIAD、LIGM 巴黎国立桥路学校、加州大学伯克利分校）：频域配平让收敛快40% MeRoPE（香港科技大学、卓驭科技）：大基线相机控制不再爆范数 GlyphAnchor（复旦大学、小红书、上海创智学院）：字形块锚定长文本渲染 今日论文速览 1. SolarWM：5秒训练撑起一小时世界推演 SolarWM: Open Data and Scalable Training for Long-Horizon Video World Models | 香港中文大学（深圳）、SLAI、新加坡国立大学、香港中文大学、香港科技大学、香港科技大学（广州）、NVIDIA、UCLA、微软亚洲研究院 | arXiv:2609.02886 关键词：交互式世界模型,长时序推演,多源数据引擎,骨干原生适配,分布匹配蒸馏,自回归因果模型,SolarWM 前序问题：把视频生成模型改造成可交互的世界模型，卡点其实不在骨干网络。论文点出的是一处「耦合」：一方面各个数据源彼此不兼容——时间尺度、相机几何、画质、运动幅度、字幕风格全都不一样；另一方面各家视频生成器用的表示和架构也不同。这两件事叠起来的后果是，天真地把数据混在一起、再为每个模型写一套专用实现，得到的监督信号是互相矛盾的，而且结果既难复现也难以互相比较。于是这个方向上大量工作看起来在进步，却无法判断进步来自数据、配方还是骨干。更具体的难题是长时序：交互式世界模型要求模型在用户持续操作下自回归地往前推演，而训练时能拿到的序列长度是有限的，如何让短序列训练出来的模型撑住远超训练窗口的推演，是这类系统真正的分水岭。 本文贡献：SolarWM 的回应是把上面那处耦合拆开，给出一个从数据准备一路到长时序推理的完整开放底座，具体是两件事加一套配方。第一是可重配置的多源数据引擎：它把来自 10 个数据集的 143 万个规范化片段转换成一份统一的、逐帧对齐的「契约」，内容覆盖视觉观测、度量尺度的相机几何、字幕、质量元数据、筛选决策以及来源出处；关键设计是把「单源处理」与「混合配比构造」解耦，这样调整数据配比不必重跑源处理。第二是骨干原生的适配框架：在共享的相机条件化、训练与推理接口之下，他们基于 Wan2.2、LTX-2.5 和 MiniMax-H3 实例化了四个 5B 到 33B 的模型，且刻意保留各自原生的表示与目标函数，而不是强行统一成一种写法——这正是让跨骨干结果可比的前提。第三是一套统一的三阶段配方：双向适配、教师强制的自回归初始化、以及分布匹配蒸馏。三者串起来把双向模型转成因果模型，从而支持实时交互。数据、管线、配方、权重与框架均开放。 Overview of the SolarWM-5B training pipeline and hour-scale inference results 实验效果：论文给出的核心结果是一个训练窗口与推演窗口之间的落差：模型只在 5 秒序列上训练，得到的因果模型却能在分钟级到小时级的推演区间内支持实时交互。附录里的定性证据分层给出——十秒级的域内第三人称结果、分钟级的域内不间断推演，以及从单张域外图像出发的分钟级自回归 rollout；最长的一组是小时级世界推演，从一帧真实初始观测出发、在一次不间断的自回归会话中稀疏采样直到 60 分钟端点，且场景提示词全程固定。跨骨干方面，四个 5B–33B 的模型（Wan2.2、LTX-2.5、MiniMax-H3 路线）在共享的相机条件化接口下均被实例化并给出双向预训练阶段的域外定性结果。 Hour-scale world rollout generated by the SolarWM-wan2.2-5B-fast causal student. Sparse frames are sampled throughout a single uninterrupted autoregressive session initialized with a real first frame from the held-out validation pool, spanning the initial observation to the 60-minute endpoint. The scene prompt remains fixed and the model follows a predetermined camera trajectory. 批判点评：这篇的价值主要不在某个新模块，而在它选择去修的那个东西——它把世界模型研究里「结果无法复现、无法比较」这件长期被容忍的事当成首要问题来处理，并且给出的答案是工程性的：一份逐帧对齐、连筛选决策和来源出处都写进去的数据契约，以及把单源处理与混合配比解耦的设计。后者尤其实在，因为调配比是这类研究里最高频的动作，能不重跑源处理就省下大量算力。保留各骨干原生表示与目标函数、只统一外层接口，也是个克制且正确的判断：强行统一写法会污染比较结论。三阶段配方本身（双向适配 → 教师强制自回归初始化 → 分布匹配蒸馏）不算首创，但把它固定成跨三个骨干都能跑通的统一收口，本身就是可复用的贡献。需要留意证据的形态：小时级推演目前靠定性 rollout 呈现，而长时序真正的难点——缓慢漂移、场景记忆是否退化、以及交互指令在几十分钟后是否还被正确响应——恰好是稀疏采样帧最不容易暴露的；这类主张更需要定量的漂移曲线来支撑。「实时」同样缺少帧率与时延的明确数字，而交互体验对这两个量极其敏感。还有一处值得追问：训练只用 5 秒序列却要推演一小时，跨越了四个数量级，分布匹配蒸馏在其中承担了多少稳定性、又在多长的时间尺度后开始失效，论文摘要层面没有给出边界。最后，143 万片段来自 10 个数据集，配比本身就是强超参，开放数据引擎让别人能复现这套配比，但配比是否接近最优仍是开放问题。总体上，把它当作一个可扩展的研究底座比当作一个性能主张来读更合适。 2. SelfLift：少步扩散再砍41%延迟 SelfLift: Accelerating Few-Step Diffusion via Self-Recovering Resolution Transition | 清华大学、字节跳动 | arXiv:2609.02036 关键词：少步扩散加速,渐进式分辨率推理,伪影风险图,pixel-VAE重编码,免训练修正,自蒸馏,SelfLift 前序问题：少步扩散已经把时间维度的计算压得很狠，于是每一次模型评估的空间开销就顶上来成了延迟主项。自然的下一步是渐进式分辨率推理：前期在低分辨率去噪，把高分辨率的算力留给后期精修。问题出在「升分辨率」这一下——既有做法通常把中间 latent 直接抬上去，然后指望后续去噪步骤自己把由此产生的分布错配吸收掉。这在多步的年代还行，但在少步这个预算下，可供恢复的步数本来就少，错配吸收不完，残留就直接表现为可见伪影。这构成一个连锁约束：因为伪影，切换点不敢放得太晚；而切换越早，低分辨率阶段占的比例越小，能省下的算力也就越有限。也就是说，加速比不是被算力上限卡住的，而是被「转换质量」卡住的。 本文贡献：SelfLift 的核心判断是修补信号不必外求，模型自己就能提供。它给出两档。第一档 SelfLift-zero 是免训练的「伪影感知一致性抬升」：把直接抬升 latent 的结果与经 pixel-VAE 重编码得到的结果做比较，两者的分歧同时承担两个角色——既是局部伪影风险的定位信号，又是模型原生的修正方向。论文的分析图指出这背后的机理：直接抬升会引入解码器可见的不一致，而 pixel-VAE 重编码提供的是一个更平滑但确实可达的锚点，朝这个锚点做修正就得到伪影更少的目标分辨率状态；同时它只在高风险区域做选择性修正，而不是全图均匀混合——均匀混合只能削弱重影和空间漂移，留下残余失真。这一档不需要外接超分模型、不增加去噪评估次数、也不改采样调度。第二档 SelfLift-rich 建立在这个更稳的转换之上，做「on-policy 自恢复」：在学生模型自己访问到的状态上，从一个内部自教师那里迁移密集的高分辨率指导，同时保持与被改变后的渐进式分辨率动力学对齐——论文的消融显示，改成 off-policy 蒸馏会产生模糊。 Overview of SelfLift. Given the predicted low-resolution clean endpoint, SelfLift-zero constructs a trajectory-preserving latent candidate and a VAE-reachable pixel anchor. Their consistency residual yields an artifact-risk map and adaptive weights for selectively correcting high-risk regions before re-noising. SelfLift-rich distills this correction into a lightweight latent lifter and performs on-policy recovery on student-visited states, using an EMA self-teacher for privileged high-resolution guidance and a dynamics objective to preserve the pretrained few-step trajectory. 实验效果：在 FLUX.2-Klein 与 Z-Image-Turbo 上，SelfLift 分别把端到端延迟降低 41.5% 和 44.1%。与时间步蒸馏叠加后，相对各自的 50 步模型给出 29.61× 和 19.21× 的整体加速，同时保持有竞争力的生成质量。定性一侧，论文在 FLUX.2-Klein-9b、仅 4 次函数评估（NFE）的激进加速设定下做了对比：Vanilla、RALU 与 Speed 出现严重伪影，MrFlow 靠一个更昂贵的外接超分模型改善了保真度，而 SelfLift-zero 通过模型原生的修正抑制伪影、SelfLift-rich 进一步恢复更丰富的细节。消融方面，转换策略消融用 CLIP-IQA 衡量清晰度、ImageReward 衡量提示对齐质量，并标出 SelfLift-zero 在清晰度与对齐之间取得最佳折中的工作点。 批判点评：这篇最好的地方是问题定位干净：它没有笼统地说「渐进式分辨率有伪影」，而是把因果链讲清楚了——伪影限制了切换时机，切换时机限制了加速比。一旦这样表述，优化目标就从「把伪影修掉」变成了「把切换点往后推」，这是一个更可操作的目标。用「直接抬升」与「pixel-VAE 重编码」两条路径的分歧同时充当风险图和修正方向，是个很省的设计：一次比较拿到两样东西，而且两样都来自模型内部，不引入外部超分这种既费算力又可能带来风格漂移的依赖。选择性修正而非全图均匀混合，也被消融证明是必要的——均匀混合只削弱而不清除重影与漂移。免训练档位的存在让它容易被采用，这在工程上比第二档更有价值。需要清楚几处边界。首先是数字的读法：41.5%/44.1% 与 29.61×/19.21× 基线不同，后者已经把时间步蒸馏的收益算进去了，单独引用容易夸大本方法的贡献。其次，摘要用「有竞争力的质量」而非「无损」，说明这是权衡；而这类方法的风险恰恰在高频细节和文字/人脸这类低容错区域，论文给的是 CLIP-IQA 与 ImageReward 这两个聚合指标，缺少针对细粒度结构的失败率分析。第三，SelfLift-rich 需要训练，且依赖一个内部自教师与 on-policy 采样，成本与实现复杂度都高于第一档，实际收益是否值得这份复杂度，取决于部署场景。第四，pixel-VAE 重编码本身也有开销，摘要强调不增加去噪评估次数，但重编码这条路径的代价在总账里占多少，值得在采用前实测。最后，两个验证骨干都是少步蒸馏模型，方法与「少步」这个前提绑得较紧，迁移到常规多步模型上是否仍有同等收益并不自明。 3. f-loss：频域配平让收敛快40% Balancing Frequencies and Pixels in Flow Matching | LIX 巴黎综合理工学院（CNRS, IP Paris）、AMIAD、LIGM 巴黎国立桥路学校、加州大学伯克利分校 | arXiv:2609.02748 关键词：flow matching,谱偏置,Focal Log-Frequency Loss,像素空间训练,收敛加速,损失替换,f-loss 前序问题：这篇处理的是一处几乎被当成常识、因此少有人清算的训练偏置。自然图像服从 1/f² 的谱分布：信号能量绝大部分堆在低空间频率，而纹理、边缘这些对观感真正重要的结构却分布在稀疏的高频带上。而像素空间的重建目标对所有空间误差一视同仁——于是低频凭借能量优势主宰了优化信号，细粒度细节的学习被一路往后拖。论文把这件事明确命名为「目标函数层面的谱失衡」，并指认它是像素空间 flow 模型训练效率低下的一个关键原因。值得注意的是这个诊断的位置：它不在架构里，也不在数据里，而在损失函数里——这意味着此前大量靠改架构来提升细节的努力，可能都在绕过真正的病灶。 本文贡献：对策分两层，都刻意保持简单。第一层是 Focal Log-Frequency Loss（f-loss）：一个在频谱上做过平衡的目标，把学习信号在各个频率之间拉平，从而突出那些在像素空间目标下被系统性低估的高频成分。第二层是一个训练策略，把频域监督与像素监督组合起来使用——训练早期先强调频域学习，好处是让模型把所有频率都先抓住；随后过渡到标准的像素空间 v-loss，专门做空间精修。这个先后顺序不是随手安排的：论文的收敛分析显示，频域损失在训练早期主导，而空间域损失在后期逐步追上，切换时机正是顺着这条演化曲线走的，作者的说法是让训练信号与模型不断变化的需求对齐。整套方法在概念上很朴素——不改任何架构，可以作为 flow matching 损失的直接替换（drop-in replacement）落地。 实验效果：在多个模型规模上，该方法把收敛速度提升最多 40%，同时持续改善 FID 与感知保真度。机理侧的证据分几层：谱分析显示仅用像素损失训练时，生成图像的功率谱相对真实图像存在系统性偏差——低频被高估、高频被低估；一个只含两个活跃频率的 MLP 玩具实验进一步显示，低频模式被迅速学到，而高频模式在整个训练过程中始终缺席。带通 FID 分析给出更细的画面：在低频和中频带上，两种损失最终收敛到相同的数值；差别出现在高频带——f-loss 在训练早期领先，随后基线一度追上，但 f-loss 在约 20 万步附近再度反超。定性一侧，早期训练阶段用 f-loss 生成的图像更早出现细腻纹理（如老虎条纹、茅草屋顶的干草），而基线在同期更偏向把物体边界画清楚（如帆船轮廓分明）。此外论文还报告了以墙钟时间为横轴的收敛对比，以及低/高频带上的平均幅值误差。 (Left) Images generated with our XL model at 256 resolution. Beware, 2 impostors (real images from the ImageNet training set) are hiding in these images. Place your bet on which ones they are and check the solution on page 10. (Right) FID vs. training epoch for an XL model. Our achieves faster convergence than JiT without requiring architectural modifications. 批判点评：这篇的诊断比方法更值得记住。把「细节学得慢」归因到损失函数对频率的隐含加权，而不是归因到容量或架构，是一次位置正确的归因——1/f² 是自然图像的统计事实，像素损失对空间误差的均匀对待则是实现上的默认选择，两者相乘就必然产出低频偏置。论文用两层证据把这条推理钉住：真实数据上功率谱的系统性偏差，以及只含两个频率的玩具实验里高频模式的完全缺席。后者尤其干净，因为它排除了容量不足这个替代解释。方法侧的克制也是优点：不改架构、可直接替换损失，这类改动的采用成本极低，而先频域后像素的两段式安排还有收敛曲线作为依据，不是拍出来的。带通 FID 分析是全篇最诚实的一段——它主动说明低频和中频最终会收敛到同一水平，优势集中在高频和更早的收敛时点，这比只报一个总 FID 要可信得多。几处需要留意。「最多 40%」是上界，跨规模的期望收益应当打折看；而高频段上基线中途曾追上、之后又被反超，说明这条优势并不单调，实际收益取决于训练预算落在曲线的哪一段。更实质的是适用范围：诊断成立的前提是像素空间训练，而当前主流做法大量在 latent 空间做 flow matching，latent 的谱统计与自然图像并不相同，这套配平能否平移过去，论文没有回答。还有 f-loss 引入的权重超参需要调（论文有相应消融），「drop-in」的说法在工程上仍有调参成本。最后必须提醒：源文件中带通 FID 与定性收敛这两张图的图注仍留着作者的「Placeholder / to be updated」字样，这是预印本未定稿的迹象，引用这两处时应当谨慎。 4. MeRoPE：大基线相机控制不再爆范数 MeRoPE: Metric Rotary Position Embedding for Camera-Controlled Video Generation | 香港科技大学、卓驭科技 | arXiv:2609.01252 关键词：相机可控视频生成,几何位置编码,保范数注意力,旋转位置编码,度量位移,对极视差先验,MeRoPE 前序问题：相机可控的视频生成普遍依赖几何感知的位置编码，把 token 条件在相机外参和逐 token 的视线方向上。论文指出这类方案有一个依赖尺度的失效模式，而且很具体：齐次投影式的编码会让注意力 logits 和特征范数随物理平移基线无界增长。翻译成实践语言就是——在真实的、以米为单位的相机轨迹上，相机走得越远，注意力分布和特征幅值就越容易失控。论文的动机实验把这个失效可视化了：沿一条直线轨迹，观察最后一帧中心 query token 对所有先前 key 帧的跨帧注意力质量分布，随着基线增大，既有方案会把越来越多的注意力质量分配给遥远的早期帧。这不是精度问题而是稳定性问题：编码本身在长距离下会扭曲注意力的结构，而自动驾驶这类场景恰恰全是大基线轨迹。 本文贡献：MeRoPE 的设计目标直接定在「保范数」上，三个部件各管一件事。第一，用正交旋转块编码标定视线之间的相对朝向——正交变换天然不改变向量长度，这是保范数的来源。第二，把原始的度量位移映射成多频旋转相位，也就是借 RoPE 的思路处理物理平移，而不是把位移当作可以无界增长的数值直接喂进去。第三，沿对极弧加一个视差锚定的对应先验，为跨帧的点对应提供几何约束。三者合起来的性质是论文明确主张的：严格保持特征范数、无论物理平移尺度多大都能限住 softmax 前的注意力 logits、并对全局刚体坐标变换保持精确不变性——最后这条意味着换世界坐标原点不会改变模型行为。论文还给出了这套编码的代数结构，把成对的 query-key 调制写成视差 MinRot、视线局部 MinRot、平移 RoPE 与原生 RoPE 四个块的正交直和，因此各部件互不干扰。 实验效果：论文在两个互补的数据集上验证：nuScenes 覆盖大基线轨迹，PanShot 覆盖多样的相机光学参数。结论是 MeRoPE 取得了比既有编码更强的相机控制，并且在旋转和平移两个维度上都达到了生成的相机运动与条件位姿之间的最佳一致性。定性一侧，论文在两个代表性 nuScenes 场景上给出三种指令轨迹（原始、左转、右转）下的结果，每行最左侧用鸟瞰图对照「指令路径」（实线）与「从生成视频中用 VGGT 恢复出的路径」（虚线），也就是说控制精度是通过反解生成结果来度量的，而不是自评。PanShot 一侧则跨越从针孔到鱼眼的相机光学范围，视场角与畸变从 (97°, 0.00) 到 (173°, 1.66)。此外论文报告了相机编码各部件的消融、架构与注入位置的消融、以及 query-camera 分组的计算开销（单块结果用一张 H20，整模结果用四张 H20 并匹配 15 个块的注入调度）。 Qualitative video generation under camera pose control. Visual results on two representative nuScenes scenes under three commanded trajectories (original, left turn, right turn). In each row, the leftmost plot displays the bird's-eye view of the commanded path (solid) and the path recovered from the generated video by VGGT-$\Omega$ (dashed), followed by generated video frames sampled at $t \in \{0, 16, 32, 48\}$. 批判点评：这篇的贡献形态是「把一个稳定性缺陷讲成可证的性质」，这比刷指标更耐读。它没有停在「大基线下效果变差」这种经验观察，而是指出了机制——齐次投影编码使 logits 与特征范数随物理平移无界增长，并用一张跨帧注意力质量图把失效形态摆出来：注意力被越拉越远的早期帧吸走。有了这个诊断，解法就有了明确的设计约束，即保范数；正交旋转块、把度量位移映射为多频旋转相位、以及沿对极弧的视差先验，三者都是服务于这个约束的手段而非拼凑。把成对调制写成四个块的正交直和，让各部件互不干扰，这种可分析的结构在位置编码这类基础组件上很值得。对全局刚体变换的精确不变性也是实用性质——它意味着换坐标原点不会改变行为，省掉一类隐蔽 bug。评测设计同样克制：nuScenes 管大基线、PanShot 管从针孔到鱼眼的光学多样性，两者互补而非同质堆叠；用 VGGT 从生成视频反解相机轨迹再与指令轨迹对照，比让模型自评要硬。需要注意的边界。第一，反解式度量把工具误差引进来了，VGGT 在大视场或强畸变下的精度本身就会波动，因此在 PanShot 的鱼眼一端，指标差异有多少来自生成、有多少来自反解，需要谨慎切分。第二，论文主张的是相机可控性上的领先，而不是视频质量的全面领先，这两件事在实践中会互相牵制——把位姿咬得更死通常要付出内容自由度的代价，摘要层面没有量化这个代价。第三，训练轨迹以前向主导走廊和大幅横向/转向机动为主，都是驾驶式运动，手持抖动、快速旋转这类分布未经检验。第四，保范数是个好性质，但它保证的是不发散，不等于注意力分配在语义上是对的；范数受控与对应关系正确之间仍有距离。最后，方法需要标定的视线与度量尺度的位姿作为输入，这在有标定的驾驶数据上不成问题，迁移到无标定的野外视频则是另一回事。 5. GlyphAnchor：字形块锚定长文本渲染 GlyphAnchor: Enhancing Visual Text Rendering via Position-Anchored Glyph Priors | 复旦大学、小红书、上海创智学院 | arXiv:2609.02349 关键词：视觉文字渲染,字形先验,位置锚定,扩散Transformer,分阶段SFT,文字感知后训练,GlyphAnchor 前序问题：把文字画准，至今仍是图像生成与编辑模型的老大难，尤其当目标里含有长文本、结构复杂的文本、密集排布的文本，或者生僻字。论文把已有路线归成两类并各指一处不足：一类靠更强的骨干和以数据为中心的训练来提升原生渲染能力，但不引入显式的字形先验；另一类引入了字形先验，却依赖专门设计，在上述这些困难场景下仍不够准确也不够稳健。也就是说，前者缺少关于「这个字长什么样」的直接信息，后者虽有信息但注入方式不够可靠。真正的难点在于文字渲染同时要求两件很难兼得的事：字形本身要正确（笔画级的精确），以及文字要落在图像里对的位置、对的透视和对的排布上。 本文贡献：GlyphAnchor 的做法是给骨干加一组轻量的「字形块条件」，而关键在于这些条件的位置是通过模型原生的位置编码锚定到目标图像上的——不是另起一套空间对齐机制，而是复用模型已有的位置表示，因此注入方式与骨干天然兼容。论文的架构图把这个设计说得更具体：提示词、可选的源图像、以及渲染出来的字形块图像各自被编码成 token 后拼接，送入文生图或图像编辑的扩散 Transformer 骨干；得到的字形块 token 被放进一个额外的条件帧里，形成一个「虚拟字形平面」，这个平面的坐标就锚定在目标图像的坐标系上。训练上分两步：先做分阶段的监督微调把这个能力建立起来，再用文字感知的后训练进一步提升稳健性。方法同时适用于文生图和图像编辑两种设定，并且论文强调它可以在多个骨干上生效。此外作者还提出 InfoTextBench，用于评测文本密集场景下的视觉文字渲染，生成与编辑两种设定都覆盖。 Overview of GlyphAnchor. Prompt, optional source images, and rendered glyph patch images are encoded into tokens and concatenated before a text-to-image or image-editing diffusion-transformer backbone. The resulting glyph patch tokens are placed in an additional condition frame, forming a virtual glyph plane whose coordinates are anchored to the target layout. 实验效果：论文在多个骨干与多个基准上做了实验，覆盖长文本、结构复杂文本、密集排布文本以及生僻字这几类困难场景，结论是 GlyphAnchor 持续改善文字保真度，同时保持整体图像质量。定性一侧，论文给出面向文本密集困难样例的对比（图注注明建议放大查看），并配了两组消融的定性结果：一组是位置锚定的消融，一组是分阶段监督微调的消融——两组都以视觉对比呈现。此外论文用 FireRed-Image-Edit-1.1 的样例来说明各项设计选择的动机。 Qualitative comparison on challenging text-rich cases. Best viewed with zoom. 批判点评：这篇的判断力体现在注入方式上。给扩散模型加字形先验并不新，难的是让「这个字长什么样」和「它该出现在哪」这两件事同时成立；很多方案在字形上做得细，却要另配一套空间对齐机制，结果引入新的失配。GlyphAnchor 选择复用骨干原生的位置编码来锚定字形块的位置，把字形块 token 放进一个额外条件帧、构成坐标锚定在目标图像上的「虚拟字形平面」——这个设计的好处是不与骨干的空间表示打架，也解释了它为何能在多个骨干上生效。条件保持轻量、训练分成「分阶段 SFT 建立能力 + 文字感知后训练提升稳健性」两步，也是符合工程直觉的安排：前者管会不会，后者管稳不稳。同时覆盖文生图与图像编辑两种设定，比只做其中一侧更有实用价值，因为真实需求里改字往往比从零生成更常见。需要留意证据的粒度。摘要层面给的是「持续改善文字保真度、同时保持整体图像质量」这样的方向性表述，没有具体的文字准确率数字或提升幅度；两组关键消融（位置锚定、分阶段 SFT）也以定性视觉对比为主，图注还提示需要放大查看，这意味着差异未必显著到一眼可辨。而文字渲染恰恰是最适合定量的任务之一——字符级准确率、词级准确率都是成熟指标，缺少这些数字会让「持续改善」难以校准。其次，InfoTextBench 由作者团队自建，用自家基准验证自家方法时，结论的说服力取决于该基准与既有基准的一致性，这一点需要在正文中确认。第三，「保持整体图像质量」是个需要警惕的表述：字形块条件本质上是往生成过程里塞入强先验，在文字区域之外是否引入风格或纹理上的副作用，值得看定量的图像质量指标而非只看示例图。最后，生僻字这一类的收益高度依赖字形渲染器的字体覆盖，这部分是方法外的工程依赖，实际落地时往往才是瓶颈。 6. CameraEditor：相机编辑改成时序预测 CameraEditor: Camera-Controlled Image Editing via Video-Prior Sequential Modeling | 西安交通大学、新加坡科技研究局（A*STAR） | arXiv:2609.01479 关键词：相机可控图像编辑,视频扩散先验,Chain-of-Frames,几何感知路由,全景裁切数据,ACM MM 2026,CameraEditor 前序问题：除了语义内容之外，相机参数其实决定了一张图的几何透视与外观。但现有图像编辑模型虽然在语义和风格操控上很强，一旦要求按相机参数做显式控制就暴露短板。论文把这个短板刻画成一个两难：面对大幅视角变化，指令驱动的模型要么出现结构撕裂，要么生成保守的结果、干脆无视几何指令。论文的动机图把失败拆得更细，指出三类典型问题：术语误解（把几何位移和语义变化混为一谈）、参数不精确（做不到按确切角度调整）、以及身份丢失（大幅视角变化下结构撕裂）。根子上的困难是，文本指令对几何量的表达本身是含糊的——「稍微转一点」既没有单位也没有参照系，而相机参数是精确的物理量。 本文贡献：CameraEditor 的关键一步是改问题的形式：把相机可控编辑从一个空间问题重写成时序预测问题，从而能借用视频扩散模型的时间连贯性作为先验。围绕这一步有三个部件。第一，配一个显式的几何感知模块，把几何量从文本的含糊中解放出来；论文的架构图说明推理时由一个路由机制通过 GeoCalib 选出最优的参考先验，以实现精确的视角对齐。第二，用动态全景裁切构造几何上严格的参考-目标对——这是数据侧的处置：全景图被参数化后裁切成参考-目标对，再经超分与视觉语言模型筛选，最后生成中间帧形成连续的时序序列；论文还单独用一张图展示了偏航、俯仰、翻滚、垂直视场角与径向畸变各自对裁切透视的影响。第三，也是最巧的一处：刻意插入中间过渡帧，把大幅视角变化分解成若干小步，为内容身份与空间连贯提供时间缓冲。论文构建了 5760 个训练实例，并作为独立贡献提出 CamEditor-Bench——一个与模型无关的评测套件，含 462 个测试用例。该文已被 ACM Multimedia 2026 接收。 Overview of CameraEditor. (a) Generation Pipeline: A video diffusion model generates the target Chain of Frames (CoF) sequence conditioned on the source image and reference visual sequence. (b) Dynamic Routing: A routing mechanism selects the optimal reference prior via GeoCalib during inference for precise viewpoint alignment. 实验效果：论文报告 CameraEditor 在相机控制精度与源身份保持两方面达到当前最优，优于既有方法。证据形态上，定性结果与几何误差图并排给出：每个方法的右侧面板分别显示 PF-I（上）与 PF-T（下）误差，暖色表示偏差更大，也就是说几何准确性是用透视场（Perspective Field）热力图来验证的，而非仅凭肉眼。扩展对比进一步显示，该框架在与目标相机几何对齐的同时，避免了标准扩散编辑中常见的身份漂移与结构幻觉。两组消融值得注意：一是相机感知模块的选择——随机路由或基于视觉语言模型的理解（Puffin 变体）给出的错误初始估计会导致灾难性的结构失真，而 GeoCalib 驱动的路由提供了稳健的几何锚点；二是中间过渡帧数量 N 的消融——直接单步生成（N=0）在大幅视角变化下出现空间撕裂与身份丢失，把 N 增加到 4、8、12 则提供了更强的连续几何先验。 Qualitative results alongside geometric error maps. For each method, the right panels display PF-I (top) and PF-T (bottom) errors, where warmer colors indicate larger deviations. 批判点评：这篇最值得学的是问题重述本身。相机可控编辑之所以难，是因为单张图的大幅视角变化本质上要求补出未观测区域，而这正是空间形式下最容易撕裂的地方；把它改写成时序预测，就把视频扩散模型积累的时间连贯性先验借了过来——这不是换个模型跑跑，而是换了一个更适配该困难的问题形式。顺着这条线，「插入中间过渡帧把大幅视角变化拆成小步」这个设计就变得顺理成章，而且消融数据支持得很直接：N=0 的单步生成出现撕裂和身份丢失，N 增到 4、8、12 则连续几何先验越来越强。用 GeoCalib 提供几何锚点、而不是让视觉语言模型去理解几何指令，同样是个有判断力的选择，消融里随机路由与 Puffin 变体导致「灾难性结构失真」是很有说服力的反证——它说明这类任务的瓶颈在几何估计的可靠性，而不在语言理解。用透视场热力图（PF-I/PF-T）来验证几何准确性，也比只给示例图硬。几处限制需要说清。首先，PF 是估计出来的量，用它当尺子意味着评测精度受估计器约束，在强畸变或大视场情形下这层不确定性会放大。其次，训练集只有 5760 个实例，且由全景图裁切构造——全景的几何分布天然受限（常见于特定拍摄设备与场景类型），因此对超出该分布的相机参数组合，泛化能力未经验证；CamEditor-Bench 的 462 个用例同为自建，自评成分需要读者自行折扣。第三，过渡帧是把双刃剑：N 越大几何先验越强，但推理成本随之线性上升，而论文摘要没给对应的时延数字，实际部署时这是必须先算清的账。第四，「源身份保持」在插入多帧过渡后仍是脆弱的——每一帧都是生成的，误差有累积的可能，而聚合指标不容易暴露偶发的严重失败。最后，方法依赖视频扩散骨干，继承了它的分辨率与时长约束，这在图像编辑这个本应轻量的场景里是一笔不小的开销。 7. LightBridge：3DGS重光照一次前向出结果 LightBridge: Feed-Forward Generative Relighting for 3D Gaussian Splatting | 中国科学技术大学 | arXiv:2609.02543 关键词：3D高斯溅射,可控重光照,前向推理,潜空间桥接扩散,高斯传播Transformer,多光照数据集,LightBridge 前序问题：3D 高斯溅射能做到高质量的实时新视角合成，但产出的资产有一个硬伤：光照是烘死在里面的，没法轻松重打光。已有路线各有代价。逆渲染方法为每个场景优化一套简化的反射率与光照模型，既限制效率也限制重光照质量——简化模型本身就装不下真实光照的复杂度。而近期的生成式方法借大型扩散模型做出了逼真的光照编辑，但要把它们用到 3DGS 上，通常还需要一个额外的逐场景优化阶段，把编辑后的外观重新烘回到表示里。也就是说，前者受限于模型表达力，后者受限于流程——每换一个场景就得再优化一次，这在资产量级上根本不划算。 本文贡献：LightBridge 的目标很明确：一次前向就完成完整 3DGS 资产的可控重光照，不做逐场景优化。为了能训练这样一个前向模型，作者先构建了一个大规模的多光照重光照数据集，为同一批场景提供成对的源观测与目标观测；论文展示了卧室与餐厅场景的样例——每列对应一种光照条件、每行对应一个匹配的相机视角，场景几何与相机位姿保持固定，只让光源状态、强度与颜色在列间变化，这种「控制变量」式的构造正是前向监督所需要的。方法本身有两个部件。第一是 Latent Bridge Relighting Diffusion：把重光照建模成潜空间里从源到目标的传输，从而能一步提取出 2D 视觉 token，不必做迭代式的扩散采样——这是省掉推理开销的关键。第二是 Gaussian Propagation Transformer：用一个点 Transformer，先做稀疏的图像到点自注意力、再做点到图像交叉注意力，把这些视觉线索高效地传播到完整的 3DGS 上，同时避免在所有图像 token 与高斯 token 之间做全注意力——后者在完整场景规模下是不可承受的。 Pipeline of LightBridge. The framework first uses Multi-Illumination Relighting Dataset for paired supervision, then extracts the 2D Visual Token with Latent Bridge Relighting Diffusion, and finally propagates it to the full 3DGS representation with Gaussian Propagation Transformer. 实验效果：论文的实验验证了上述设计，主张在具备竞争力的重光照质量之下，能够一次前向高效预测出完整的、已重光照的 3DGS 资产，且不需要针对场景的优化。定性一侧最关键的一组是在重光照视频轨迹之外的视角上做对比：每个样例从左到右依次是源 3DGS 渲染、由 GR3EN 优化出的表示所渲染的结果、以及 LightBridge 在同一相机位姿与同一目标光照下预测的重光照 3DGS 的渲染结果——选在轨迹外视角比较，正是为了检验重光照是否真的落进了 3D 表示而非只在训练视角上成立。此外论文给出了留出的餐厅与厨房场景上的视频重光照对比（每个结果沿共享的输入相机轨迹采样四帧），并用一张俯视图展示了某个代表性房间里六条局部相机轨迹的布置。训练侧的消融显示，高斯传播用目标潜变量与潜变量速度两种 token 训练时，速度 token 收敛更快，但两者最终损失接近。 Qualitative comparison at viewpoints outside the relighting video trajectory. From left to right, each example shows the source 3DGS rendering, the result rendered from the representation optimized by GR3EN, and the corresponding rendering from the relit 3DGS predicted by LightBridge under the same camera pose and target lighting. % Note that GR3EN fails to relight the scene whether the target light is visible (top row), as well as when it is not directly visible (bottom row) 批判点评：这篇的取舍很清楚，也因此值得读：它不追求重光照质量上的领先，而是把「免逐场景优化」这一条做成硬指标。这个选择是对的，因为生成式重光照真正的落地障碍从来不是单张图好不好看，而是每换一个场景都要再优化一轮——在资产规模上这条成本曲线根本压不下来。两个部件都服务于这个目标：把重光照建模成潜空间里源到目标的传输，从而一步取出视觉 token、免掉迭代采样；再用先「图像到点」稀疏自注意力、后「点到图像」交叉注意力的方式把线索铺到完整 3DGS 上，规避全注意力的组合爆炸。数据集的构造尤其体现方法意识：固定几何与相机位姿、只变光源状态/强度/颜色，这种控制变量式的成对监督正是前向模型能学到「只改光、不改结构」的前提。评测设计里最有判断力的一处是选在重光照视频轨迹之外的视角做对比——这直接检验重光照是否真的落进了 3D 表示，而不是只在被监督到的视角上成立，很多同类工作恰恰在这里含糊。需要看清几处边界。第一，摘要自己用的是「有竞争力的质量」，也就是承认这是以效率换相当质量；如果下游对光照真实感的要求高于对吞吐的要求，逐场景优化路线仍可能更合适。第二，数据集是作者自建的合成室内场景（卧室、餐厅、厨房这类），室内合成数据的光照统计与真实采集差距不小，而重光照恰恰高度依赖材质与间接光的真实性，因此室外场景与真实数据上的表现完全未知。第三，前向模型的可控性边界值得追问：它能处理的是「现有光源的状态、强度与颜色」这类控制，是否支持新增光源、改变光源位置或换成完全不同的光照环境，摘要没有说清。第四，一步式的潜空间传输省掉了迭代采样，但也放弃了扩散采样在质量上的调节余地——没有「多花几步换更好结果」这个旋钮，在困难样例上没有退路。最后，代码与数据集要等录用后公开，当前无法独立复核。 8. VibeVoice-ASR-Streaming：流式边听边分谁在说话 VibeVoice-ASR-Streaming Technical Report | 微软研究院、中国科学院大学、上海交通大学 | arXiv:2609.02812 关键词：流式语音识别,说话人归属,端到端统一建模,音频分块交错,前瞻音频,开源权重,VibeVoice-ASR-Streaming 前序问题：传统的说话人归属语音识别把「识别说了什么」和「分辨谁在说」当成两个独立任务串起来做。近期像 VibeVoice-ASR 这样的端到端模型已经把两者统一进单个模型，但仍有一处关键短板：这些统一模型主要支持离线识别，也就是要等音频结束才能出结果。这对实时语音助手和智能体是致命的——它们需要的是低延迟。于是问题变成：能否在保留「统一建模」这个优势的同时，把它做成流式？难点在于说话人归属天生带有全局性，判断「谁在说」往往需要参照整段音频里的其他片段，而流式意味着只能看到已经到达的部分。 本文贡献：VibeVoice-ASR-Streaming 是最早一批基于大语言模型的端到端流式说话人归属 ASR 方案之一。它的机制说起来很朴素：把固定大小的音频块、少量前瞻音频、以及此前已生成的文本三者交错编排在同一个自回归上下文里。论文的架构图给出了更精确的描述——语音块与说话人归属的文本块在单个自回归上下文中交错，每个块后面跟一段固定 L=4 帧（0.5 秒）的前瞻音频，然后才生成该块对应的文本。这个安排的效果是，模型可以在语音到达的同时产出「谁说了什么」，而不需要一个独立的说话人分离阶段——分离能力被吸收进同一个自回归过程里。前瞻窗口的存在是一处务实的折中：它用固定的 0.5 秒延迟代价，换取块边界附近判断所需的一点未来上下文。作者发布了 1.5B 与 7B 两个规模的模型权重以及推理代码。 Architecture of VibeVoice-ASR-Streaming. Speech chunks $X_k$ and speaker-attributed text chunks $Y_k$ are interleaved in a single autoregressive context, and each chunk is followed by a fixed $L=4$-frame (0.5 s) lookahead before its text is generated. 实验效果：识别精度方面，7B 模型在五个评测集上取得了最低的平均 WER/CER。说话人归属方面，在 13 个评测设定中的 12 个取得最佳或并列最佳。论文的对比图把范围说得更具体：与四个已部署的商用流式 ASR 系统在四个会议基准与 MLC-Challenge 上比较，其中 AliMeeting 与 AISHELL-4 用 CER 评估、AMI-SDM 与 AMI-IHM 用 WER 评估；MLC-Challenge 里日语和韩语用 CER、其余七种语言用 WER。为保证可比性，所有在线 API 的音频都按 2.9 秒的块流式送入，与本模型的块大小对齐。论文另外报告了单说话人识别结果，但明确说明这是作为一种类别检查而非竞争性主张来呈现的。 Recognition error of VibeVoice-ASR-Streaming-7B and four deployed streaming ASR systems on the four meeting benchmarks and MLC-Challenge. AliMeeting and AISHELL-4 are evaluated with CER, while AMI-SDM and AMI-IHM are evaluated with WER. For MLC-Challenge, Japanese and Korean are evaluated with CER and the remaining seven languages with WER; the reported value is the macro average over the nine evaluated languages. 批判点评：这篇的价值在于把一个已经被验证的统一建模思路推进到流式，而所用手段刻意保持简单——没有引入新的分离模块或额外的对齐机制，就是把音频块、少量前瞻音频、历史文本交错进同一个自回归上下文。这种「用上下文编排替代架构增补」的做法在大语言模型时代往往更稳，因为它不破坏预训练带来的能力。取消独立的说话人分离阶段是真正的收益：传统串联方案里分离阶段的错误会直接污染下游归属，而统一进自回归过程后这个误差传递链被砍掉了。固定 L=4 帧（0.5 秒）前瞻是个诚实的折中——说话人归属在块边界附近确实需要一点未来信息，明确标出这个代价比含糊处理要好。评测上把在线 API 的输入统一到 2.9 秒块以对齐自家块大小，是对可比性的主动维护，值得肯定；同时把单说话人结果明确降格为「类别检查而非竞争性主张」，这种自我限定在技术报告里不多见。开放 1.5B 与 7B 权重及推理代码，让结论可被独立复核。需要留意的地方。第一，两个头号数字都是聚合或近似全胜的表述——「五个集上平均 WER/CER 最低」不排除单个数据集上落后，「13 个设定中 12 个最佳或并列最佳」也明确留了一个未领先的设定，读的时候不宜简化为全面领先。第二，与商用系统横比先天不可控：对方的模型规模、内部延迟策略、是否使用更多上下文都不透明，块大小对齐只解决了输入侧的一个维度。第三，0.5 秒前瞻只是算法延迟下限，真实端到端时延还要加上 7B 模型的计算耗时，而报告未给出吞吐或实时率数字——对「实时语音助手」这个宣称的应用场景，这恰恰是最该给的数字。第四，说话人归属的全局性并未被消除而是被上下文长度约束了：随着会议时长增加，早期说话人身份能否稳定保持，是流式方案的经典失效点，需要按时长分层的结果才能判断。最后，多语言部分的语言分布不均，MLC-Challenge 上九种语言各自的样本量与难度差异会影响均值的解读。 9. Kirin：野外视频学出四足动物动作 Kirin: Animal Motion Generation from In-the-Wild Video | 伊利诺伊大学厄巴纳-香槟分校、宾夕法尼亚大学、斯坦福大学、剑桥大学 | arXiv:2609.01823 关键词：动物运动生成,野外视频重建,视频文本运动三元组,AiM3D数据集,图像条件化,自动绑定动画,ECCV 2026 前序问题：理解动物运动对建模动物行为与生物力学是基础性的，但这个方向的进展远远落后于人体运动研究，原因很直接：缺少高质量运动数据。人体运动可以在受控环境里用动捕采集，而对绝大多数动物物种这根本不现实——你没法给野生四足动物贴标记点。结果是现有数据集规模小、域受限，这又直接限制了动画等下游应用。这里的困境有点循环：没有数据就训不出运动先验，没有运动先验就只能靠人工逐帧调动画。论文选择的突破口是绕开采集这件事本身——既然受控采集做不到，那就从已经大量存在的野外动物视频里把运动重建出来。 本文贡献：Kirin 是一条从视频到可渲染动画资产的完整链路，包含重建、学习先验、生成三段。第一段是数据：利用大量野外动物视频重建出 3D 运动序列并配上字幕，构成 AiM3D——论文称其为首个为四足动物提供对齐的「视频-文本-运动」三元组的大规模数据集。重建这一步的做法是把问题拆开：借现成的 3D 四足动物重建方法和 3D 跟踪方法分别推断关节运动与全局位移，再把两者合起来得到最终的运动重建。这个拆分很关键，因为「身体怎么动」和「整体往哪走」在野外视频里的可观测性完全不同。第二段是模型：在 AiM3D 上训练一个视觉引导的运动生成模型，同时以文本和图像为条件——图像条件不是可选项而是有实质作用的，论文的消融显示在相同文本提示「一只动物在行走」下，不同输入图像会带来相应的骨架变化与步态差异，也就是说图像承担了「这是什么动物、身体比例如何」这部分信息。第三段是落地：借一个现成的图像到 3D 模型自动完成绑定与动画，把生成的运动直接套到 3D 网格上，产出可直接渲染的动物动画。该文已被 ECCV 2026 接收。 Left: Overview of Kirin generation pipeline. A text description and an image are provided as inputs. The text and image are used for motion generation, while the image is also used to generate a T-posed mesh. The animation module then rigs the generated motion onto the mesh to produce the final animated 3D model. Right: Overview of the motion generation architecture. Text features are extracted using a frozen DistilBERT encoder, and image features are extracted using a frozen DINOv3 encoder. The text, image, and denoising step embeddings are combined and fed into a transformer decoder with cross-attention to generate motion sequences. % annotate the notations in the figure, add subtitles for left and right parts, use darker gray color for arrows, texts are too small 实验效果：论文与两个基线做了定性对比，两组都直指对手的具体失效模式。与 Puppeteer 比的是网格动画：在相同的文本与图像输入下，Puppeteer 常常在输入网格上产生很小甚至没有运动，而本方法生成的动作会跟随文本提示。与 AniMo 比的是骨架运动：AniMo 只用文本，本方法同时以文本和图像为条件；AniMo 出现的失败包括运动不遵循提示词以及骨架形状不一致，而本方法产出的运动更真实。数据侧论文给出多层展示：动物关节运动的数据样例（每行左侧是两段运动的文本描述，随后是视频帧与对应的重建 3D 运动）、全局位移的可视化（把根关节轨迹投影到地面以显示整体位移）、以及数据集统计——各动物类别的视频数与帧数分布、以及全数据集上的运动类型分布（每个视频被赋予一到三个运动标签）。另有一组补充结果专门展示全局运动更显著的例子。 Visual comparison of generated mesh animation with the baseline. The left columns show the input text and image, which are used for both pipelines. Puppeteer often produces little or no motion on the input mesh, whereas our method generates realistic movements that follow the text prompt. 批判点评：这篇解题的思路很值得学：面对「受控采集在动物身上不可行」这个硬约束，它没有去改进采集，而是把已经海量存在的野外视频当成数据源，用重建把无标注视频转成运动监督。这一步走通了，整个循环就被打开了。重建阶段把「关节运动」与「全局位移」分开处理、再合并，是有针对性的设计——野外视频里身体姿态和整体位移的可观测性差别很大，混在一起估计容易互相污染。图像条件的引入也不是堆砌模态：消融显示同一句「一只动物在行走」配不同图像会产出相应的骨架与步态差异，说明图像承担了物种与身体比例这部分文本说不清的信息，这正是动物域比人体域更需要视觉条件的原因。最后接上现成的图像到 3D 模型自动绑定，把产物一路推到「可直接渲染」，让这项工作对动画流程有实际可用性，而不是停在骨架序列。两组基线对比也选得准，各自指向具体失效模式：Puppeteer 几乎不动，AniMo 不遵循提示且骨架不一致。需要清楚的是证据形态与数据性质。第一，摘要层面给的主要是定性对比和数据集统计，缺少定量指标——运动生成有成熟的评价手段（关节误差、足部滑动、用户研究胜率），没有这些数字时「更真实」难以校准。第二，也是更根本的：AiM3D 的「真值」是用现成的 3D 重建与跟踪方法从野外视频推断出来的，不是动捕级真值，因此数据里必然带有上游工具的系统性偏差，而在这份数据上训练的模型会继承这些偏差；这不否定其价值，但意味着它衡量的是「与重建结果一致」而非「与真实运动一致」。第三，覆盖面限定在四足动物，鸟类、鱼类等形态差异大的类别未涉及，而这些恰恰是动画中同样常见的需求。第四，野外视频的运动分布天然偏向常见行为（行走、奔跑），罕见动作与高动态动作的样本很可能稀疏，数据集的运动类型分布图应能反映这一点。最后，自动绑定这一环依赖外部图像到 3D 模型，其网格质量与拓扑会直接决定最终动画的可用性，这部分不在本文的控制范围内。 10. RIG-BENCH：2000题测生成模型会不会推理 Thinking in Pictures: A Systematic Benchmark for Reasoning-driven Image Generation | 伊利诺伊大学厄巴纳-香槟分校、纽约大学 | arXiv:2609.02864 关键词：推理驱动图像生成,统一生成模型,评测基准,视觉推理,推理生成落差,世界模拟器,RIG-BENCH 前序问题：统一生成模型和世界模拟器在视觉感知与合成上已经拿到了前所未有的结果，但论文指出这些模型主要依赖表层的事件对齐，高层视觉推理的能力基本没被认真考察过。作者提出的判据是「Reasoning-to-Generation」——真正的视觉生成智能应当能从视觉输入里推断出隐含规则，然后把解答以精确的、受逻辑约束的视觉结果呈现出来。注意这个要求比常见的「按提示词画对」严格得多：它不是考察模型能否理解描述，而是考察模型能否在没有被告知规则的情况下自己找出规则，并且把找出来的规则正确地画出来。这两步任何一步断掉，结果就不成立，而现有基准基本不区分这两种失败。 本文贡献：RIG-BENCH 的贡献是把上面这个能力做成可系统评测的东西，覆盖四个认知负荷较高的域：基于概念、基于变换、模式与结构、以及基于场景，共 2000 个精选样本。论文的数据总览图说明了每类题的构造：每个条目提供视觉上下文（输入/上下文）加一张未展示的真值图像（GT Target），模型必须从视觉上下文推断出正确答案并以图像形式产出。评测流程分三步且刻意收紧了口径：第一步「源任务接口」，从已建立的视觉推理基准里取「图+题+选项」，经人工改写成「图+提示词+无选项」——抹掉选项是关键，因为一旦给选项，任务就退化成选择而非生成；第二步「统一生成协议」，被选模型接收上下文图像加提示词，直接生成答案图像；第三步「打分与报告」，把生成图与真值图的比较同时交给三条路径：裁判模型评分、自动指标（DINO、CLIP-I、LPIPS、FID）、以及人工 rubric 与人类手绘答案的对照，最后汇总成总分。2000 个样本进一步被拆成四大任务族之下的十一个细粒度子任务。 End-to-end pipeline of RIG-Bench. (1) Source Task Interface: items are drawn from established visual reasoning benchmarks and manually re-cast with an image-based output prompt (no options exposed to the model). (2) Unified Generation Protocol: selected models receive the context images plus the prompt and generate the answer image directly. (3) Scoring and Reporting: each generation is compared against the ground-truth image using both an LLM judge over a hand-written rubric and automatic perceptual metrics, with an additional human study for calibration. 实验效果：论文对当前最先进的统一生成模型以及图像/视频生成模型做了广泛评测，核心结论是存在显著的「推理-生成落差」：模型经常产出局部看起来合理、但全局逻辑不成立的输出。结果呈现上，论文给出九个生成模型在各子任务上的评分对比，并用线型区分模型类别——实线为闭源商用图像生成器、虚线为开源图像生成器、点线为视频生成器，因此可以看出这个落差是跨类别普遍存在还是集中于某一类。论文还做了用户研究（附带评测界面截图），并给出开源模型、闭源商用模型与视频生成模型各自的补充定性样例。作者将 RIG-BENCH 定位为一个诊断框架，用于引导下一代逻辑上更有依据的统一生成模型与世界模拟器的发展。 Distribution of the $2{,}000$ samples in RIG-Bench. % The inner ring summarizes the four task families; the outer % ring breaks them down into eleven fine-grained subtasks. 批判点评：这篇把一个含糊的担忧变成了可测量的东西，这是基准类工作最该做的事。「模型只是在做表层事件对齐」这句判断在圈内流传已久，但缺少能证伪它的题目；RIG-BENCH 给出的定义相当锋利——从视觉输入推断隐含规则，再把解答画出来，两步都要成立。协议设计里最有判断力的一处是抹掉选项：一旦给出选项，任务就从「生成」退化成「识别 + 挑选」，而这恰恰是很多多模态评测无意间放水的地方；改写成图像输出、隐去选项，才真正逼模型把推理结果落到像素上。四大任务族下再分十一个细粒度子任务，让失败可以被定位到具体的推理类型，而不是只得到一个总分。打分环节没有偷懒地只用一种尺子，而是让裁判模型、自动相似度指标与人工 rubric 三路并行，这在生成式评测里是必要的冗余。用线型区分闭源图像生成器、开源图像生成器与视频生成器，也是有意为之——它让读者能判断「推理-生成落差」是全行业共性还是某类架构的问题，这比一张排行榜有用得多。「局部合理、全局不成立」这个失败刻画本身就很有价值，它指向的是生成模型缺少全局一致性约束，而非缺少局部保真度。需要注意几处。第一，这是诊断而非解法，它告诉我们模型不会推理，但没有给出为什么不会——是推理能力缺失，还是推理正确却无法用像素准确表达，这两种解释后果完全不同，而现有打分方式很难把它们分开。第二，题目由既有视觉推理基准人工改写而来，因此难度分布、覆盖偏好乃至潜在的数据污染都从源基准继承，某些模型在预训练中见过相关题型的风险无法完全排除。第三，自动指标这一路（DINO、CLIP-I、LPIPS、FID）本质上度量的是与真值图的视觉相似度，而很多推理题的正确解在视觉上并不唯一，这会系统性压低分数、可能夸大所谓落差；论文用裁判模型与人工 rubric 来平衡，但三路分数如何加权、彼此一致性如何，摘要层面没有交代。第四，摘要没有给出各模型的具体分数与排名，「显著落差」的量级因此难以判断。最后，作为诊断框架，它的长期价值取决于是否被后续工作当作优化目标；而一旦被当作优化目标，隐含规则类题目又特别容易被针对性拟合，这是所有此类基准都要面对的宿命。 趋势观察 长时序世界模型的瓶颈已经从「架构」挪到了「数据契约」和「训练配方」 — 今天最值得读的是 SolarWM。它有意思的地方不在提出某个新模块，而在于承认了一件行业里心知肚明却少有人正面收拾的事：世界模型这条线上，真正拖慢进展的不是骨干网络不够强，而是各家数据的时间尺度、相机几何、画质、运动幅度、字幕风格全都不一样，各家实现又绑死在自己的模型上，于是监督信号互相矛盾、结果无法复现也无法比较。SolarWM 的回应是把 10 个数据集的 143 万个片段压成一份统一的、逐帧对齐的「数据契约」——视觉观测、度量尺度的相机几何、字幕、质量元数据、筛选决策、来源出处全部在同一份规格里，并且刻意把「单源处理」和「混合配比」解耦，这样换配方不用重跑数据。在这套共享的相机条件化与训练/推理接口上，他们基于 Wan2.2、LTX-2.5、MiniMax-H3 实例化了四个 5B–33B 的模型，且保留各自原生的表示与目标函数，再用一套三阶段配方（双向适配 → 教师强制的自回归初始化 → 分布匹配蒸馏）统一收口。结果是：只在 5 秒序列上训练，得到的因果模型却能做到分钟级到小时级的实时交互推演。这个「训练窗口极短、推演窗口极长」的落差，是今天这批工作里最值得注意的一处。 往下看，加速这条线今天出现了训练侧和推理侧的双响。SelfLift 处理的是少步扩散里一个具体到有点刻薄的矛盾：当时间步已经被压到个位数，每次前向的空间开销就成了延迟主项，于是大家改用「先低分辨率去噪、后期再升到高分辨率」的渐进式推理；但既有做法把中间 latent 直接抬上去，指望后续步骤自己吸收掉分布错配——在少步这个预算下根本吸收不完，残留就是可见的伪影，反过来又迫使切换点必须提前，加速比因此上不去。SelfLift 的解法是让模型自己当医生：直接抬升的 latent 与经 pixel-VAE 重编码的 latent 之间的分歧，既当作局部伪影风险图，又当作模型原生的修正方向，全程不需要外接超分、不加去噪评估、不改采样表。在 FLUX.2-Klein 和 Z-Image-Turbo 上端到端延迟分别降 41.5% 和 44.1%，叠加时间步蒸馏后相对 50 步模型是 29.61× 和 19.21×。f-loss 则从训练目标动手，指出了一处几乎被当成常识而无人清算的偏置：自然图像服从 1/f² 的谱分布，能量绝大部分堆在低频，但纹理和边缘这些真正影响观感的结构却占据稀疏的高频带；而像素空间的重建损失对所有空间误差一视同仁，等于让低频主宰了优化信号、把细节的学习一路往后拖。它的处置很朴素——先用一个跨频率均衡的 Focal Log-Frequency Loss 把各频段的学习信号拉平，训练后期再切回标准的像素 v-loss 做空间精修，不改架构、可直接替换原有 flow matching 损失，多个模型规模上收敛最多快 40%，FID 与感知保真度同时改善。这两篇一个改推理、一个改训练，但共同点是都没有加参数，而是去修正「信号分配」本身。 相机可控这条线今天也有两篇互为镜像的工作。MeRoPE 指出既有几何位置编码有一个依赖尺度的失效模式：齐次投影式的编码会让注意力 logits 和特征范数随物理平移基线无界增长——也就是说，在真实的、以米为单位的相机轨迹上，走得越远越容易崩。它的对策是保范数：用正交旋转块编码标定视线之间的相对朝向，把原始度量位移映射成多频旋转相位，再沿对极弧加一个视差锚定的对应先验，从而严格保住特征范数、把 softmax 前的 logits 限住、并对全局刚体坐标变换保持精确不变性。CameraEditor 面对的是同一个物理量在图像编辑侧的表现：现有编辑模型擅长语义和风格，一旦要求按相机参数做大幅视角变化，就在「结构撕裂」和「保守到干脆无视几何指令」之间二选一。它的做法是把这个空间问题改写成时序预测问题——借视频扩散的时间连贯性，配一个显式几何感知模块和动态参考路由，用动态全景裁切构造几何上严格的参考对，再刻意插入中间过渡帧把大幅视角变化拆成小步，给身份一致性留出时间缓冲；该文已被 ACM Multimedia 2026 接收。 剩下几篇各自补齐一块拼图，但有一条隐线值得点出：它们都在把「一次前向就出最终产物」当作目标。LightBridge 让 3DGS 重光照不再需要逐场景优化，单次前向直接吐出完整的可重光照 3DGS 资产；GlyphAnchor 用轻量字形块条件、且位置通过模型原生位置编码锚定到目标图像，去救长文本、密排文本和生僻字的渲染；VibeVoice-ASR-Streaming 把「谁说了什么」做成流式，靠交错固定长音频块、少量前瞻音频与历史文本，取消了独立的说话人分离阶段；Kirin 把野外动物视频重建成 3D 运动并配上字幕，做出首个四足动物的视频-文本-运动三元组数据集。最后 RIG-BENCH 给这一天留了个刹车：它用 2000 道题去考「从视觉输入推断隐含规则、再把解答画出来」这件事，结论是当前统一生成模型普遍存在推理-生成落差——局部看着合理，全局逻辑不成立。把它和开头的 SolarWM 放在一起读会更清楚：我们已经能让模型把世界推演一小时，但还没能确保它推演的那一小时讲得通。 人工智能炼丹君 整理 | 2026-09-04 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-03|Runway让界面直接生成而不再写代码-Solaris 今日 AIGC 论文速览 今日共 10 篇 重点论文标题列表 Solaris（Runway）：界面逐帧生成而不再写代码 H3-World（腾讯 + 新加坡国立大学 + 香港理工大学）：0.199%参数让33B模型可控 ZimaBlue（Joy Future Academy）：12万小时视频抬成功率78% PixSGR（电子科技大学）：粗尺度注意力指路稀疏精修 Lapis（上海交通大学（教育部人工智能重点实验室 + 致远学院））：一步扩散把1080P深度提速7.6倍 今日论文速览 1. Solaris：界面逐帧生成而不再写代码 Solaris: Towards Interfaces That Are Generated, Not Coded | Runway | arXiv:2609.00776 关键词：界面世界模型,自回归帧生成,鼠标交互条件化,少步蒸馏,语言模型分工,Runway,Solaris 前序问题：数字界面到今天为止都必须经过一层中间表示才能存在：你得先用代码把每个按钮长什么样、点下去会发生什么、状态怎么迁移，全部提前写清楚。这意味着界面的表现力被两件事同时限制住——一是所有可能的状态必须事先枚举，二是任何视觉细节都得能被代码这种符号系统表达出来。后者的损失并不抽象：论文自己做了一组重建实验，让多模态语言模型看一张界面截图再用代码把它复现出来，结果是随着视觉复杂度上升，重建保真度持续下降，而且这个趋势在不同能力的模型上都成立。也就是说这不是模型不够强的问题，而是「把视觉界面翻译成中间表示」这个动作本身就在丢信息。于是问题被重新提出来：能不能跳过代码，让界面的外观和行为都由一个生成模型在交互过程中直接产生？难点在于这要求模型在用户连续操作下保持视觉连贯，还得跑到交互可用的速度，而自回归视频生成通常两头都不满足。 本文贡献：Solaris 的做法是把界面当成一个可交互的世界来建模，具体拆成三件事。第一，它把鼠标交互直接作为条件信号喂进模型，自回归地合成交互之后应该出现的视觉状态——注意这里的关键是闭环：每一帧生成出来之后，用户下一次操作的对象就是这一帧，所以模型必须自己承担状态维护。第二，为了在长时间连续交互下既跑得快又不崩，它把自回归帧生成、少步蒸馏、以及在模型自己输出上继续训练三者结合起来，后者是对抗自回归漂移的关键——只在真实数据上训练的模型会在自己产生的分布上迅速失稳。第三，也是架构上最值得注意的判断：它没让视觉模型独自承担一切，而是配一个语言模型专门解释用户意图、维护高层状态、并规定某次交互应该对生成环境产生什么影响，把「高层推理」和「视觉渲染」明确分开。这样界面的外观和行为都是动态生成的，不需要提前编程，因此可以支持开放式的交互——用户可以做设计者没预想过的操作。 How Solaris runs. Solaris is organized as three levels. The user acts on the frame with mouse and keyboard, the language model holds the state of the session and specifies what each action should mean, and the world model executes that intent, generating both the appearance and the behavior of the result.[-0.05cm] 实验效果：论文的主证据是一场规模不小的人类偏好盲测：250 名参与者、7500 次响应，把 Solaris 生成的交互与语言模型写代码产出的界面两两对比。在「哪个结果更好地遵循了给定指令」这一问上，Solaris 拿到 62%、无偏好 13%、代码方案 25%；在「哪个在场景里表现得更自然」这一问上，Solaris 拿到 72%、无偏好 7%、代码方案 21%。两个问题的差距形态不同是有信息量的——后者赢得更多，说明生成式界面的优势主要不在把指令执行得多准，而在产生的交互与环境保持连贯。另一组重建保真度实验则从反面支撑动机：跨多个多模态语言模型，界面视觉复杂度越高，用代码重建的保真度越低。 Interface world models produce more natural interactions. Participants preferred Solaris over coded interfaces both for following the requested interaction and, by an even larger margin, for behaving naturally within the scene, highlighting the ability of interface world models to generate interactions that remain coherent with the environment.[-0.3cm] 批判点评：把界面纳入世界模型的射程，这个问题的提法本身比方法更有价值。它指出的那处不适一直存在却少有人正面处理：界面必须提前枚举状态，而真实交互是开放的。用重建保真度实验来量化「经过代码这层中间表示要付多少代价」，也是个干净的论证方式——它把「代码表达力不足」从一句直觉变成了一条随复杂度下降的曲线。语言模型管状态和意图、视觉模型只管渲染这个分工，同样比让单个视觉模型硬扛更可信。但要清楚这篇的证据边界在哪里。首先，两组盲测的对照都是 LLM 写代码的界面，而不是人手写的成熟产品，所以 62%、72% 这两个数字回答的是「生成还是让 LLM 写代码」，完全没有回答「生成还是工程师写代码」。其次，论文图注自己写明这些数字在研究团队批准前是占位状态，引用时应当保守。第三，界面这个域对错误的容忍度极低——一个按钮偶尔画错位置在视频生成里是瑕疵，在界面里就是功能失效，而论文给的是聚合偏好率，没有给出「关键交互失败率」这类更接近可用性的指标。第四，语言模型与世界模型的分工在延迟上是有代价的，实时性论文用「交互速度」概括，缺少明确的帧率与端到端时延数字。这些不影响它作为方向性工作的价值，但离「界面可以不写代码了」还隔着一段工程距离。 2. H3-World：0.199%参数让33B模型可控 H3-World: Turning Language Understanding into World Control | 腾讯 + 新加坡国立大学 + 香港理工大学 | arXiv:2609.01560 关键词：交互世界模型,语言即控制接口,时间注意力路由,LoRA轻量适配,MiniMax-H3,腾讯,H3-World 前序问题：把大视频生成器改造成可交互世界模型，主流做法是加一个专门的动作模块：设计动作编码器、动作嵌入空间，甚至改网络结构，然后用大量带动作标签的数据去训。这条路的代价是双重的——既要重新学一套动作到视觉的映射，又容易破坏预训练模型本来的生成质量。但论文注意到一件事：随着视频生成器变强，它们其实已经能零样本响应自然语言里的控制意图了，MiniMax-H3 就能靠自然语言指令控制角色行为和镜头运动。问题是这种语言接口太粗——你说「角色向左横移，镜头缓慢右摇」，模型大致能做，但它不知道这个动作该发生在第几帧到第几帧，也不知道多个连续动作之间的边界在哪里，指令的影响会在时间轴上互相泄漏。所以真正的问题不是「怎么给模型加动作能力」，而是「怎么把已经存在的粗糙语言控制，变成时间上精确、动作之间不串味的世界控制」，并且不能引入专用动作模块、不能付大规模重训的代价。 本文贡献：H3-World 的三步都围绕「复用而非新建」。第一步是动作表示：它不发明动作嵌入，而是把每个动作写成角色指令与镜头指令的结构化组合（比如角色「向后走并向左横移」、镜头「缓慢右摇并上抬」），这样动作天然落在预训练模型已经理解的语言空间里。第二步是时间对齐：把这些动作提示独立编码后，与静态语义条件、初始观测、视频 latent 一起打包成一条序列，每个动作跨度与它对应的视频 latent 帧段绑定。第三步是关键设计——时间注意力路由，通过掩码把每条指令的作用范围限制在它意图生效的时间区间内，同时保持视频 latent 之间的双向注意力，这就直接压住了动作之间的控制泄漏。适配用 LoRA 加在 H3 自注意力的 QKV 与输出投影上，走单出口路由：每个动作跨度只连到它匹配的视频 latent。整个改造的代价是 8000 条游戏样本、10000 步 LoRA 优化、0.199% 可训练参数。 Overview of H3-World. (a) Latent-aligned action prompts are independently encoded and packed with the static semantic condition, initial observation, and video latents. (b) MiniMax-H3 processes the packed sequence through single-stream self-attention. (c) LoRA adapts the attention projections under single-egress routing, which connects each action span directly to its matched video latent and retains bidirectional attention among video latents. 实验效果：在这么轻的适配预算下，H3-World 实现了有效的角色与镜头控制，同时保住了原模型的生成质量——这一点很重要，因为加专用动作模块的方案常常在获得可控性的同时损失画质。论文给的定性证据分两类：一是对照录制控制的复现，把真实录制视频与 H3-World 从同一初始观测和同一动作序列生成的结果上下对照，检验它是否跟得上真实操作；二是受控动作干预，固定初始观测、随机种子和采样配置只改动作指令，结果产生了明显不同的角色运动与镜头运动，包括幅度更大的快速摇镜。它还能泛化到训练时没见过的场景，说明复用预训练语义表示这一判断是站得住的。 Controlled action comparison. The initial observation, seed, and sampling configuration are fixed across rows. Changing the action produces distinct character and camera motion, including stronger fast pans. 批判点评：这篇最有价值的地方是它选择相信预训练模型已有的能力。当所有人都在给视频模型加动作模块时，它先去问「模型是不是已经会了，只是接口太糙」，答案是会——那么工作量就从「教会」变成了「校准」，代价从大规模重训降到 0.199% 参数。时间注意力路由是这个思路里最实的一块：控制泄漏是语言接口的固有缺陷，用掩码把每条指令钉在它的时间区间上，比用更多数据去「教」模型区分先后要直接得多。而且它保留了视频 latent 之间的双向注意力，没有为了时序精度牺牲生成一致性。但这条路径的边界也很清楚。第一，它的可控性天花板被基座模型的语言理解压着——H3 听不懂的动作，路由和 LoRA 都补不出来，所以这套方法能走多远高度依赖基座，换个语言控制能力弱的模型可能直接失效。第二，动作被写成「角色指令 + 镜头指令」的结构化组合，这个词汇表是人定的，面对需要精细连续量的控制（力度、速度、精确位移）时，语言的分辨率本身就不够。第三，摘要层面缺少量化的可控性指标和与其他交互世界模型的横向对比，仅有定性对照，「有效控制」的强度难以判断。第四，8000 条游戏样本这个量级说明验证还停留在游戏域，而游戏场景的动作空间比真实世界规整得多。 3. ZimaBlue：12万小时视频抬成功率78% ZimaBlue: Evolving Generalizable World Action Models through Scalable Video Pre-training | Joy Future Academy | arXiv:2609.00188 关键词：世界动作模型,具身视频预训练,Slow-Fast双系统,统一动作表示,扩散步蒸馏,机器人操作,ZimaBlue 前序问题：机器人操作有一个绕不过去的扩展性矛盾：要泛化就需要广泛的物理经验，但带动作标签的机器人轨迹采集昂贵，且天然缺乏多样性——一个实验室能覆盖的场景、物体、任务组合太有限。与此同时，第一人称视频是一种量级完全不同的具身经验来源，里面有物体交互、接触动力学、工具使用、长程行为，跨越各种环境。矛盾点在于这些视频没有动作标签，无法直接监督控制策略。所以核心问题是：怎么把这种丰富但无动作的经验，转化成真正可用的机器人控制能力。这里还叠加了一个部署侧的硬约束：生成式世界模型天生慢，而闭环控制要求高频动作输出，一个能预测未来视频的大模型如果只能跑几赫兹，在真机上就没有意义。所以方法不仅要解决数据转化，还得同时解决实时性，两者往往互相拉扯——模型越大越懂物理，也越跑不动。 本文贡献：ZimaBlue 的答案分成训练课程和推理架构两半。训练是三阶段的数据金字塔：阶段一在大规模人类与机器人第一人称视频上做因果化具身视频预训练，只学通用视觉动力学，完全不需要动作监督；阶段二引入多种本体的机器人动作，用统一动作表示把学到的视觉动力学接地到跨本体控制上，这一步是「无动作经验」转化为「可执行控制」的枢纽；阶段三针对目标机器人与目标基准做特化以便部署。推理侧是异步 Slow-Fast 双系统：Slow 分支是一个 5B 的 DiT，吃观测、机器人状态、语言指令加带噪视频与动作 token，联合预测未来视频 latent 与对应动作（后者只作为视频-动作对齐的辅助监督），并导出逐层视频 K/V 缓存；Fast 分支是 0.5B DiT，吃更新后的观测与状态，把 Slow 的视频 K/V 注入自注意力，产出用于高频闭环的细粒度动作。两条分支频率不同，Slow 慢跑提供可泛化的时空表示，Fast 快跑保证控制率，中间还用扩散步蒸馏与编译进一步压延迟。 Slow-Fast dual-system architecture. The Slow DiT processes observations, robot state, language instruction, along with noisy video and action tokens, to jointly predict future video latents and their corresponding actions (serves only as auxiliary supervision for video-action alignment). Concurrently, the Fast DiT ingests the updated observation and state, conditioned on the Slow DiT's video K/V caches, to generate fine-grained final actions for high-frequency closed-loop control. 实验效果：最能说明问题的是那条数据扩展曲线：真机零样本评测下，从「只用目标机器人自己的数据」扩展到 12 万小时以上的具身视频，成功率从 36.1% 提到 77.8%。这个 2 倍以上的提升几乎全部来自不带动作标签的视频，直接回答了「无动作经验值不值得用」这个问题。实时性方面，Slow-Fast 异步架构让 Fast 分支在单张 NVIDIA RTX 4090 上做到 30 Hz 动作预测——注意这是消费级卡，不是数据中心配置，对真机部署的意义比在 A100 上跑通更大。论文还提供了 RoboTwin、RoboCasa、LIBERO-Plus 等仿真基准的分任务结果，以及真机扰动条件（视觉偏移、物体重定位等）下的案例评测。 Data pyramid. Three-stage training progresses from broad visual diversity to deployment-specific embodiment. romannumeral 1 (Pre-training) learns general visual dynamics from diverse video sources without action supervision. romannumeral 2 (Mid-training) introduces robot actions from multiple embodiments, grounding visual dynamics in cross-embodiment control. romannumeral 3 (Post-training) specializes the model on target embodiments and benchmarks for deployment. 批判点评：这篇把「用无动作视频扩机器人能力」从一个人人认同的方向变成了一条可以摆出来的曲线，36.1%→77.8% 这个数字的说服力在于它是真机零样本，不是仿真里刷出来的。三阶段课程的分工也清晰：预训练学动力学、中训练接地到动作、后训练特化部署，每一步要什么数据、解决什么问题都对得上。Slow-Fast 用 K/V 缓存做跨分支信息传递是个漂亮的工程解——不是简单地把大模型蒸馏成小模型，而是让小模型直接读大模型的中间表示，在单卡 4090 上拿到 30 Hz 是有实际部署价值的。但需要注意几点。第一，36.1%→77.8% 的对照是自身消融（只用目标机器人数据 vs 加 12 万小时视频），不是与其他 VLA 方法的横向比较，所以它证明的是「数据扩展有效」，不能直接读成「ZimaBlue 优于其他方法」。第二，Slow 分支输出的 K/V 缓存有个内在时滞——论文自己用 outdated 标注了这一点，也就是 Fast 分支正在依据一份基于过去观测的世界预测来行动，在场景快速变化时这份缓存的可靠性会下降，而这个失效边界论文没有量化。第三，12 万小时的数据规模本身构成了一道复现门槛，这个量级的第一人称视频不是多数团队能获取的，方法的可迁移性因此打折。第四，署名机构 Joy Future Academy 是个新出现的名字，源码里的作者上标标注的是任务分工（数据、预训练、中训练、后训练、双系统、加速、部署）而非机构隶属，实际的组织背景不透明，只有 Supervision 一栏出现了 Nan Duan。 4. PixSGR：粗尺度注意力指路稀疏精修 Advanced Pixel Diffusion Model with Guided Sparse Global Refinement | 电子科技大学 | arXiv:2609.00798 关键词：像素空间扩散,稀疏全局精修,跨尺度token打分,瓶颈监督,ImageNet FID 1.51,电子科技大学,PixSGR 前序问题：像素空间扩散最近重新被看好，因为它绕开了 VAE 这一层压缩、直接在原始像素域建模分布，保真度上限更高。代价是维度爆炸——自然图像的像素维度极高，注意力算不动。现有方案的两种妥协各有明显后果：一种是用大 patch 做 tokenization，这会直接牺牲细节；另一种是在大 patch 内部做精修，但精修被锁在单个 patch 里，跨 patch 边界的结构连续性和长程 token 交互就丢了，具体表现为结构断裂。论文还给了一个观察来支撑它的切入点：可视化不同 Transformer 块与不同时间步的注意力图能看到，随着网络深度增加，注意力越来越集中在少数区域上。这个现象很关键——它意味着在有限的注意力预算下做全局精修不是没戏，因为真正需要交互的 token 本来就是少数，问题只是怎么在算之前就把它们找出来。 本文贡献：PixSGR 的框架是一条由粗到细逐步展开的路径。起点是一个有监督的低通道瓶颈：先用低维表示高效捕捉自然图像的低维流形，而且这个瓶颈是被显式监督的——论文的可视化对比显示，加了瓶颈损失之后的瓶颈特征明显更结构化、语义更清晰，不加则杂乱。之后逐步扩展通道维度与空间分辨率，一层层恢复更细的结构。核心创新在空间精修阶段：跨尺度 token 打分，用粗尺度已经算好的注意力图来预选真正全局相关的交互，据此把细尺度注意力预先稀疏化。这样就能做超出单个 patch 的非局部精修，同时避开稠密注意力的二次代价——注意这与「先算完再剪枝」是相反的顺序，稀疏模式是在算之前就由粗尺度决定的。瓶颈通路另外提供一路辅助的干净图像预测，最终结果由一个卷积上采样头产出。论文还对瓶颈损失的权重与施加位置分别做了消融。 Overview of the proposed PixSGR framework. PixSGR starts with supervised low-channel bottleneck blocks, expands the channel dimensionality in subsequent Transformer blocks, and performs spatial refinement with sparse attention. Cross-scale token scoring transfers coarse attention patterns to guide fine-scale sparse global interactions. The bottleneck pathway provides an auxiliary clean-image prediction, while a convolutional upsampling head produces the final prediction. 实验效果：ImageNet 上的验证是直接的：256×256 分辨率下 FID 达到 1.51，而且扩到 512×512 时性能保持，FID 1.60。这个「放大分辨率不掉点」的性质对像素空间扩散尤其有意义，因为该路线最容易在高分辨率上崩。消融部分给出了两条支撑：一是瓶颈损失权重的影响，二是施加该损失的网络位置的影响，说明「有监督的低通道瓶颈」不是可有可无的装饰。注意力图可视化则从机理侧支撑了稀疏化的合理性——深层注意力本来就高度集中，所以预先筛掉大部分交互并不会损失多少信息。 Analysis of the key designs in our PixSGR framework. (a) Bottleneck feature visualization with and without the supervision of $\mathcal{L}_{\mathrm{bot}}$. Compared with the baseline, the supervised feature produces more structured and semantically meaningful coarse representations. (b) Attention map visualization across different Transformer blocks and timesteps. As the network depth increases, attention becomes increasingly concentrated on fewer regions, motivating sparse global refinement under a limited attention budget. 批判点评：这篇的思路顺序值得注意：它先用注意力图可视化确认了「深层注意力天然集中」这个事实，再据此设计稀疏化，而不是先假定稀疏可行再补实验。这让跨尺度 token 打分显得不像一个技巧而像一个推论——如果注意力本来就只关心少数区域，那么用便宜的粗尺度注意力去预测哪些区域值得算，逻辑上就是自洽的。而且它是「算前定稀疏」不是「算后剪枝」，真正省下了计算。有监督低通道瓶颈那组特征可视化对比也很有说服力，直接展示了不加监督时表示会杂乱。ImageNet 256 的 FID 1.51 与 512 的 1.60 放在像素空间扩散这条线上是有竞争力的成绩，尤其是放大不掉点这一点。但有几处需要保留判断。第一，摘要给的是 FID 而没有给同预算下的实测延迟或吞吐对比，而这篇的卖点恰恰是效率——「避免二次代价」是理论层面的陈述，实际稀疏注意力在 GPU 上能否兑现理论加速，取决于稀疏模式是否规整，这一点没有交代。第二，稀疏模式由粗尺度注意力决定，那么粗尺度判断错误时细尺度就没有补救机会，这种误差传播的鲁棒性缺少分析。第三，验证只在 ImageNet 类条件生成上，没有文本到图像的结果，而后者的注意力分布形态与类条件差别很大。 5. Lapis：一步扩散把1080P深度提速7.6倍 Efficient and High-Quality Depth Estimation via Pixel-Space Diffusion with Linear Attention | 上海交通大学（教育部人工智能重点实验室 + 致远学院） | arXiv:2608.30129 关键词：单目深度估计,一步扩散,线性注意力,像素空间x预测,ECCV 2026,上海交通大学,Lapis 前序问题：用生成式框架做单目深度估计这几年确实把细节保真度推上去了，但代价在高分辨率场景下变得不可接受：标准注意力是 O(N²)，多步去噪又要重复付这个代价，两者叠加使得 1080P、1440P 这类实际应用分辨率下延迟高得没法用。直觉上的解法是换线性注意力加一步预测，但论文指出直接这么做会立刻暴露三个问题——结构一致性变差、细节丢失、噪声残留。原因不难理解：线性注意力削弱了全局建模能力，深度图这种需要全局一致布局的输出最吃亏；而一步去噪意味着没有后续步骤来修正采样噪声，误差无处消化。所以问题不是「能不能用线性注意力和一步扩散」，而是「怎么把这两个手段引入之后被削掉的全局一致性、边界锐度和抗噪能力，用别的机制补回来」，而且补回来的成本不能把省下的算力再吃掉。 本文贡献：Lapis 用一条由粗到细的层级来分别修补上述三处损失。全局一致性交给 Patch 级一致性模块：它接入预训练语义先验（DINOv2）来强制全局连贯，同时引入局部卷积偏置来保证相邻 patch 之间的结构连续，具体是在 FFN 里加一路残差 3×3 深度卷积（论文称 ConvFFN），并用 AdaLN-Zero 做调制。边界锐度交给 Pixel 级精修模块：通过基于跳连的像素对应关系恢复清晰几何边界，输入是 unpatchify 之后的 token 与编码的 RGBD，走同样的调制结构。抗噪则靠预测目标的选择：一步扩散的采样噪声本质上是偏离干净数据流形，于是它利用流形假设直接采用 x 预测策略，把目标定在干净数据流形上，而不是预测噪声再反解。训练损失除 MSE 外还加了直接作用在 x 空间的多尺度梯度匹配损失来提升深度图锐度。整个框架是像素空间的 x 预测加一步去噪。 实验效果：多个基准上 Lapis 同时拿到 SOTA 精度与边界锐度，覆盖不同分辨率。效率数字是最直观的：相比此前的 SOTA 生成式方法，1080P 下推理延迟降低最多 7.6 倍、1440P 下降低最多 10.9 倍——注意倍数随分辨率上升而变大，这正是 O(N²) 到线性的差异在高分辨率上的体现，也说明这套方法越往高分辨率越划算。论文另外展示了测试时分辨率扩展的现象：输入分辨率提高，模型产出的细节更细，说明它在训练分辨率之外仍然可用。附录还给了边缘感知的点云评测（Chamfer 距离）与模型规格表。 批判点评：这篇的结构很干净：它没有把线性注意力和一步扩散当成免费午餐，而是先明确列出这么换会丢什么（结构一致性、细节、噪声），再逐条给出补偿机制，最后用一个由粗到细的层级把它们组织起来。三处补偿的针对性都对得上——用 DINOv2 语义先验补全局、用深度卷积补 patch 间连续、用 x 预测把一步采样的噪声问题转化成流形对齐问题。特别是 x 预测这一步，它把「一步去噪没有后续步骤纠错」这个结构性缺陷绕开了，而不是靠加大模型硬扛。加速倍数随分辨率上升而变大也是自洽的，符合复杂度分析的预期。但要注意几点。第一，7.6× 与 10.9× 的对照是此前的 SOTA 生成式方法，而深度估计领域还有大量前馈判别式模型本来就很快，这篇没有和它们比延迟，所以「高效」是在生成式这个子类内部成立的。第二，加速比高度依赖分辨率，在常见的 512 或 768 输入下收益会显著缩水，论文用最大值表述容易让人高估通用收益。第三，全局一致性依赖 DINOv2 的语义先验，那么在 DINOv2 表现弱的域（低光、水下、医学）上这套补偿是否还成立，缺少验证。第四，测试时分辨率扩展被作为优点展示，但更高分辨率下细节增多也可能是幻觉细节增多，论文用可视化呈现而没有给对应的量化误差曲线。 6. SinkPruner：高范数token其实是冗余不是线索 SinkPruner: Sink-Free Visual Token Pruning for Multimodal Large Language Models | 香港中文大学 + Weitu AI + 北京大学 | arXiv:2609.01004 关键词：视觉token剪枝,高范数离群token,注意力汇聚(attention sink),视觉净化器,EMNLP 2026,香港中文大学,SinkPruner 前序问题：多模态大模型处理长视觉 token 序列的计算开销很大，剪枝是主流省法，做法上分视觉中心与文本引导两类。但论文指出这两类方法共有一个盲区：高范数离群 token——特征范数异常大的那些 token。问题出在这些 token 恰好会在注意力排序里占据高位，于是被现有方法当成信息量大的重要线索保留下来。论文的观察是相反的：这些高范数离群 token 在特征维度和空间维度上都高度冗余，也就是说它们既不携带独特信息，也不覆盖独特区域，被保留纯属误判。更麻烦的是保留它们会带来连锁后果——它们在 LLM 解码器里形成注意力汇聚（attention sink），把注意力权重大量吸走，造成注意力偏置与注意力弥散，让真正相关的视觉 token 分不到权重。所以这不是「剪枝比例还能不能再高」的问题，而是「现有剪枝方法一直在保留错误的东西」。 本文贡献：SinkPruner 是训练无关的，采用由粗到细的两模块设计。第一个模块是视觉净化器：它先识别高范数离群 token，把它们聚合成单个汇聚 token（而不是简单丢弃，保留其统计作用但不再占据序列位置），再通过注意力过滤与相似度过滤两道筛选出真正有信息量的保留 token。这一步的直接效果是同时缓解注意力汇聚与注意力弥散两个症状。第二个模块是文本引导剪枝器：净化后的视觉序列再与文本 token 交互，利用累积的文本到视觉注意力，只留下与查询语义对齐的视觉 token。两个模块的顺序是有讲究的——先做与文本无关的净化，再做与查询相关的选择，这样文本引导阶段面对的已经是一个没有离群干扰的序列，其注意力信号才可信。论文用散点图量化了净化效果：标准文本引导方法（如 SparseVLM）处于高汇聚状态，汇聚 token 比例 14.23%，而 SinkPruner 把这个比例压到 3.85%。 SinkPruner framework. % Left (Visual Sanitizer): As shown in the Attention Ranking (far left), high-norm outlier tokens (purple) dominate the top ranks despite being background noise. We aggregate these outliers into a single sink token (red hashed) and select informative reserved tokens (orange) via attention and similarity filtering. % Right (Text-Guided Pruner): The purified visual sequence further interacts with text tokens (green), utilizing accumulated text-to-vision attention to retain only semantically relevant visual tokens. 实验效果：在 12 个图文基准与 4 个视频语言基准上验证。最有代表性的数字是压缩强度下的性能保持：在 89% token 削减率下，LLaVA-1.5 仍保住 96.5% 的原始性能，Qwen2.5-VL 保住 91.8%。汇聚比例从 14.23% 降到 3.85% 提供了机理层面的证据，说明性能保持不是碰巧而是确实消除了注意力偏置。另一个有意思的结果是可迁移性：视觉净化器可以单独接到现有剪枝方法上提升它们的性能，说明「先清离群再选 token」这个前置步骤有独立价值，不必整套替换。 Distribution of Visual Attention Sinks in LLM Decoder. % We visualize the relationship between attention weights (y-axis) and massive activation values in sink dimensions (x-axis). % (Left) Standard text-guided methods retain a large cluster of sink tokens (red line, value $>5$), resulting in a high sink ratio of 14.23%. % (Right) Our approach, by filtering visual outliers upstream, suppresses these massive activations, significantly reducing the sink ratio to 3.85% and alleviating attention bias. 批判点评：这篇的价值在于它推翻了一条被广泛沿用的判据。剪枝方法普遍拿注意力权重当重要性代理，而它指出这个代理在高范数离群 token 上系统性失效——那些 token 排名高不是因为重要，而是因为范数大。这个反直觉的发现有实证支撑（特征与空间双维度冗余、汇聚比例 14.23%→3.85%），也解释了为什么以往方法在高压缩率下崩得快。把离群 token 聚合成单个汇聚 token 而不是直接扔，是个细致的处理——保留其吸收作用但不让它占位。两模块的先后顺序也有道理：先做与查询无关的净化，文本引导阶段的注意力信号才干净。视觉净化器能单独加到别的方法上提升效果，进一步说明这个前置步骤是可分离的真贡献。但有几点需要注意。第一，两个骨干的保持率差距不小（96.5% vs 91.8%），说明收益取决于骨干本身的冗余程度，Qwen2.5-VL 这种更强的模型上收益明显缩水，那么在下一代骨干上还剩多少不好判断。第二，性能保持率是跨 16 个基准的汇总，掩盖了任务间的方差——细粒度定位、OCR 这类依赖特定空间位置的任务对剪枝远比 VQA 敏感，摘要层面看不到最差情况。第三，89% 是个很激进的削减率，摘要没有给出不同削减率下的性能曲线，无法判断这个方法的性能衰减是平缓还是在某个阈值突然崩。第四，「高范数离群 token 是冗余的」这个结论建立在当前视觉编码器的伪影特性上，如果编码器架构改变（例如换成没有 register token 伪影的编码器），这条前提可能不再成立。 7. UMM-Synergy：统一多模态模型不是放一起就协同 Uncovering Understanding-Generation Synergy in Native Unified Multimodal Models: From Representation, Task to System | 南洋理工大学 S-Lab + 商汤研究院 | arXiv:2609.01607 关键词：统一多模态模型,理解生成协同,任务解耦MoT,逐层探针,端到端优于流水线,南洋理工大学,UMM-Synergy 前序问题：统一多模态模型现在很热，但热度掩盖了一个基本问题没被回答：把视觉理解和视觉生成放进同一个模型，功能上统一了，学习上真的协同吗？论文把这个模糊问题拆成三种可能——两个目标互相增强、争夺容量、或者仅仅共存互不影响。这三种情形对架构设计的含义完全不同，但过去的工作大多直接展示统一模型能做两类任务，很少去检验中间发生了什么。检验这件事本身有难度：绝大多数统一模型都用了预训练视觉先验（视觉编码器或扩散先验），这些先验会把「协同效应」和「先验本身带来的收益」混在一起，无法归因。所以论文要求一个结构上原生、不含预训练视觉先验的受控设定，才能干净地观察两个目标之间的关系。这个方法论要求本身就是这篇工作的一部分——不这么做，任何关于协同的结论都可能是先验的功劳。 本文贡献：论文在受控原生设定下从三个层面展开。表示层：用逐层探针（语义分类、mIoU、深度 R-MSE）检查两个目标对视觉表示的影响，同时对比三种架构——稠密共享（所有 token 走同一个 LLM 解码器）、模态解耦 MoT（文本留在 LLM、所有视觉 token 走从零训练的分支）、任务解耦 MoT（理解用的视觉 token 保持语言锚定、只把生成用的视觉 token 特化）。任务层：通过三个案例研究检验双向迁移是否发生。系统层：把端到端统一模型与一个理解、生成能力相当的规划器-执行器流水线做对比。核心发现有三条：第一，两个目标确实互相提供有用信号——生成会丰富用于理解的视觉特征，理解会强化用于生成的视觉语言对齐；但如果两个目标被强迫走同一条计算路径，其中一个会压倒另一个，造成不对称退化，而任务解耦架构（特化冲突的视觉计算、保留语义交互）能避免这种退化。第二，当理解与生成任务依赖共享知识时会出现正向双向迁移。第三，在明确同时需要图像理解与生成的复杂任务上，端到端统一模型优于能力相当的流水线组合。 Illustration of different architectures in our study. (a) Dense sharing sends all tokens through the same LLM decoder. (b) Modality-decoupled MoT keeps text in the LLM and sends all visual tokens through a scratch-trained branch. (c) Task-decoupled MoT keeps Und-V language-anchored while specializing Gen-V. For simplicity, we omit the pre-buffer layers here. 实验效果：逐层探针给出的证据是具体的：联合训练确实强化了视觉表示，在语义与几何两类探测任务上都有提升，而且最明显的收益出现在早期与中间层。PCA 可视化从另一个角度佐证——把 patch 级特征投到共享的三维 PCA 基上做 RGB 图，联合训练产生的物体区域更连贯、空间结构更清晰，与冻结探针的结论一致。架构对比说明的是不对称退化的存在与任务解耦 MoT 的缓解作用。系统层对比则说明统一模型的价值不止于接口统一——在需要理解与生成配合的复杂任务上，端到端优化的收益是流水线拿不到的。 Layer-wise probing experiments of visual representations. Higher is better for classification and mIoU; lower is better for depth R-MSE. Joint training strengthens visual representations, with the clearest gains in early and middle layers across semantic and geometric probing tasks. 批判点评：这篇的贡献主要在方法论。它注意到「统一模型有协同效应」这个说法一直缺少干净的证据，因为预训练视觉先验会污染归因，于是主动选择了一个更难做但可解释的受控设定——结构原生、无视觉先验。这个选择让它的结论比同类工作可信得多。三层拆解也很清晰：表示层用探针看内部、任务层看迁移、系统层比端到端与流水线，每层各自可证伪。最有实操价值的发现是「不对称退化」：两个目标确实互惠，但共享同一条计算路径时其中一个会压倒另一个，因此任务解耦（只特化冲突的视觉计算、保住语义交互）是必要的——这直接是架构选型建议。端到端优于同等能力流水线这一条，则给「为什么不用两个专门模型拼起来」提供了实证回应。但受控设定的代价也在这里。第一，无预训练视觉先验是为了干净归因，而现实中的统一模型几乎全都带先验，那么「生成丰富理解表示」这个收益在已有强视觉编码器的情况下还剩多少，很可能大幅缩水甚至消失——论文没有验证这一点，这是结论外推时最需要警惕的地方。第二，受控设定通常意味着模型规模不大，而容量竞争这个现象本身高度依赖规模，小模型上观察到的不对称退化在大模型上可能因容量充足而消失。第三，摘要层面给的是趋势性表述（「最清晰的收益在早中层」）而非可比的量化幅度，读者难以判断协同效应的强度。 8. ReNFT：已崩的奖励模型能修回多样性 ReNFT: Repairing Mode Collapse in Reward Post-Training via Internal Probability-Mass Recalibration | 南方科技大学 + 腾讯优图实验室 | arXiv:2609.00061 关键词：奖励后训练,模式崩塌修复,概率质量重校准,反枢纽提示,双路混采,腾讯优图,ReNFT 前序问题：扩散生成器做奖励后训练几乎必然付一个代价：概率质量会向少数几个被奖励偏好的模式集中，同一个提示下的输出多样性被抹掉。这就是模式崩塌。现有的缓解手段都依赖外部信号或外部接口——在奖励里加感知目标、调整参考正则、或者改文本编码器。这些做法的共同局限是它们都是预防性的：能在训练时抑制崩塌发生，但没有一个能修复一个已经崩掉的适配器，更做不到在修复的同时保住已经拿到的奖励收益。而这恰恰是实践中最常见的处境：你已经花了算力做完后训练、拿到了高奖励，然后发现多样性没了，此时重新训练成本高昂而且未必避得开同样的坑。论文的切入点是一个观察：在线后训练主要是在重新分配从预训练继承来的能力上的概率质量，而不是学习新的视觉内容。如果这个判断成立，崩塌就是抑制而不是删除，那它原则上可以从生成器内部逆转。 本文贡献：ReNFT 就是在这个判断上构造的内部概率质量重校准流程，分三步。第一步是无条件探针：先找出「反枢纽」提示——即与提示无关的偏置最容易暴露出来的那些提示，把修复算力优先投在这里。第二步是两条策略主导的混合路径：从同一个提示、同一个初始噪声出发生成配对的反事实提案，一条探测冻结基座方向以找出被抑制的替代模式，另一条暴露后训练之后的无条件倾向。这个「同噪声配对」的设计是关键，它保证了两个提案的差异只来自路径而不是采样随机性。第三步是奖励排序加自适应翻转保护：对每一配对做奖励排序来指派拉（pull）与推（push）角色，翻转保护则强制每组的拉比例有 0.5 的下限，防止修复过程被奖励信号带回崩塌方向，最后用联合配对的 NFT 更新实现修复。整个过程不改奖励函数、不动文本编码器，只在生成器内部重新分配概率质量。 ReNFT pipeline. (a) Unconditional probes prioritize anti-hub prompts; (b) two policy-dominated mixed routes generate matched proposals from the same prompt and initial noise; (c) reward ranking and the adaptive flipping guard assign pull/push targets for joint-and-paired NFT repair. The VAE decoder is omitted for clarity. 实验效果：两个基准上的结果都体现了同一种权衡结构：在 PickScore 上保住 NFT 奖励的 98.9%，同时把 DreamSim-Div（多样性指标）提高 58.8%；在 GenEval 上保住 99.0% 的奖励，多样性提高 55.0%。这组数字的意义在于它证明奖励与多样性并非必须互斥——付出约 1% 的奖励损失可以换回超过五成的多样性恢复。论文另外给了训练动态曲线：ReNFT 从已经崩掉的检查点分叉出来、修复 50 步，可以看到奖励与多样性两条曲线的走向；以及混合路径模式与反枢纽选择的消融，说明这两个设计不是可选装饰。自适应翻转保护的效果也被单独可视化——原始拉比例与加保护后的比例对比。 Training dynamics and ablations. (a)(b): PickScore reward and DreamSim-Div; (c)(d): GenEval reward and DreamSim-Div. ReNFT branches from the hacked checkpoint $H$ (star) and repairs for 50 steps; the dashed line marks the base generator. (e)(f): mixed-route pattern and anti-hub ablations after 50 repair steps from the same $H$; the dashed line marks NFT at $H$. 批判点评：这篇提的问题是真实的工程处境：后训练做完、奖励拿到、多样性没了，重训代价高。它给出的判断——崩塌是抑制不是删除，因此可以从内部逆转——是整篇的支点，而且这个支点建立在一个可检验的观察上（在线后训练主要重新分配预训练已有的能力，而非学新内容）。三步设计各有针对性：反枢纽提示把修复算力投在偏置最暴露处，同噪声配对保证两条路径的差异不被采样随机性污染，翻转保护则挡住修复过程被奖励拉回崩塌。98.9% 奖励保持换 58.8% 多样性提升这个交换比很有说服力，说明两者的对立没有想象中那么硬。但要注意几点。第一，基线是 NFT 自身，不是其他抗崩塌方法，所以这组数字回答的是「能不能修」而不是「修比预防好」，实践中如果预防型方法本来就能避开崩塌，ReNFT 的适用场景会窄很多。第二，DreamSim-Div 是多样性的代理指标，提升五成不等于人眼感知的多样性提升五成，也不排除多样性提升伴随质量方差变大——这方面缺少人类评估。第三，修复预算是 50 步，这个预算是怎么定的、多样性恢复是否会随步数继续提升或反转，摘要层面看不到。第四，方法针对的是「适配器已崩」这一具体形态（LoRA 类后训练），对全参数后训练造成的崩塌是否同样适用，没有交代。 9. PredErase：删物体要连影子一起删掉 PredErase: Training-Free Object-and-Effect Removal with Predictive Latent Guidance | 香港大学 + 中山大学 | arXiv:2609.00956 关键词：物体移除,训练无关推理,I-JEPA预测引导,接触带先验,FLUX.2 Fill,香港大学,PredErase 前序问题：论文开头那句话就是它的全部动机：移除一个物体不等于填掉它的掩码。投射的阴影、接触处的暗化通常落在用户给的实例掩码之外，所以一个只在掩码内编辑的冻结 Fill 模型，会把物体的光度足迹留在周围表面上——物体不见了，它的影子还在，结果比不删更违和。有监督的移除模型通过配对的干净底板数据学到了这种联合擦除，但需要专门的成对数据与离线训练。训练无关的编辑器则冻结预训练权重，可它们大多把实例掩码当成全部可编辑区域，并且用 CLIP 或 DINO 这类能量去引导采样——这些能量的问题在于它们不预测被遮挡区域应该是什么，只是度量相似性，因此无法告诉模型洞里该长出什么结构。所以问题变成：在完全不训练的前提下，怎么同时解决「哪里可以改」和「改成什么」这两件事。 本文贡献：PredErase 把这两个问题明确分开处理，跑在冻结的 FLUX.2 与 I-JEPA 上。「哪里可以改」用接触带先验解决：对实例掩码 M_obj 做距离变换得到上下文图，据此膨胀出一个包含接触带与阴影带的编辑支撑 M_flux，这样局部残留（支撑平面上的阴影与接触暗化）就被暴露在可编辑范围内。「改成什么」用预测式引导解决：先把图像的物体区域灰填，让为掩码 token 预测而预训练的 I-JEPA 在表示空间给出一个基于上下文条件的洞内目标并缓存下来——注意 I-JEPA 的训练目标本来就是预测被遮挡内容，这与 CLIP/DINO 的相似性度量有本质区别。采样时冻结的 FLUX.2-klein-4B 沿自己的原生轨迹走，只在 t∈{4,2} 两个时间步上把解码出的 Fill 补全与缓存目标做稀疏投影梯度对齐，并且投影保证在可编辑 latent 支撑之外的额外更新为零——即打包支撑外的坐标被锁住，不会被引导带偏。全程不更新任何模型权重。 PredErase training-free pipeline. Top: gray-filled $I_{\mathrm{vis}}$ lets frozen I-JEPA predict and cache hole tokens $\mathbf{E}_{\mathrm{target}}$. Bottom: a contact-band prior expands $M_{\mathrm{obj}}$ into the effect-aware Fill support $M_{\mathrm{flux}}$. Center: frozen FLUX.2-klein-4B follows its native trajectory; at $t\in\{4,2\}$, decoded features are aligned with $\mathbf{E}_{\mathrm{target}}$ (Eq.) and projected so that the additional I-JEPA update is zero outside the editable latent support (Eq.). No model weights are updated. 实验效果：在 RemovalBench、RORD-Val、DEFACTO-Val 三个基准的实例级掩码设定下，PredErase 相对原生 FLUX.2 骨干有提升。论文对结论的界定相当克服：它明确写出有监督移除模型在若干全图外观指标上仍然领先，因此它支持的主张是「对冻结 Fill 模型做训练无关的物体与效果联合编辑」，而不是取代基于配对数据的擦除器。定性对比在 RemovalBench 1024×1024 实例掩码下给出，列包括输入、掩码、原生 FLUX.2-klein-4B、有监督 OmniEraser、PredErase 与干净底板真值，行为桌上香蕉、瓷砖上手机、桌面鼠标三个案例。论文还单独给了失败案例分析。 Qualitative comparison on RemovalBench ($1024{\times}1024$, instance-only masks). Columns: Input, $M_{\mathrm{obj}}$, native FLUX.2-klein-4B, supervised OmniEraser, PredErase (FLUX.2), clean-plate GT. Rows (top to bottom): banana on desk, phone on tile, desk mouse. 批判点评：这篇最值得学的是它对问题的切分：把「哪里允许改」和「洞里该是什么」当成两个独立子问题，各配一个机制。这个切分抓住了训练无关移除失败的真实原因——以往方法在两处都不到位，编辑区域等于实例掩码所以阴影动不了，引导能量是相似性度量所以不知道该填什么。用 I-JEPA 做预测引导是个恰当的选择：它的预训练目标本来就是从可见上下文预测被遮挡 token，天然回答「洞里该长什么」，这一点比 CLIP/DINO 强的地方是原理性的而非调参性的。只在 t∈{4,2} 两步做稀疏对齐、并把支撑外的更新投影成零，也是很克制的干预方式，避免引导污染整张图。论文对自身定位的诚实度值得称赞——直接写明有监督方法在多项指标上仍领先。但边界同样明显。第一，接触带是靠距离变换膨胀出来的几何先验，对典型的地面接触阴影有效，但真实光照下的阴影方向和长度取决于光源位置，硬拉杆式的膨胀在长投影阴影、多光源、镜面反射这些情形下会失效。第二，方法链依赖 FLUX.2 与 I-JEPA 两个特定冻结模型，其中引导时机 t∈{4,2} 是与骨干采样步数强绑定的超参，换骨干需要重新校准。第三，性能仍落后于有监督方法，所以它的实用价值集中在「没有配对数据」这个约束下，如果能拿到干净底板数据，直接训一个更划算。 10. TimeSteer：让台词精确落在指定时间段 TimeSteer: Inference-Time Speech Scheduling in Joint Audio-Visual Diffusion Models | 中国科学技术大学 | arXiv:2609.01277 关键词：音视频联合扩散,推理期语音调度,源跨度定位,区域感知latent重映射,SpeechShift基准,中国科学技术大学,TimeSteer 前序问题：预训练的音视频联合扩散模型对「生成什么」提供了丰富控制，但对「什么时候说」完全没有显式控制手段。你可以描述一句台词的内容，却无法要求它出现在第 2.8 秒到 4.46 秒之间。实践中这个缺口很要紧——配音、对白定时、多说话人轮次都依赖精确的时间落点。直接的做法是在提示里加一句「from 2.8s to 4.46s」，但论文的定性实验显示这样做基本无效，语音仍然贴在视频开头附近，说明时间信息没有被模型当作硬约束吸收。而重训一个带时间条件的骨干代价高昂，也不现实。于是问题被限定成一个更精确的形式：在完全不微调骨干的前提下，能否把耦合的语音与视觉发音动作放进用户指定的起止区间内。难点在于语音和口型是耦合的，单独平移音频会导致音画不同步，而这两者在 latent 里是纠缠在一起的。 本文贡献：TimeSteer 建立在对去噪过程的两个内在性质的发现上。第一，存在一个对时间敏感的文本到音频交叉注意力头，它暴露了每句话在 latent 时间轴上的模型隐含源跨度——换句话说，模型自己知道它把这句话放在哪了，只是没告诉你。第二，预测出的干净 latent 已经把耦合的语音与视觉发音动作组织好了，所以可以只改它们的时间位置而不必重新生成内容。基于这两点，方法分两步且训练无关：源跨度定位从文本到音频交叉注意力估计每句话的源跨度，具体是对引用 token 的注意力权重按音频 latent 求和得到 m_i，再用相对阈值 τ·m_max 取首尾得到跨度 [s_0, s_1]；区域感知 latent 重映射则通过一张读取映射把内容从源区间搬到目标区间，映射在 [0,d_0] 与 [d_1,T-1] 上用三次 Hermite、在 [d_0,d_1] 目标语音段上用仿射（保持常速，避免语速被拉伸），并保证端点对齐。这张读取映射同时作用在音频与视频 latent 的时间索引上，因此音画耦合被自动保持。论文另外提出 SpeechShift，作为联合音视频生成中区间级语音调度的首个基准。 Overview of TimeSteer. (a) Given target intervals, TimeSteer localizes each utterance's source span and relocates its predicted audio-visual content. (b) Source Span Localization estimates source spans from text-to-audio cross-attention. (c) Region-Aware Latent Remapping relocates the content through its read map. 实验效果：在两个代表性骨干上的实验显示，TimeSteer 相对训练无关基线大幅提升区间可控性，同时保持有竞争力的整体生成质量。论文用 HR_0.2（命中率）、IoU 与 WER 三个指标交叉验证，并给出跨五个随机种子的样本级 Spearman 相关性：HR_0.2 与 IoU 正相关说明两个时间指标彼此一致，两者与 WER 负相关说明更好的时间控制往往伴随更低的转写错误率——这条负相关很重要，它排除了「靠牺牲语音清晰度换时间对齐」的可能。定性图展示了对照：不加 TimeSteer 时即使在提示里追加「from [start] to [end]」，语音仍停留在视频开头附近；加了之后台词能落进任意用户指定的目标区间，同时保持生成质量与文本对齐。 Qualitative speech scheduling. Without TimeSteer, a timing instruction of the form “from [start] to [end]” is appended to the original prompt, yet the speech remains near the video onset. TimeSteer places the utterance within any user-specified target interval while preserving generation quality and text alignment. Shading marks the target intervals; frames are sampled at 1,fps with aligned mel-spectrograms below. 批判点评：这篇的方法论姿态很典型也很有效：先在冻结模型内部找现成的可利用结构，再围绕它设计最小干预。两个发现都属于「模型其实已经有了，只是没暴露」——时间敏感的交叉注意力头暴露了隐含时间位置，干净 latent 已经组织好了音画耦合。这让方法不需要任何训练，也解释了为什么它能同时移动语音和口型：因为读取映射作用在时间索引上，耦合关系是被整体搬运的，而不是分别对齐的。映射的分段设计也考虑到了实际问题——目标语音段用仿射保持常速，避免把语速拉长，两侧用三次 Hermite 保证平滑。三指标交叉验证加上 WER 负相关是很扎实的验证方式，它主动排除了「用清晰度换对齐」这种取巧路径。但需要注意几点。第一，整套方法依赖「存在一个时间敏感的交叉注意力头」这个经验性结构，摘要没说清这个头是怎么选出来的、在不同骨干上是否稳定存在，若换模型需要重新定位这个头，方法的通用性就要打折。第二，SpeechShift 是自建基准，评测标准与难度分布都由作者定义，缺少第三方对照。第三，重映射搬运的是已有内容，因此目标区间的时长必须与源跨度基本匹配——若用户指定的区间明显短于或长于模型自然生成的语音长度，仿射段就得压缩或拉伸语速，这个失效边界摘要没有量化。第四，验证只在两个骨干上，且都属于联合音视频扩散这一类。 趋势观察 世界模型开始接管「界面」和「动作」两类以前必须写代码的东西 — 今天最值得读的是 Runway 的 Solaris，它把一个看似离生成模型很远的东西拉进了世界模型的射程：图形界面。传统界面必须先用代码把外观和行为一条条写死，Solaris 干脆把鼠标点击、拖拽当作条件信号，自回归地逐帧生成界面的下一个视觉状态，用户下一步操作的对象就是模型刚生成的那一帧。它还把「理解意图」和「渲染画面」分给了两个部件——语言模型负责维护状态、解释用户想干什么并规定交互该产生什么后果，视觉世界模型只负责把这个后果画出来。250 人 7500 次盲测里，在「哪个结果更符合给定指令」上 Solaris 拿到 62% 对 25%，而在「哪个在场景里表现得更自然」上差距拉到 72% 对 21%——后者比前者赢得更多，恰好说明生成式界面的优势不在精确执行而在情境连贯。同一天 H3-World 从另一侧给出呼应：它不新造动作模块，而是发现 33B 的 MiniMax-H3 本来就能零样本听懂自然语言里的角色行为与镜头运动指令，于是只用 8000 条游戏样本、0.199% 可训练参数的 LoRA，把这种粗糙的语言接口改造成时间上精确对齐的世界控制。两篇的共同判断是：大视频模型里已经长出来的能力，比新加的专用模块更值得挖。 「无动作标签的视频」正式成为机器人策略的主要数据来源 — ZimaBlue 把这条路线做到了可以摆数字的程度。机器人操作的老问题是带动作标签的轨迹太贵、多样性太差，而第一人称视频里其实塞满了物体交互、接触动力学和长程行为。它用三段式课程把这些无动作视频转成控制能力：先在人类与机器人第一人称视频上做因果化的具身视频预训练，再用统一动作表示在异构机器人轨迹上做视频-动作中训练，最后针对目标机器人特化。真机零样本评测里，从「只用目标机器人数据」扩到 12 万小时以上具身视频，成功率从 36.1% 提到 77.8%——这个 2 倍多的提升几乎全部来自动作无标签的数据。为了让生成式世界模型真能实时控制，它还做了异步 Slow-Fast 双系统：高容量 Slow 世界模型输出可泛化的时空表示与逐层视频 K/V 缓存，轻量 Fast 分支吃着这份缓存在单张 RTX 4090 上跑到 30 Hz 动作预测。这个「大模型慢想、小模型快动」的分工，和 Solaris 里「语言模型想、世界模型画」的分工是同一种思路的两次出现。 推理加速这一侧，今天集中在「把不该花的算力找出来删掉」 — 四篇效率论文的切口出奇一致，都是先指认一处结构性浪费再定点清除。PixSGR 针对像素空间扩散：既然直接在像素域建模维度太高，现有做法要么用大 patch 粗暴切分丢细节、要么把精修锁在单个 patch 内部导致跨边界结构断裂，它就用粗尺度的注意力图预先筛出真正相关的交互、把细尺度注意力稀疏化，在 ImageNet 256 上做到 FID 1.51。Lapis 针对单目深度估计的生成式方案：标准注意力 O(N²) 加多步去噪在高分辨率下完全跑不动，它换成线性注意力加一步扩散，靠 Patch 级一致性模块补全局结构、Pixel 级精修模块补边界，1080P 下延迟降到原来的 1/7.6、1440P 降到 1/10.9。SinkPruner 则报告了一个反直觉的观察：现有视觉 token 剪枝方法会把「高范数离群 token」当成重要线索保留下来，实际上这些 token 在特征和空间两个维度都高度冗余——把它们过滤掉之后，LLaVA-1.5 在削掉 89% token 时仍保住 96.5% 原始性能。S²Prune 更进一步质疑了剪枝的评价基准本身：它发现按重要性或冗余度选 token 会产生稳定的空间偏置，甚至不总能打赢最朴素的均匀网格采样，因此改为先保证每个区域至少留一个 token 再按 Laplacian 变化分配预算。这四篇放在一起的启示是，效率工作的价值越来越取决于「你指认的浪费是不是真的浪费」，而不是压缩比数字本身。 人工智能炼丹君 整理 | 2026-09-03 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-02|阿里7B原生音视频生成硬刚33B大模型-DreamX 今日 AIGC 论文速览 今日共 10 篇 · 原生音视频联合生成与 2K 高清化 1 篇 · 交互式世界模型的记忆与几何一致性 2 篇 · 推理期物理与质量增强，不改权重 3 篇 · 扩散推理加速：token 压缩与区域复用 2 篇 · 像素空间生成范式与端到端隐空间 2 篇 · 工业级细节保真与 RL 后训练 1 篇 重点论文标题列表 DreamX-Creator（阿里巴巴 DreamX Team）：7B原生音视频联合生成打到2K Matrix-Game 3.5（昆仑万维 Skywork）：把世界记忆细到patch级3D云 OMR（越南 Fulbright 大学 + 加州大学洛杉矶分校（BMVC 2026））：用冻结V-JEPA梯度纠物理违背 ShellGame（首尔国立大学 + Roblox）：视频世界模型追不住隐藏状态 GEARS（北京大学 + 阿里巴巴（ACM TOG / SIGGRAPH Asia 2026））：把丢掉的候选诊断修复再利用 今日论文速览 1. DreamX-Creator：7B原生音视频联合生成打到2K DreamX-Creator: Democratizing Native Audio-Video Generation at 2K Resolution | 阿里巴巴 DreamX Team | arXiv:2608.31106 关键词：原生音视频联合生成,门控跨模态注意力(Gated Cross-Modal Attention),2K自回归精修,音视频强化学习,阿里巴巴,DreamX-Creator 前序问题：现在的视频生成器对声音的处理基本是两种姿势：要么干脆不生成音频，要么先把视频做完、再拿另一个模型去配音。这两条路都切断了视觉动态与声学事件之间的互相建模——画面里杯子落地的那一帧和「啪」这一声本该是同一个物理事件的两个投影，级联管线却只能让后者去追前者，声音沦为画面的附属品，而不能反过来约束画面。真正的原生联合生成又有另一重现实障碍：可用的开源方案要么规模很大（33B 量级），要么不开放权重，导致这个方向的研究门槛被模型尺寸和可得性顶住了。于是问题变成一个很具体的工程判断：能不能在 7B 这种「一张卡装得下」的尺度上，把音频与视频真正放在同一个去噪过程里联合建模，同时还要覆盖 2K 这种实用分辨率？难点在于两个模态的表示、时间尺度和信息密度差异都很大，一上来就全程共享参数容易互相拖累，而完全独立又回到了级联的老问题。 本文贡献：DreamX-Creator 1.0 的核心判断是：耦合不必从第一层开始，但必须细到 token 与 head。它以一个 7B 生成器为中心，条件是首帧加文本提示，然后让模态专用的音频流与视频流联合去噪——网络前一半两条流完全独立处理（此处没有跨模态残差），后一半才通过 Gated Cross-Modal Attention 双向耦合：A2V 与 V2A 两个方向各有一路门控交叉注意力，门作用在每个激活的跨模态注意力头的输出上，且是 token 级与 head 级的，等于让模型自己学「这一帧、这个头到底要不要听对面模态」，两条流之间还共享文本编码器与时间坐标系。数据侧配了统一的 Audio-Video Data System，负责构造并过滤时间上连贯的片段、产出结构化多模态标注，并把片段按能力维度组织成数据池。训练走渐进式联合训练：两个音视频预训练阶段之后接高质量微调。再往后是 Audio-Video Reinforcement Learning，用 Modality-Aware Multimodal Feedback 把视频侧、音频侧和跨模态的反馈分别路由回对应的流。高分辨率不靠原生 2K 训练，而是一条自回归 1 步 2K 精修管线。 auto 实验效果：论文用盲测的双人对比给出了最有说服力的结果：面对参数量远大于自己的开源与闭源系统，7B 的 DreamX-Creator 在视频质量上对 Wan2.7 拿到 45.5% 胜 / 13.1% 平 / 41.3% 负，对 KLing v3 是 48.8% 胜 / 10.6% 平 / 40.7% 负，对 33B 的 MiniMax-H3 是 39.5% 胜 / 18.7% 平 / 41.8% 负——也就是说在纯视觉观感上它已经和这些系统在同一量级上互有胜负。但短板同样被论文自己摆了出来：音频质量对 MiniMax-H3 只有 23.7% 胜而 45.5% 负，对 Wan2.7 是 29.3% 胜 / 43.4% 负；文本-视频对齐（TV-Align）对 MiniMax-H3 仅 15.2% 胜、53.0% 平、31.7% 负。相对 LTX-2.3 与 MiniMax-H3 的自动指标里，它在部分维度落后但在 PQ（6.7169 vs 6.4094）与 IB（0.3081 vs 0.2677）上占优。 auto 批判点评：这篇最扎实的贡献是把「原生联合」从一个规模问题重新框成了架构问题：前一半独立、后一半门控耦合，本质上承认了音频和视频在低层特征上没什么可共享的，真正需要交互的是语义与事件层面，而 token 级 + head 级门控又把「什么时候交互」交给数据决定而不是人手设计。这个设计让 7B 有机会在视觉质量上和 33B 掰手腕，是有说服力的。1 步 2K 精修的分工也务实——把分辨率从训练成本里剥离出去。但要注意几个真实的边界。第一，音频侧的差距不是小瑕疵而是结构性的：对 MiniMax-H3 的音频质量只有 23.7% 胜率，几乎是一半场次输掉，这说明「让音频流分走一半参数」在 7B 尺度上给音频留的容量确实不够，门控耦合能改善同步但补不了音质本身。第二，TV-Align 上 53% 的高平局率值得警惕，这往往意味着评测者难以分辨差异，此时胜率的含义会被稀释，用它论证提示遵循能力偏弱说服力有限。第三，2K 是精修出来的而不是生成出来的，那么 2K 尺度上的细节是模型「知道」的还是精修器「补」的，论文没有拆开——如果是后者，2K 的语义正确性并没有得到额外保证。第四，机构与贡献者名单在源码里写着「将随公开版本最终确定」，也就是说这仍是一份技术报告状态的工作，权重是否真开放、开放到什么程度，决定了标题里 Democratizing 这个词能兑现多少。 2. Matrix-Game 3.5：把世界记忆细到patch级3D云 Matrix-Game 3.5: Enhancing Real-Time Streaming Interactive World Models with Patch Memory | 昆仑万维 Skywork | arXiv:2608.29910 关键词：交互式世界模型,patch memory,tiled PRoPE,静态动态解耦,渐进式长程蒸馏,单卡720p实时20FPS,昆仑万维 前序问题：交互式世界模型要做的事情比视频生成难一个量级：它必须以闭环自回归的方式生成未来观测，同时响应相机运动、用户动作和高层提示。麻烦在于自回归会把自己的预测当成后续的上下文，视觉与几何误差因此持续累积，场景逐渐漂移、身份不再一致、可控性退化。有限的上下文窗口又意味着模型无法直接访问远处的观测，所以「回到之前去过的地方」这件事越往后越难；大幅视角变化时，模型不仅要检索到相关的历史信息，还得判断这些信息在当前相机下的正确几何对应位置。更棘手的是持久性与演化的张力：静态环境应当长期保持不变，动态实体却要随用户交互和提示而变化——一刀切地「全部记住」或「全部重新生成」都不对。既有方案的分歧其实在于历史观测以什么单位存储：压缩成 latent token 或 transformer memory 的路线高效但只是隐式表示；按整帧存储再用相机几何检索（Context as Memory、WorldMem、Matrix-Game 3.0）能靠显式空间线索改善场景重访，但一帧是不可分割的记忆单元，只能整体取出、且只能从它原本的视角取出；显式重建成点云或 splat 则几何约束强但难以合成未观测或新出现的内容。 本文贡献：Matrix-Game 3.5 的核心想法是把历史观测组织成显式的、几何感知的持久记忆，粒度落在图像 patch 而不是整帧或压缩 latent。统一的几何感知记忆框架由两部分组成，且 patch-memory 与 tiled-PRoPE 都不引入任何额外可学习参数：patch memory 把历史图像 patch 用度量深度加相机内外参反投影到一个共同的 3D 空间形成 patch 云，目标相机视锥去查询这个云，并在目标视角下用 z-buffer 为每个 latent 位置只保留离相机最近的表面、丢弃被遮挡的候选，最后把选中的 patch 散射进一张对齐目标视角的记忆画布；tiled PRoPE 是作者对 PRoPE 的视频化改造，在检索到的记忆与目标视角注意力之间建立显式几何对应，与原生 RoPE 在同一个注意力核里协同——温和到直线行走时注意力图相对纯时序核的最大变化仅约 1.3%。动态建模上，用运动感知的物体过滤把静态场景观测与动态主体分开，静态区域融进 patch memory，动态主体用轻量的多视角参考 token 表示，配合上下文遮罩与辅助训练损失抑制鬼影和身份漂移。最后是渐进式长程蒸馏：先用教师强制的 Perceptual Flow Matching 得到高质量少步因果初始化模型，再用 self-rollout DMD 直接优化推理时的自回归过程，按课程逐步蒸馏无分类器引导、相机控制与记忆条件化生成。 auto 实验效果：训练数据来自 Unreal 仿真环境、开放世界游戏与互联网视频三类来源，论文报告模型在长程场景回忆、几何一致的相机控制、主体一致性生成、提示驱动的世界演化，以及稳定的开放世界实时交互上都取得了不错的表现，实测能力是单张 GPU 上 720p 分辨率最高 20 FPS 的实时生成。定性结果里最能说明问题的是参考 token 的消融：在其他条件完全固定、只切换有无参考 token 前缀的匹配 rollout 中，取第 300–400 帧来看，加入参考条件后相机运动下的身份与外观漂移明显减少——而且论文特别说明参考帧只取自因果可得的初始化与历史，真值帧仅作视觉比对用、从不喂给模型。tiled PRoPE 的分析图则显示它在保留时序带状结构的同时奖励位姿相似性，两种机制在一个注意力核里并存而非互相干扰。 auto 批判点评：这篇的判断力体现在选对了「记忆单元」这个变量。整帧检索的问题不在于存得少，而在于一帧是原子的——你只能把它整体搬过来，且只能沿它原来的视角看，视角一变这份记忆就半废。降到 patch 粒度之后，记忆天然变成可按可见性筛选、可按几何重排的东西，z-buffer 那一步等于把遮挡推理直接做进了检索里，这比让注意力自己去学遮挡关系要可靠得多。更值得称道的是 patch-memory 与 tiled-PRoPE 都不加可学习参数，这让它有机会作为一个通用组件接到别的骨干上，而不是又一个只能整体接受的架构。静态动态解耦也切中了实际痛点：长程 rollout 里最难看的失败恰恰是本该不动的墙在漂、本该保持身份的角色在变脸。但局限也很清楚。第一，整套机制吃深度和位姿：patch 要靠度量深度反投影、要靠相机内外参对齐，那么深度估计误差和位姿噪声会直接变成记忆里的几何错位，论文没有给出这条链路的敏感性分析——在真实互联网视频这类位姿本就不准的数据上，这个风险不小。第二，persistent 3D patch 云是会一直长的，论文强调了组件不加参数，但没说清内存与检索代价如何随交互时长增长、有没有淘汰策略，而这恰恰是「长程」的成本核心。第三，静态与动态的二分依赖运动感知过滤器，那些介于两者之间的东西（缓慢变化的光照、被推动后停下的物体）落在哪一侧并不明确，分错的代价是鬼影或不该有的持久化。第四，作为技术报告，缺少与同类记忆方案的统一定量对比，20 FPS 也只是单一配置下的数字，读者难以判断这套机制相对整帧检索的净收益到底有多大。 3. OMR：用冻结V-JEPA梯度纠物理违背 Off-Manifold Refinement: Guiding Video Generators with a Frozen World Model | 越南 Fulbright 大学 + 加州大学洛杉矶分校（BMVC 2026） | arXiv:2608.29904 关键词：推理期物理修正,V-JEPA 2.1意外度能量,单轨迹梯度注入,训练无关,Wan2.2,Physics-IQ,BMVC 2026 前序问题：现在的视频生成器在物理动力学上会犯很低级的错：物体悬在空中、轨迹违反重力、接触关系凭空消失。根子在于目标函数——标准的去噪与流匹配目标拟合的是视觉数据分布，它并不显式惩罚这类物理违背，画面只要看着像训练数据里的样子就够了。既有的补救办法都能改善物理一致性，但代价通常不小。候选选择类方法要生成多个视频再逐个打分，算力开销随候选数线性上涨；基于梯度的世界模型引导需要反复解码再重新编码中间估计，每一步都过一遍 VAE；生成器内部的精修方案要加扰动再重新去噪的循环；而后训练路线则要准备精选数据并额外做一轮优化，成本最高也最不灵活。于是留下一个很实际的缺口：能不能在完全不动模型权重、不生成多个候选、也不反复解码的前提下，把「这个片段物理上不合理」这个信号送进采样过程？ 本文贡献：作者提出 Off-Manifold Refinement（OMR），一种推理期方法，把世界模型的反馈直接注入单条采样轨迹，而不是在多条轨迹之间做选择。具体做法是在计划好的中段 ODE 步上，给生成器的速度场加上一项梯度——来自 adapter 空间里 V-JEPA 2.1 的「意外度能量」（surprise energy）。V-JEPA 有一个编码器和一个从可见上下文预测被遮挡未来嵌入的预测器，它在真实视频上训练出的这套目标提供了一个关于「合理时间延续」的学习先验：物体应当持续存在、运动应当平滑、接触关系应当成立。作者从每段 81 帧视频里取 48 帧窗口来算这个能量。这项外部修正会把 latent 推离未修正的采样轨迹，推向被冻结预测器判定为物理上更合理的区域，然后生成器从修正后的状态继续渲染。中间有一个跨表示的桥梁问题：Wan 的 latent 与 V-JEPA 的目标在同一段视频上编码的是不同目标下的表示，一个为合成保留内容与运动、一个为预测保留结构，所以作者训练了一个 adapter 做任务特定的变换，且这个 adapter 是在真实 OpenVid-1M 片段编码出的 latent 上训练、却用在生成过程中从带噪采样状态推出的临时干净预测上。 auto 实验效果：论文的定性结果最直观：同一个 Wan2.2 生成器下，基线在后空翻落地时出现腿部运动时序不一致和身体姿态的突变，而 OMR 给出了连贯的腿-身协同、垫子形变、符合重力的衣物运动和惯性驱动的下落。四组帧条对比把 Wan2.2、P&P 与 OMR 并排放在一起，强调的是时间上的因果：撞击应当与材料响应同时发生、工具应当与被它形变的物体保持耦合、身体运动应当在帧间保持支撑与动量——在第一组里 Wan2.2 在明确撞击之前就出现了破洞、P&P 有损伤但缺少同步的接触，OMR 的撞击与响应对齐得最好。定量侧作者在 Physics-IQ 上以固定 50 条提示做了 Wan2.2-I2V 的试点，比较引导、BoN-4 及两者组合三种设定；混合现象的「其他物理原理」一行从 46.6% 提升到 47.6% 的联合分数，其中 PC≥4 的比例从 56.6% 升到 58.7%。稳定性诊断显示中段轨迹的预测干净 latent 与对应的完成 latent 在 cosine/ρ/τ 上分别为 0.762/0.617/0.446 与 0.769/0.624/0.451，两行相当接近，支持了 adapter 用在 OMR 实际工作分布上的合理性。 auto 批判点评：这篇的巧劲在于找到了一个便宜的干预点。既有方案要么在多条轨迹之间选（贵在候选数），要么反复解码回像素域再编码（贵在 VAE），OMR 直接在 latent 空间借 V-JEPA 的预测误差当能量、只在中段几步加一次梯度，本质上是把「物理合理性」当成一个可微的正则项挂在采样轨迹上。选 V-JEPA 也选得对——它的训练目标天然就是「从可见推未见」，这正是物理直觉的操作化定义，比拿一个判别式打分器要更贴近因果。那个 adapter 的诊断实验也做得诚实，用中段预测 latent 与完成 latent 的相关性接近来论证分布匹配，是个恰当的稳定性检查。但要清楚它证明了什么、没证明什么。第一，定量证据很薄：Physics-IQ 上 46.6%→47.6% 是约 1 个百分点的提升，而且是 50 条提示的试点规模，作者自己也只把它当作「聚合分数没崩」的对照——把这篇当成「解决了视频物理问题」来读会过度解释，它更像一个可行性演示。第二，adapter 存在明确的分布错配：训练在真实视频 latent 上，使用在从带噪状态推出的临时干净预测上，论文用相关性接近来辩护，但相关系数 0.76 的 cosine 并不算高，在物理更极端的片段上这个 gap 可能被放大。第三，方法的上限被 V-JEPA 顶住——它能判「这看起来不像真实视频的延续」，但不能判「这违反了动量守恒」，所以对训练分布内常见的物理它有效，对罕见但严格的物理约束未必。第四，只在中段 ODE 步注入是个超参选择，注入的时机与强度如何影响画面质量与物理性的权衡，论文没有给出充分的敏感性分析。 4. ShellGame：视频世界模型追不住隐藏状态 Can Video World Models Track Unobserved World States? | 首尔国立大学 + Roblox | arXiv:2608.30692 关键词：隐藏状态追踪,视频版猜球游戏(Shell Game),S5状态追踪,线性注意力负特征值,LaCT快速权重,Transformer KV缓存局限,Roblox 前序问题：视频世界模型越来越多地被当作模拟器来用，但一个尖锐的问题被视觉保真度掩盖了：画面生成得像，并不能证明模型维护了世界的隐藏状态。世界里大量重要的东西是当前不可见的——被盖住的球、关上门后房间里的陈设、背包里的物品。如果模型只是把「看起来合理的下一帧」渲染出来，它可以在完全不知道球在哪个杯子下的情况下，依然画出一个像样的揭晓画面。这就使得现有的评测方式存在系统性盲区：几乎所有指标都在衡量渲染质量、时间一致性或提示遵循，没有一个在直接考察「不可见的状态有没有被正确携带」。作者要回答的正是这个被绕开的问题——把视觉渲染与隐藏状态的合成解耦开，单独测后者。 本文贡献：作者设计了一个动作条件化的视频版 Shell Game 作为探针，它是 $S_5$ 状态追踪问题的视觉类比：先揭晓球在哪个杯子下，然后把杯子盖上，经过一串交换动作，最后再揭晓——整个交换序列里球始终不可见，模型必须在架构内部携带并更新这个状态。他们在这个任务上系统比较了双向与自回归 Transformer、Mamba，以及转移特征值被限制在非负区间的线性注意力。诊断的关键洞察是：像素扩散目标从来没有监督过那个看不见的隐藏状态，所以生成的帧本身不可能承载它，状态只能活在架构里而不是 token 里。对 Transformer 来说，那个架构状态只是一个只增不减（append-only）的 KV 缓存，因此模型必须在每个 chunk 都从整段历史里重新推导出隐藏的排列，而不是维护它。作者进一步找到两个确实能外推的机制，共同点是都跨 chunk 携带一个状态并原地修改它：一是线性注意力——一旦允许转移特征值取负就能成功；二是 LaCT，其外推能力随快速权重头数 H 增加而提升。他们还在纯文本的 $S_3$/$S_5$ 词问题上做了对照，测量各架构解决长度 N 问题所需的最少层数与长度外推行为。 auto 实验效果：结论相当刺眼：双向和自回归 Transformer、Mamba、以及转移特征值限制在 $[0,1]$ 的线性注意力，全都只能拟合训练时的 5 次交换，交换链一长就朝随机水平掉下去，但同时仍在生成看起来合理的视频，而且增加去噪步数完全没有帮助。机制侧的量化很清楚：把转移特征值范围从 $[0,1]$ 放宽到 $[-1,1]$ 后，多个线性注意力变体（GDN、GDN2、GDP₃、KDA）的状态准确率在整条曲线上都提升，GDN2 在 N=30 时仍有约 0.8；LaCT 的外推随快速权重头数变好，H=16 在 N=30 时约 0.87、H=1/H=2 则贴在随机线上；scratchpad token 数量 M 的影响则弱得多，M 从 1 加到 1024 在 N=20 之后都掉向随机，而作为自然随机水平对照的裸 SWA1 骨干（M=0）连训练内长度 N=5 都做不到。定性 rollout 里，在训练长度两倍（N=10）的 Shell Game 上，GDN-neg 与 LaCT8 最终落在与真值相同的杯子上，而因果 DiT 与普通 GDN 没有；在纹理化 3D Block World 的局部动作条件化任务上（80 帧干净前缀 + 240 帧延续），LaCT8 能把方块和球保持在接近真值的位置，其他骨干渲染出的房间看着连贯但里面的东西已经漂走了。 auto 批判点评：这是今天最有方法论价值的一篇，因为它把一个大家隐约感觉到但说不清的问题变成了可测量的：视觉保真度和状态追踪是两件事，而现有评测只测前者。Shell Game 这个探针设计得很干净——球被盖住之后画面里再没有任何关于它的信息，模型要么在架构里带着这个状态，要么只能猜，没有中间地带；而「增加去噪步数毫无帮助」这个观察尤其致命，它排除了「算力不够」这种廉价解释，把矛头精确指向表示能力。对 Transformer 的诊断也说到了本质：append-only 的 KV 缓存不是一个可以原地更新的状态寄存器，模型每个 chunk 都得从整段历史里重新推导排列，这在长序列上必然崩。找到的两个正面机制（负特征值、快速权重）共享「跨 chunk 带状态且原地改」这一性质，这个统一解释很有力。但要注意它的适用边界。第一，这是合成探针，$S_5$ 状态追踪是一个刻意构造的、纯组合性的困难任务，真实世界的隐藏状态往往有大量视觉与常识线索可借（东西通常不会凭空移动、遮挡物有形状约束），所以「在 Shell Game 上失败」不等于「在真实场景里同样糟」，这个外推需要谨慎。第二，反过来说负面结果也可能被低估——真实场景的状态空间比 5 个杯子大得多，若连这个都做不到，实际情况恐怕更差；论文没有在两个方向上都给出校准。第三，正面机制目前只在这些探针上被验证，负特征值线性注意力和 LaCT 在真实视频生成质量上要付什么代价（画质、训练稳定性、吞吐）文中没有交代，而这恰恰决定它们能不能真的替换现有骨干。第四，作者把「状态必须活在架构里」这一点讲得很好，但没有讨论第三条路——把状态显式外置成可读写的结构（今天另一条线的做法），这在方法空间上留了一块空白。 5. GEARS：把丢掉的候选诊断修复再利用 Test-Time Scaling for Video Diffusion Models via Diagnosis-Guided Candidate Recycling | 北京大学 + 阿里巴巴（ACM TOG / SIGGRAPH Asia 2026） | arXiv:2608.29322 关键词：test-time scaling,候选回收,诊断式latent编辑,分阶段调度,Wan2.1-T2V-1.3B,SIGGRAPH Asia 2026,北京大学 前序问题：视频扩散模型的生成质量已经很高，但高保真结果在很大程度上仍依赖闭源系统或昂贵的大规模基础设施。Test-time scaling（TTS）提供了一条免训练的路子：靠推理阶段多花算力来提升轻量生成器。问题是现有方法基本都困在「噪声搜索」这一个范式里——采样、选择、扰动去噪轨迹，然后把低分候选在昂贵的生成完成之后直接丢掉。这个「生成再丢弃」的流程浪费的不只是算力，更是那些可回收样本里已经编码好的部分运动、布局或外观结构：一个候选可能整体评分低，但它的镜头构图是对的、主体运动方向是对的，只是某个局部崩了。把它整条丢掉，等于把对的部分和错的部分一起扔。于是问题变成：能不能把低分候选当成可编辑的先验，而不是垃圾？这需要回答三个子问题——此刻该修什么、什么时候修、哪些候选值得修。 本文贡献：作者提出 GEARS（Guided Editing for Adaptive Recycling Search），一个免训练框架，把诊断引导的候选回收引入视频 TTS，通过「生成-评估-编辑」的循环把候选变成可编辑先验。它沿着从纯噪声到干净 latent 的去噪轨迹插入多个「生成转编辑」检查点 $s_0, s_1, \ldots, s_k$，并明确区分高噪区间（偏重运动）与低噪区间（偏重视觉）。框架由两个协作组件构成。Stage-Aware Scheduler 决定修什么、何时修、以及哪些候选该被保留、回收或丢弃：它先确定当前阶段的关注点（高噪阶段用运动质量 MQ、低噪阶段用视觉质量 VQ 作为排序依据），再做排序与路由——语义门控在低文本对齐时直接丢弃、把「弱但有希望」的一批送去回收器、其余有效候选作为精英保留。Candidate Recycler 则负责诊断与修复：由一个 MLLM 根据当前阶段的运动/视觉关注点与关键帧，把候选的提示改写成更好的版本，再配合流形感知的 SDE 去噪把修复落地。关键的一个设计细节是：在每个检查点，候选是先被完整去噪、解码、当作干净视频来评估的，带噪 latent 从不被直接打分——这避免了在噪声态上做不可靠的质量判断。奖励模型是运动质量、视觉质量与文本对齐三项之和。 auto 实验效果：论文的机制展示很直观：一个排名靠后但语义上有效的候选，在传统「生成即选择」的 TTS 里会被丢掉，而 GEARS 先在高噪检查点修掉它的运动缺陷、再在低噪检查点增强视觉细节，修复后的候选回到最终候选池并被选为最佳视频。分阶段修复的案例里，第一阶段（高噪）候选没有充分实现要求的行走动作，回收器在保留兔子主体与奇幻场景的同时恢复了连贯的主体运动，右侧插图用共享尺度的背景补偿光流显示残余运动的大小与方向；第二阶段（低噪）则在保持结构的前提下精修外观与纹理。分布层面的证据是 VQ–MQ 空间里的联合与边缘分布对比：GEARS 把可回收候选整体推向更高的联合质量区域，而不只是把最好的那个挑出来。scaling 行为在 Wan2.1-T2V-1.3B 与 Wan2.1-VACE-1.3B 两个骨干上都做了验证。 auto 批判点评：这篇的洞察其实很朴素但少有人认真对待：TTS 的浪费不在采样，而在丢弃。既有方法从 Video-T1 的独立轨迹选优、到 DLBS 的逐步保留 K 个精英做束搜索、再到 EvoSearch 在精英附近做中段变异，路线越来越精细，但共同前提都是「低分即无用」。GEARS 把这个前提拆了——低分候选是一个有部分正确结构的初值，值得诊断而不是抛弃。两个设计决策尤其站得住：一是候选必须先完整去噪解码成干净视频再评估，绝不给带噪 latent 打分，这一条避免了整个领域常见的「用噪声态代理指标做决策」的可靠性问题；二是把高噪修运动、低噪修细节这个分工写进调度器，与扩散过程本身的信息层级对齐，而不是在所有阶段用同一个标准。用 MLLM 做诊断并改写提示，也比用一个不可解释的打分器更容易调试。但有几处需要保留判断。第一，成本核算不透明：每个检查点都要把候选完整去噪、解码、评估，再对被回收者做编辑与重新去噪，这些开销相对「直接多采几条轨迹」是否真的更划算，需要在同等算力预算下比较，而这类等价预算对照是 TTS 类工作最容易含糊的地方。第二，整条链路依赖奖励模型（MQ+VQ+TA 之和）的可靠性，而运动质量的自动评估本身是公认的难题，如果 MQ 有系统偏差，调度器的「该修什么」判断会跟着偏，且这种偏差会被回收循环放大而非抵消。第三，MLLM 改写提示引入了一个不易复现的环节——同一个候选在不同 MLLM 或不同温度下会得到不同的修复方向，论文对这部分的方差没有交代。第四，验证骨干集中在 1.3B 规模，在更大的生成器上，「候选本身已经不错、可回收空间变小」这一效应会不会吃掉大部分收益，仍是开放问题。 6. RTI：希尔伯特曲线切出内容形状token Elastic Token Compression for Pixel-Space Diffusion Transformers | 德国维尔茨堡大学 + Google | arXiv:2608.29281 关键词：像素空间扩散,弹性token压缩,希尔伯特曲线排序,区域token接口(RTI),单checkpoint多预算,GenEval,维尔茨堡大学 前序问题：自然图像把细节集中在画面很小的一部分，但扩散模型对每个 patch、在每一层、每个时间步都花一个完整的 token。这种浪费在像素空间模型里最严重，因为它没有 autoencoder 先把低层冗余吸收掉。作者探测一个预训练的像素文生图 transformer，发现它中间块的 token 在图像平坦处是冗余的，而且这种冗余占据的是连通的、随内容成形的区域——这就带来一个表示上的要求：要利用这种冗余，就需要几何形状与之匹配的 token，而不是规则网格块。既有的降维方案各自丢掉了这个性质的一部分：相似度合并会把同一组的成员散落在画面各处，不再是连通区域；隐空间瓶颈把位置信息丢了；直接跳过则是把本该被总结的内容删掉。于是核心难题是：怎样得到「形状随内容变化、又能高效实现」的 token 分组——二维空间上的任意连通区域划分在实现上是很昂贵的。 本文贡献：解法的巧劲在于降维：沿希尔伯特曲线给 patch 排序。这条空间填充曲线的性质是相邻位置在图像上永远是邻居，因此任意一段连续区间都对应一个连通区域，且这个区域的大小与形状会随内容自然变化——于是「在二维上做分组」这个难题变成了「在一维上做切割」。作者在模型特征变化最大的位置切开，把每一段池化成一个 region token。为了让模型适应这种新 token，他们提出 Region Token Interface（RTI）做适配；训练时 region 数量是随机抽取的，所以同一个 checkpoint 能服务所有压缩预算，这就是标题里 elastic 的含义——不必为每个算力预算各训一版。作者在 MiniT2I 系列的两个模型规模上验证，并与相似度合并（Feat Sim）、隐空间数组（Latent Array）、token 跳过（Token Skip）等做了机制层面的对照，还做了排序方式的消融（希尔伯特 vs 光栅）以检验「连通性是否真的重要」。 auto 实验效果：机制对照图把四种方案的分组结构与生成结果并排放在一起：RTI 的分组呈现出与图像内容贴合的连通色块、生成结果保住了主体（背着风笛的犰狳）的完整结构与纹理；Feat Sim 的分组碎裂成散点、生成结果虽然还成形但细节退化；Latent Array 完全丢掉了空间结构、生成结果崩成一团抽象形体；Token Skip 大面积留白、结果只剩轮廓。排序消融给出了「连通性必要性」的直接证据：在 MiniT2I-B/16 上比较希尔伯特与光栅两种排序，在较宽松的预算（$R_{cells}=128$）下两者接近，但预算压到 $R_{cells}=64$ 时希尔伯特保住了人脸、翅膀与网格结构，光栅则把它们抹开、人物形体也散掉。效率-质量曲线上，RTI 在 $R_{cells}=256$ 时以 1.79 秒/图达到 GenEval 82.7%、ImageReward 0.953，而基线 MiniT2I-L/16 要花到 4.62 秒才达到 86.4% / 0.950——也就是说在 ImageReward 这个指标上 RTI 用约 2.6 倍更短的时间达到了同等水平；把预算放到 5.58 秒时 RTI 达到 86.2% / 1.155，ImageReward 超过基线 5.77 秒的 1.039。 auto 批判点评：这篇最漂亮的地方是把一个几何难题化成了排序问题。「需要形状随内容变化的 token」这个需求听起来必须做复杂的二维分割，但希尔伯特曲线的局部性保证让一维上的任意连续段自动成为二维上的连通区域，于是分组变成切割，实现代价陡降。更值得肯定的是它对既有方案的批评是结构性而非性能性的——指出相似度合并散落分组、隐空间瓶颈丢位置、跳过删内容，各自丢掉了「连通、有位置、被总结」这三个性质中的一个，这种分析比单纯比分数有说服力得多，而排序消融（希尔伯特 vs 光栅）恰好把「连通性」单独隔离出来做了验证，是很干净的对照设计。训练时随机抽 region 数从而一个 checkpoint 覆盖所有预算，也是很实用的工程决策。但要注意几个边界。第一，作者自己承认速度有天花板：prelude、coda 与文本流不参与压缩，所以再怎么压 region 数，端到端加速也会饱和——这意味着该方法适合中等压缩率区间，指望它带来数量级提速是不现实的。第二，GenEval 上并没有全面胜出：长预算下 86.2% 对基线 87.0%，是略低的；真正的优势集中在短预算区间和 ImageReward 上，而 ImageReward 是偏好类指标，与 GenEval 这种组合性正确率指标的结论不一致时，应当分开陈述而不是合并成「更好」。第三，方法针对的是像素空间扩散这个相对小众的设定——论文自己说浪费在像素空间最大，那么在主流的 latent 扩散上，autoencoder 已经吸收了大部分低层冗余，这套机制还剩多少收益空间是未验证的。第四，切割位置由「特征变化最大处」决定，这个判据依赖被探测模型的中间层表示，换骨干后是否仍然稳定、需不需要重新校准，文中没有交代。 7. RegionCache：多轮编辑只重算改动区域 RegionCache: Semantic-Aware Region Reuse for Efficient Multi-Turn Image Generation | 东北大学计算机科学与工程学院（IJCAI 2026） | arXiv:2608.29809 关键词：多轮图像编辑,语义感知区域复用,cross-attention定位,自适应复用调度,PixArt-alpha,1.43-2.55倍加速,IJCAI 2026 前序问题：真实世界的图像生成往往是多轮编辑：用户一轮一轮地改小块区域，而大部分画面内容保持不变。但现有基于 DiT 的编辑管线在每一轮都把整张图重算一遍，产生大量冗余计算——用户只是把「一只猫在星空下」改成「一只狗在星空下」，星空那部分的去噪过程却要从头再跑一次。现有的 DiT 加速方法又都忽略了跨提示的语义对应关系，于是落入两种错误：要么保守地不复用、造成不必要的重算，要么激进地复用了实际已经改变的区域、损害编辑质量。问题的难点在于要同时回答两件事——哪些区域在这一轮语义上确实没变（这需要跨提示的语义比对，而不只是像素比对），以及对这些区域可以复用到什么程度（完全跳过整个去噪过程，还是只在部分时间步复用）。 本文贡献：作者提出 RegionCache，一个面向多轮图像编辑的语义感知复用框架，选择性地复用未改变区域的扩散状态。它由两部分构成。Prompt-aligned Region Caching 负责识别与缓存：通过连续提示之间的语义重叠（Semantic Overlap Identification）确定哪些语义单元延续了下来，再用 cross-attention 定位把每个语义单元对应到图像上的具体区域，把该区域的 mask 与隐状态存进 cache pool——比如「cat」与「starlite」各自被独立缓存。Semantic-aware Region Reusing 负责决定复用策略：它把区域分成改变区域与未改变区域，在区域级稀疏注意力下，语义未变的部分（如 starlite）可以在全部时间步复用，而语义已变的部分（cat→dog）只在早期步复用；复用的时间表是自适应的，依据提示相似度与上下文一致性来定，而不是固定阈值。作者还测量了自注意力与其他计算在不同推理步数和分辨率下的延迟占比，用以定位加速空间到底在哪里。 auto 实验效果：在 PixArt-alpha 上，RegionCache 实现了 1.43 倍到 2.55 倍的端到端加速，同时保持可比的图像质量。框架图给出的机制示例很直白：从「A cat under the starlite」到「A dog under the starlite」，starlite 被判为语义未变从而全步复用，cat→dog 这一改变区域只在早期步复用、后续正常重算，因此改动准确落在主体上而背景星空的观感保持一致。案例研究把 RegionCache 与既有多轮编辑框架并排比较了多轮编辑的结果质量。延迟拆解则显示自注意力在不同推理步与分辨率下的占比，是复用设计的依据。 auto 批判点评：这篇选的问题很贴近真实使用：多轮编辑是图像生成产品里最常见的交互形态，而每轮全量重算确实是明显的浪费。它的关键判断是把复用的依据从像素相似度提升到语义重叠——用提示之间的语义比对加 cross-attention 定位来决定复用区域，这比在 latent 上做相似度阈值要可靠，因为「猫变成狗」在像素上可能相似度不低，但语义上必须重算。区分「全步复用」与「仅早期步复用」也是有见地的：扩散的早期步决定布局与低频结构，改变区域在这个阶段与原图共享的信息其实不少，一刀切地全部重算同样是浪费。用延迟拆解来定位加速空间，说明作者是先量了再设计，而不是凭直觉。但这篇的分量比较轻，几处需要注意。第一，1.43–2.55 倍这个区间很宽，说明收益强烈依赖每轮改动占画面的比例——改一个小配饰接近上界、重构主体接近下界，论文用一个区间概括，读者难以判断在自己的使用分布下能拿到多少。第二，只在 PixArt-alpha 上验证，而 PixArt-alpha 相对当前主流的编辑骨干已经偏旧，这套机制在更强的编辑模型（其注意力模式与语义定位质量都不同）上是否同样有效并未回答。第三，质量结论停留在「comparable」这个定性表述与案例图，而复用本质上是一种近似，最该被量化的恰恰是「复用带来的质量损失」在多轮累积后会不会漂移——第 5 轮、第 10 轮之后误差是否累积，论文没有给出多轮深度上的退化曲线。第四，整条链路依赖语义重叠判断的准确性，一旦把实际改变的区域误判为未变，错误会被缓存下来并影响后续所有轮次，这个失效模式的代价比一般加速方法要重，但文中没有讨论回退机制。 8. PixelIR：保真与感知拆成两条流 PixelIR: Fidelity-Perception Decoupling via Pixel-Space Image-Residual Flow Matching for Efficient One-Step Real-World Super-Resolution | 上海交通大学（实习期间完成） | arXiv:2608.30782 关键词：真实图像超分,保真-感知解耦,像素空间残差流匹配,一步蒸馏,双粒度像素transformer,上海交通大学 前序问题：真实世界图像超分（Real-ISR）要同时做两件互相拉扯的事：既要保住退化观测所支持的结构（保真），又要重建出感知上真实的细节（感知）。现有方法基本都在一个共享网络里同时优化这两个目标，于是两者在整个训练过程中持续互相干扰，它们之间的平衡也很难控制——你想多要一点细节，结构就开始漂；想守住结构，画面就发糊。近期的一步方法虽然把采样步数降下来了，但往往同时继承了两个包袱：耦合的优化行为，以及来自多步前身的昂贵高分辨率骨干。作者的判断是：高效的 Real-ISR 不只需要更短的采样轨迹，还需要对「忠实重建」和「感知细节合成」这两件事分别建模——把它们塞在一个网络里用一组权重去权衡，从设计上就是错的。 本文贡献：PixelIR 提出建立在像素空间图像-残差流匹配之上的保真-感知解耦框架，把一次超分拆成两条流。第一阶段（Fidelity Preservation）学一个图像流，用 4 步把上采样后的低质输入映射到一个忠实的基础重建 $\hat{x}_b$。第二阶段（Perception Refinement）学一个残差流，在冻结的基础重建条件下、用另外 4 步从噪声里合成缺失的感知细节 $\hat{r}$，再通过残差合成得到教师输出 $\hat{x}_t$——关键在于残差流不需要反复重新学习或覆写已经完成的整体复原解，它只负责补差值。两个阶段都使用双粒度像素 transformer：语义层面的 DiT 块加像素层面的 PiT 块，配 AdaLN-Zero 调制。为了部署，作者把教师蒸馏成一个五阶段逐步收窄的学生：从 16×16 patch 经 8×8、4×4、2×2 到 1×1 patchify，前两级用 DiT 块处理语义 token、后三级用 PiT 块处理像素 token，配合金字塔 patchify 与双锚点流蒸馏（对齐 $\hat{x}_s$ 到教师输出 $\hat{x}_t$ 以及到真值 GT 两个方向），最终得到一步推理的学生模型。 auto 实验效果：论文在 DIV2K 上给出六指标的组件剖面雷达图（每个指标方向对齐并按最优值归一化，越远越好）来展示解耦消融的效果，并在 LSDIR 与 RealSR 的困难样例上做了定性对比。方法层面最实质的效率结论是：教师用 4+4 步、学生蒸馏为一步，且骨干通过五阶段金字塔逐步收窄——这直接针对「一步方法仍继承昂贵高分辨率骨干」这一痛点，即把计算按 patch 粒度分层，语义处理放在粗粒度、像素处理放在细粒度，而不是全程在高分辨率上跑完整 transformer。 auto 批判点评：这篇的架构判断是对的：保真与感知的冲突不是调参问题而是表示问题，让一个网络用一组权重同时承载「不要偏离观测」和「大胆编细节」两个相反的诉求，本身就在制造干扰。拆成基础重建 + 残差合成之后，残差流只需要建模「差什么」，不必反复重学已经解好的整体结构，这个分解在信息论上也更经济。双粒度设计（DiT 管语义、PiT 管像素）与五阶段金字塔蒸馏配合得很自然——把昂贵的注意力放在粗粒度、把逐像素处理放在细粒度，正面回应了「一步方法仍背着高分辨率骨干」这个真实成本问题。双锚点蒸馏同时对齐教师与真值，也比只蒸馏教师更稳。但有几处需要留意。第一，训练与部署链路相当长：4 步图像流 + 4 步残差流的教师，再蒸馏成五阶段一步学生，中间每一环都有超参与对齐损失，复现成本和调试难度都不低，而论文对这条链路的稳定性（比如残差流在基础重建质量波动时是否鲁棒）交代不多。第二，残差流以冻结的基础重建为条件，这意味着基础重建的错误会被完整继承——如果第一阶段把结构判断错了，第二阶段只会把错误结构渲染得更「真实」，这类失效在超分里恰恰是最有害的（把噪点补成清晰的伪细节），论文没有专门分析。第三，评测证据以雷达图与定性对比为主，六个指标归一化后画在一张雷达图上很好看，但归一化会掩盖绝对差距的大小，读者无法判断某个维度上的领先是显著还是微弱。第四，署名信息显示工作在实习期间完成、机构标注较为简略，作为一篇方法论文其可复现材料（代码、权重）是否释出会明显影响这套多阶段管线的实际影响力。 9. GenFirst：先练生成再练重建防塌缩 GenFirst: Generation Before Reconstruction for Stable End-to-End Latent Generative Modeling | 中国科学技术大学 + 字节跳动 Seed | arXiv:2608.29335 关键词：端到端隐空间训练,隐空间塌缩,KL熵项,生成-重建冲突,非对称学习动态,REPA-E,字节跳动Seed 前序问题：隐空间生成模型的标准做法是两阶段：先训一个 VAE 做重建，再在冻结的隐空间上训生成模型。但为重建优化出来的隐空间不一定适合生成——重建只要求信息可恢复，生成还要求分布可采样，两者的最优解未必重合。于是联合训练看起来很有吸引力，可直接端到端训练一直很难做：一是容易发生隐空间塌缩，二是面临生成-重建冲突。已有的折中方案 REPA-E 通过截断生成梯度、并用一个外部的表示对齐损失（DINOv2）来重塑隐空间以避免塌缩，但这么做的代价是生成目标不再直接塑造隐空间——绕开了塌缩，也绕开了「让隐空间为生成服务」这个初衷。作者要回答的是：能不能让生成损失真的作用在编码器上，同时不塌缩？ 本文贡献：作者重新分析了不同目标如何塑造隐空间，得到两个关键洞察。第一，KL 散度目标里的熵项是防止塌缩的关键：重建与先验拟合都倾向于收缩后验，而熵项保留了非退化的隐空间不确定性——换句话说，塌缩不是生成梯度本身的错，而是缺了一个撑开后验的力。第二，重建与生成呈现非对称的学习动态：重建快且监督强，在很少的训练步内就能达到不错的图像保真度；生成慢且更难优化，需要长得多的过程才能学出一个可采样的隐分布。基于这两点，他们实现了首次不发生隐空间塌缩的直接端到端训练，并提出 GenFirst——一个简单的「生成先于重建」策略：让生成目标先塑造隐空间，之后再refine重建。论文的对比图把四种范式并置：(a) 传统两阶段用固定的重建优化隐空间，对生成次优；(b) 朴素端到端让生成损失更新编码器但导致塌缩；(c) REPA-E 靠 stop-grad 加外部 REPA 损失避免塌缩，但生成损失不直接塑造隐空间；(d) 本文方法用先验损失塑造隐空间、熵项防止塌缩。作者还做了扩展实验：隐空间级 SigLIP 监督以学习生成与表示共享的隐空间、基于 caption 的 VLM-NLL 监督施加在中间视觉特征上、以及用块因果扩散 transformer 做统一文本-图像建模（连续文本与图像 latent 联合优化，支持双向的文生图与图生文）。 auto 实验效果：收敛加速是最直接的证据：在类条件 ImageNet 生成上报告不带 CFG 的 FID-50K 曲线，在文生图上报告 EiT Version A/B 与 SiT+REPA 基线的 GenEval 与 DPG 分数——两个 EiT 变体都在 80K 步就超过了基线 200K 步的表现，也就是约 2.5 倍的步数效率。非对称动态的可视化清楚显示重建在远少的步数内达到良好图像保真度，而生成需要更长的优化过程才学到可采样的隐分布，这正是「先生成后重建」这个次序的依据。定性上，三种隐空间设定用同一个 MMDiT 与采样配置对比：DPG-Bench 上的文生图与 COCO Karpathy 测试集上的图生文都显示端到端训练的隐空间提升了提示保真度与描述连贯性，其中文本-图像联合隐空间训练的定性结果最强。消融给出了 gFID 与 rFID 的权衡曲线：没有任何固定的先验损失权重能同时兼顾生成与重建，而在重建精修阶段用一个中等先验权重能得到最好的权衡。 auto 批判点评：这篇的分析质量高于它的方法复杂度，而这恰恰是优点。「塌缩的原因是缺了熵项撑开后验」这个诊断把问题从「生成梯度有毒、必须截断」纠正成「少了一个平衡力」，直接否定了 REPA-E 那条绕行路线的必要性——后者为避免塌缩付出的代价是生成损失不再塑造隐空间，等于放弃了端到端的意义。第二个洞察「重建快、生成慢」看起来朴素，但它把训练次序变成一个有依据的设计变量而非试错结果：既然慢的那个更需要主导隐空间的形状，就让它先来。方法本身简单到几乎不增加实现负担，却拿到约 2.5 倍的步数效率，这种「分析驱动的简单解」比堆结构更有价值。消融里「没有任何固定先验权重能兼顾生成与重建」这个结论也很诚实，它说明这不是调参能解决的问题，从而反过来支持了分阶段的必要性。但要注意几点。第一，主要收益是收敛速度而非质量上限：80K 步超过基线 200K 步说的是效率，论文没有强调最终收敛质量拉开了多大差距，把这篇读成「生成质量大幅提升」会误读。第二，FID 曲线是不带 CFG 的，而实际部署几乎都开 CFG，无 CFG 下的 FID 优势能否在开 CFG 后保持，是这类工作常见的落差点。第三，扩展实验（SigLIP 监督、VLM-NLL、块因果统一建模）铺得很开，每一项都只给了「稳定训练」的定性结论，广度换走了深度——尤其统一文本-图像建模是个大命题，用一张扩展图交代略显单薄。第四，实验规模集中在 ImageNet 类条件与中等规模文生图，端到端联合训练在更大数据与更大模型上是否仍然稳定（熵项的权重是否需要随规模重新校准）没有回答，而这决定它能否进入真实的大规模训练流程。 10. RAGDiffusion++：RL救回SFT抹平的高频纹理 RAGDiffusion++: From Macro-Retrieval to Micro-Fidelity Alignment for Garment Generation | 上海交通大学 + 阿里巴巴 | arXiv:2608.29280 关键词：服装资产生成,高频轨迹塌缩,AR-GRPO,Garment-RM奖励模型,artifact hacking,双图像流DiT,上海交通大学 前序问题：标准服装资产生成——把各种真实场景里的衣服还原成正面平铺图——商业价值很大，但同时要求宏观拓扑准确与微观物理保真。作者前作 RAGDiffusion 已经用检索增强的宏观约束消除了大尺度结构幻觉，可工业级的微观纹理真实感仍是未解的瓶颈。他们把这个限制正式命名为 High-Frequency Trajectory Collapse（高频轨迹塌缩）：监督微调（SFT）收敛到训练分布的条件均值，而这个分布由平滑的低频纹理主导，于是高频图案（织物纹理、复杂 logo）变得几乎不可采样——不是模型学不会，是它被拉向了均值。而天真地加上强化学习后训练又会引发另一个问题 Artifact Hacking：模型利用通用奖励模型里的语义偏差，生成具有欺骗性的棋盘格噪声来骗高分，看着「细节丰富」实际是伪影。所以真正的难题是双重的：既要让 RL 把采样分布往高频模式上重塑，又要防止它塌向奖励可被利用的伪影解。 本文贡献：作者的核心洞察是 RL 能从根本上重塑流模型的采样分布——在准确的奖励引导下提升高保真轨迹的概率——同时用对抗正则化来约束这个过程不跑偏。方法上提出 AR-GRPO，并配套一个领域专用奖励模型 Garment-RM 来提供细粒度、属性感知的信号，替代通用大模型作为奖励来源。架构侧是 Dual-Image-Stream DiT：通过复制部分去噪图像流及其预训练权重，引入一条专门的条件图像流，让条件信息在与去噪信息同构的通道里流动而不是被挤进 cross-attention。针对 reward hacking，他们对比了 Adv-GRPO 的做法（用对抗损失激进地更新所有奖励模型，导致奖励模型丧失分类能力），改为让判别器先加速早期奖励上升、再把 $R_{GRM}$ 与 $R_{LPIPS}$ 稳定在一个无伪影的均衡点上。 auto 实验效果：最有说服力的是打破 SFT 瓶颈这条曲线：SFT 阶段模型达到性能平台期，延长训练时长或扩大数据都只有递减回报，而引入 AR-GRPO 后 FID 出现急剧下降，瓶颈被突破；配套的视觉对比展示了 SFT 在捕捉高频物理细节（复杂织物纹理、精细图案）上的局限以及 RL 优化带来的显著改善。频域分析给出了机制层面的证据：相比基础 SFT 模型，RL 结果与真实图像之间的频谱差异更小、方向性偏差更弱，径向平均的频谱误差曲线显示 RL 模型在中高频的宽区间上误差更低。奖励模型侧，Garment-RM 在细粒度属性感知上全面超过 GPT-4o 与 Qwen3-VL 这些通用大模型，从而为 RL 阶段提供可靠的属性感知信号；作者还用 Garment-RM 嵌入的 t-SNE 图与人类偏好选择实验验证其有效性。防 hacking 的对照很直接：标准 GRPO 与 Adv-GRPO 都塌缩成棋盘格伪影，而 AR-GRPO 保持输出干净。 auto 批判点评：这篇的诊断做得比方法更好。「High-Frequency Trajectory Collapse」是个准确的命名：SFT 回归条件均值这件事在理论上早就清楚，但把它与「高频纹理变得不可采样」直接挂钩、再用频域误差曲线量化出来，把一个模糊的「SFT 生成发糊」变成了可测量的现象，这比笼统地说「RL 效果更好」有价值得多。更值得肯定的是它没有停在「用 RL 就好了」——而是同时指认了 RL 的失效模式 Artifact Hacking，并且给出了机制解释：通用奖励模型有语义偏差，模型会生成棋盘格噪声去利用它。这种「问题-解法-解法的新问题」的递进是扎实工作的标志。用领域专用的 Garment-RM 替代通用 VLM 做奖励，也是个正确判断：细粒度属性感知上 GPT-4o 这类通用模型确实不可靠，而奖励模型的偏差在 RL 里会被放大而非平均掉。但边界也清楚。第一，这是一个高度垂直的任务——正面平铺服装图有强先验（构图固定、拓扑已知），所以「用检索约束宏观、用 RL 攻微观」这套组合能奏效，它对通用文生图的可迁移性存疑，因为通用场景既没有可检索的模板也没有 Garment-RM 这样能训出来的窄域奖励。第二，Garment-RM 本身成为新的单点依赖：整个 RL 的方向由它决定，而论文验证它的方式是与通用模型比较加 t-SNE 加人类偏好，这证明了它比通用模型好，但没有刻画它自己的盲区在哪——一个有系统偏差的窄域奖励模型，其偏差会被 RL 忠实地放大。第三，对抗正则化引入了判别器与两个奖励项（$R_{GRM}$、$R_{LPIPS}$）的三方平衡，论文说它稳定在无伪影均衡点，但这类平衡对超参往往敏感，训练稳定性的证据主要是奖励轨迹图，缺少多次运行的方差。第四，作为前作的延续版本，宏观检索部分的贡献不属于本文，读者需要注意本文的净增量集中在 RL 后训练与奖励设计上。 趋势观察 原生音视频联合生成开始用「先分开、后门控耦合」压小模型尺寸 — 今天最值得读的一篇是阿里 DreamX 团队的 DreamX-Creator 1.0，它给出了一个很务实的判断：音视频联合生成不需要一上来就把两个模态揉在一起。它的 7B 生成器让音频流和视频流在网络前一半完全独立去噪，只在后一半通过 Gated Cross-Modal Attention 耦合，而且门控是 token 级与 head 级的，等于让模型自己决定「哪一帧、哪个注意力头需要听对面模态」。这个设计的意义在于用结构换参数量——在与 33B 的 MiniMax-H3、以及 Wan2.7 / KLing v3 的盲测对比里，7B 的它在视频质量上对 Wan2.7 拿到 45.5% 胜率、对 KLing v3 拿到 48.8%，虽然音频质量仍明显落后（对 MiniMax-H3 只有 23.7% 胜、45.5% 负），但这已经说明「原生联合」不必等大模型。它还配了一条自回归 1 步 2K 精修管线，把高分辨率从训练问题变成后处理问题。同一天的 VIBE 从另一侧呼应：视频配乐不能只靠重建损失，得把 tempo、调性这类可验证约束和「好听」这类主观质量分开做奖励。两条路线的共同判断是，多模态生成的下一步是把模态间的耦合点和奖励信号都设计得更细。 交互世界模型的持久性之争，从「存多少帧」转向「以什么粒度存」 — Matrix-Game 3.5 和 ShellGame 这两篇是今天最像一对的论文，都在追问世界模型能否真的记住世界，但一个给方案、一个下判决。昆仑万维 Skywork 的 Matrix-Game 3.5 把历史记忆的粒度从「整帧」降到「patch」：它把历史 latent patch 按深度和相机位姿反投影进一个持久 3D 空间，目标相机的视锥去查询这个 patch 云，再用 z-buffer 只保留每个位置最靠前的表面，最后散射成一张对齐当前视角的 memory canvas。关键是 patch-memory 与 tiled-PRoPE 两个组件都不引入任何新的可学习参数，所以能直接接在骨干上，单卡 720p 做到 20 FPS 实时。它还把静态场景和动态主体拆开，前者进 patch memory、后者用轻量参考 token，专门治长程 rollout 里的鬼影和身份漂移。而 ShellGame（首尔国立大学 + Roblox）则用一个精心设计的反例给整个方向降温：他们把 $S_5$ 状态追踪问题包装成视频版「猜球在哪个杯子下」，球被盖住后经过 N 次交换再揭晓。结论相当刺眼——双向和自回归 Transformer、Mamba、以及特征值被限制在非负区间的线性注意力，全都只能拟合训练时的 5 次交换，交换链一长就掉到随机水平，但画面依然生成得很像样，加更多去噪步数毫无帮助。根因在于像素扩散目标从来没有监督过那个看不见的隐藏状态，所以状态只能活在架构里而非 token 里。他们找到两个真能外推的机制，共同点是都跨 chunk 携带状态并原地修改：线性注意力一旦允许转移特征值取负就成功，LaCT 则随快速权重头数增加而变好。两篇合起来的信号是：视觉保真度完全不能作为世界模型「懂世界」的证据，得单独设计状态追踪的诊断任务。 推理期干预成为提升生成质量的主战场：不改权重、不重训 — 今天有三篇不约而同地把算力花在推理阶段而非训练阶段，而且都刻意避开了「重训一版」这条路。Off-Manifold Refinement（越南 Fulbright 大学 + UCLA，BMVC 2026）针对视频生成的物理违背问题：物体悬空、轨迹违反重力、接触消失。它的做法是在采样轨迹中段的若干 ODE 步，把冻结的 V-JEPA 2.1 「意外度能量」的梯度加到生成器速度场上，把 latent 推离原轨迹、推向被预测器判为更物理合理的区域，然后让生成器继续渲染。相比要生成并打分多个候选、或反复解码再编码的既有方案，它只在单条轨迹上做一次外部纠正。GEARS（北大 + 阿里，ACM TOG / SIGGRAPH Asia 2026）攻的是 test-time scaling 的浪费：现有方法采样一堆轨迹然后把低分候选直接丢掉，而那些候选里已经编码了可用的运动、布局或外观结构。它在去噪轨迹上插入多个检查点，由 Stage-Aware Scheduler 决定此刻该修什么、哪些候选该留该回收该丢，再由 Candidate Recycler 通过诊断式 latent 编辑把「弱但有希望」的候选修回来，高噪阶段修运动、低噪阶段修细节。NoisEasier（ECCV 2026）则用可微奖励引导优化整条随机轨迹而非只优化初始 latent，在 VBench 与 T2V-CompBench 的属性绑定、物体交互、计数这些难维度上平均提升超过 10%。三篇的共同判断是：与其冒 reward hacking 的风险去微调权重，不如把冻结模型当成可被引导的对象。 扩散加速的新抓手是「内容形状」和「语义复用」，不再是均匀砍 token — RTI（维尔茨堡大学 + Google）和 RegionCache（东北大学，IJCAI 2026）代表了扩散加速的两个新角度，都放弃了「均匀降采样」这个默认动作。RTI 处理的是像素空间扩散的结构性浪费：自然图像的细节只集中在画面一小部分，但模型在每一层、每个时间步都给每个 patch 分配一个完整 token，而像素空间模型没有 autoencoder 先吸收低层冗余，浪费最大。它探测到中间块的 token 在图像平坦处冗余，且冗余占据的是连通的、随内容成形的区域——于是需要形状同样随内容变化的 token。解法很巧：沿 Hilbert 曲线给 patch 排序，因为相邻位置在图像上永远是邻居，任意连续段就是一个连通区域，二维分组变成一维切割。切在特征变化最大处，每段池化成一个 region token，微调时随机抽取 region 数量，所以一个 checkpoint 服务所有预算。相比之下相似度合并会打散分组、隐空间瓶颈丢掉位置、直接跳过则是把该总结的东西删掉。RegionCache 针对的是多轮编辑场景：用户往往只改一小块，但 DiT 管线每轮都重算整张图。它用连续 prompt 之间的语义重叠加 cross-attention 定位找出可复用区域，按 prompt 相似度自适应决定复用力度，在 PixArt-alpha 上端到端加速 1.43–2.55 倍。两篇都在说同一件事：加速的抓手应该来自内容和语义的结构，而不是对 token 一刀切。 人工智能炼丹君 整理 | 2026-09-02 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-01|西湖大学让写代码的智能体当世界大脑CWM 今日 AIGC 论文速览 今日共 10 篇 · 世界模型与可执行状态 2 篇 · 长视频生成的记忆与一致性 2 篇 · 注意力与推理加速 1 篇 · 视频生成模型作为几何/物理先验 2 篇 · 生成式模型的规模律 1 篇 · 可控生成与工业落地 2 篇 重点论文标题列表 Code World Model（西湖大学 AGI Lab + 南洋理工大学）：让写代码的智能体当世界大脑 LayerRecall（浙江大学 + 香港大学）：只往记忆敏感层注入历史K/V SWA vs Linear Attention（Microsoft Applied Sciences Group）：免训练滑窗高线性注意力2-10倍 DensityKV（Manifold AI + 清华大学）：免训练把120秒历史压到3.28GiB CLAP（普林斯顿大学）：人类视频也能训机器人世界模型 今日论文速览 1. Code World Model：让写代码的智能体当世界大脑 Code World Model: Coding Agent as World Brain | 西湖大学 AGI Lab + 南洋理工大学 | arXiv:2608.25927 关键词：世界模型,coding agent,可执行世界状态,proxy 视频,MiniMax-H3,时空约束,西湖大学,南洋理工 前序问题：现在的视频世界模型基本都是从视觉观测里学动力学，这条路有个结构性的短板：视频只呈现「发生了什么结果」，并不承载「为什么会这样、规则是什么」。于是模型学到的是像素层面的统计关联，而不是支配世界演化的知识与机制。后果很具体——持久性守不住。玩家砸碎的花瓶在几十帧之后可能自己复原，捡走的道具会重新出现在原地，因为「这个物体已经不存在了」这件事从来没有被显式记录，只是被寄望于模型的隐式记忆能扛住。开放式演化更是无从谈起：一个只会预测下一帧的模型没有可查询、可修改的世界状态，你无法问它「现在背包里有几把剑」，也无法让它在规则层面上一致地长期跑下去。真正缺的东西是一个显式、持久、可按规则更新的状态表示，而这恰好是视频模型这种表示形式最不擅长承载的。 本文贡献：Code World Model 的做法是把「世界如何演化」和「世界长什么样」彻底分开。前者交给语言模型的推理与编码能力：一个 coding agent 充当 world brain，接收交互意图，推理事件及其后果，然后写出可执行代码去更新一份持久的世界状态，从而保证演化是符合规则的、后果是留得住的。后者交给视频模型的生成先验。两者之间的桥梁是作者提出的 proxy representation——把世界状态编译成一段编码了逐帧时空约束的 proxy 视频（画面里是分割色块与骨架这类粗糙几何），再用它去条件化视频模型渲染出高保真观测。为此作者还建了数据管线，从游戏录像和真实视频里构造对齐的 proxy–observation 配对数据。实验用 MiniMax-H3 作为视频骨干在配对的 gameplay 数据上微调，结果它能跟随 coding agent 搭出的简单交互世界所给定的 proxy 时空规格，同时保留丰富的视觉细节与动态。 auto 实验效果：作者展示的核心结果是这套「代码管状态、视频管画面」的组合确实能跑通：微调后的 MiniMax-H3 遵循 proxy 指定的时空结构，把粗糙的色块骨架渲染成细节丰富的画面。视觉质量部分最值得注意的是数据效率——仅用五小时 GTA V 游戏录像做微调，模型就在角色、环境、运动方式和相机轨迹都不同的场景上表现出泛化能力，论文的 case 图里既有真人角色也有二次元角色（美少女战士造型），说明外观由文本与视频先验控制、运动由 proxy 控制这个分工是成立的。此外作者也在真实视频上构造了 proxy–observation 配对，说明这套表示不只适用于游戏。整体上论文的定位是可行性验证与范式提出，而不是刷榜。 auto 批判点评：这篇最有价值的地方是把「持久性」这个问题从模型能力问题重新定义成了系统架构问题。既然规则和状态本来就适合用代码表达，那硬要视频模型在隐空间里隐式维护它，本身就是拿错了工具；让 coding agent 写代码维护状态、视频模型只做渲染，是一个分工干净且可验证的设计——世界状态可以被打印、被断言、被单元测试，这在纯生成式世界模型里是做不到的。proxy 视频作为界面也选得务实：它同时携带几何与时序约束，又足够粗糙以至于生成模型有充分自由度补细节。但局限相当明显。第一，整套系统的天花板被 coding agent 顶住了——世界的规则得先被语言模型正确地推理并写成代码，稍微复杂的物理（流体、形变、多体接触）根本不是几行代码能覆盖的，论文验证的也确实是「simple interactive worlds」。第二，proxy 到观测这一步是有信息瓶颈的：proxy 只编码了粗粒度时空约束，那些不在 proxy 里的物理细节（材质变化、光影随事件的响应）就只能由视频模型自由发挥，未必与代码里的状态一致，这等于在系统中留了一道「状态与画面可能对不上」的缝。第三，实验缺少对照——没有和强视频世界模型在同一任务上比长程一致性，也没有量化「持久性」这个自己主打的卖点，比如「事件发生 N 秒后后果是否仍被正确渲染」这样的指标，读者只能从 case 里目测。 2. LayerRecall：只往记忆敏感层注入历史K/V LayerRecall: A State-Conditioned Memory Router for Long-Horizon Consistency in Video Generation | 浙江大学 + 香港大学 | arXiv:2608.28460 关键词：长视频生成,记忆路由,分层注意力,K/V 检索,多镜头一致性,MemoBench,浙江大学,香港大学 前序问题：自回归视频扩散靠一个有界的近期上下文逐块生成，这让长视频在算力上变得可行，但也埋了一个必然的漏洞：基于时间邻近的缓存策略会把「暂时用不到」的历史逐出，而一旦某个主体、物体、场景或属性在几十秒后重新出现，需要的线索恰恰是刚被逐出的那部分。已有的记忆机制思路是给模型开一个通往非局部历史的通道，但作者指出一个关键区别——「能访问」不等于「会用」。他们的分析发现 video DiT 的各层对当前块、近期上下文与远期历史的偏好差异明显，也就是说层与层之间在记忆这件事上分工不同。这意味着长程记忆其实是两个耦合的决策：检索什么，以及在哪里用它。把历史无差别地灌进所有层，既浪费又可能干扰那些本该专注局部连续性的层。另一个现实约束是数据：高质量的长时程视频稀缺，显式的「记忆分配」标注更是根本不存在。 本文贡献：LayerRecall 是一个以当前状态为条件、按层选择的记忆路由器。它维护按层索引的记忆库存放有限的历史 K/V 候选，用当前块的隐状态算出一个查询（图中给出的形式是全局查询加上一个由 gate 与 MLP 调制的层相关增量 Δq），再用余弦相似度对各历史片段打分，决定检索哪些。关键的第二步是注入位置：检索到的状态只被送进事先剖析出的「记忆敏感层」，其余层完整保留原有的 sink、滑动窗口与当前块注意力上下文，因此局部连续性不受影响，额外开销也很小。为了摆脱对稀缺长视频和记忆分配标注的依赖，作者提出 Cross-Horizon Prediction Matching（CHPM），用短时程可得的监督信号来训练这个在预测空间工作的有界记忆路由器，绕开了显式标注。 auto 实验效果：在 100 条多镜头评测提示上，LayerRecall 在 MemoBench 与 MovieBench 上取得最好的整体结果，同时在 VBench-Long 上与其骨干持平——这个组合是它主张的核心证据：增强了长程恢复能力，但没有牺牲局部连续性。定性分析里作者展示了一个叫「记忆引导的自我纠正」的现象：三镜头序列中主体在第一镜头穿纯蓝内搭，第二镜头离场，第三镜头重新出现时最初带了错误的花纹，随后 LayerRecall 把早先的纯蓝外观召回，同时保住了人物身份、灰色开衫、正在进行的动作与场景结构，也就是说属性恢复是局部发生的，没有触发整体画面的重置。作者另外给了跨骨干可移植性与推理开销可忽略的分析，但明确把这一点表述为「在所测模型上的可移植性」而非普适的零样本适用性。 auto 批判点评：「层各有偏好，所以记忆要选层注入」是个漂亮且可验证的观察，也是这篇比一般「加个记忆库」工作高明的地方——它把注入位置当成与检索内容同等重要的决策变量，而选择性注入自然带来了低开销和不破坏局部注意力这两个副产品，工程上很讨喜。CHPM 用跨时程预测匹配替代不存在的记忆分配标注，也是务实的解法。需要保留的疑问有几点。首先，记忆敏感层是「剖析」出来的，这就引入了一个骨干相关的先验步骤，论文也诚实地把跨骨干结论限定在所测模型内；那么换一个架构差异较大的骨干时，这套剖析要重做多少、成本多高，是决定它能否成为通用组件的关键，文中讨论不足。其次，VBench-Long 只是持平，说明当前收益集中在「重现一致性」这个特定维度，对整体视频质量并无提升，这个边界读者应当清楚。第三，自我纠正那个案例虽然很有说服力，但它同时暴露一个隐忧：模型是在出错之后才召回正确属性的，也就是说错误已经被生成出来并停留了若干帧，路由器扮演的是事后修正而非事前预防；对需要严格连续性的应用，这种「先错后改」的行为模式本身就是一种瑕疵，论文没有量化它出现的频率与持续时长。 3. SWA vs Linear Attention：免训练滑窗高线性注意力2-10倍 Sliding-window beats linear attention | Microsoft Applied Sciences Group | arXiv:2608.28444 关键词：线性注意力,滑动窗口注意力,attention sink,KV cache,长上下文,推理加速,基线对比,微软 前序问题：二次复杂度注意力让大模型在内存和能耗上都不可持续：每个新 token 的代价都比前一个大，因为它的 key 和 value 必须被无限期地存在显存里。为了解决这个问题，一条备受关注的路线是把已经训好的模型改造成线性注意力（retrofitting），承诺以很低的成本换来常数级的状态开销和接近原始水平的性能，相关工作这几年数量可观。作者的批评切中要害：这条线一直没有和足够简单的基线做过认真对比。滑动窗口注意力（SWA）就是那个被跳过的对照组——它同样把每步的注意力开销限死在窗口大小内，同样让 KV 占用与序列长度解耦，但它不需要任何改造训练，是一行配置就能开启的方案。当一个研究方向连年在自己的评测里进步，却从未被最朴素的替代方案挑战过，那么这些进步究竟来自方法本身还是来自评测协议的选择，就成了一个必须回答的问题。 本文贡献：这篇不提新方法，而是补上那场缺失的对照实验：把带 attention sink 的 SWA 与经过 post-training 的线性注意力模型，在多个不同的 LLM 与多类下游任务上做系统比较。论文用一张注意力掩码对照图把三种方案的机制差异讲清楚：完整注意力是满的下三角；LoLCATs / Liger-GLA 这类混合方案在近处用 softmax、远处叠加线性注意力，覆盖整个下三角；带 sink 的 SWA 则只保留最左侧的 sink 列与主对角线附近的窗口带，其余位置直接留空。除了任务效果，作者还量化了解码吞吐与状态内存随上下文长度（128 到 256K）的变化曲线，把「快多少、省多少」和「准多少」放在同一张桌子上比较。最后给出的是一条明确的部署建议，而不是一个新架构。 auto 实验效果：结论是带 sink 的 SWA 在多个 LLM、多类下游任务上表现与 post-trained 线性注意力持平或更好；而在长上下文推理任务上差距被拉开——Needle-in-a-Haystack 与 BABILong 上 SWA 的表现是线性注意力的 2 到 10 倍。效率侧的曲线同样一边倒：完整注意力的解码吞吐从 128 上下文起就随长度持续下滑，到 256K 时降了一个多数量级，KV 占用则近乎线性地涨到 10³ MiB 量级；SWA（窗口 64 与 512）与线性方案的吞吐则在全区间基本是平的，内存占用保持在个位数 MiB 的常数水平，其中 SWA=64 的吞吐是所有方案中最高的。作者据此给出的建议相当直白：要降低推理内存成本，应该直接切到 SWA，而不是去 post-train 线性模型；线性注意力若要追上 SWA，恐怕得从头训练或投入远更大规模的 post-training。 auto 批判点评：这篇的价值不在技术新意而在方法论卫生：它用一个被长期忽略的朴素基线，检验了一个热门方向的实际收益，并且检验方式是公平的——同时报吞吐、内存与任务效果，而不是只挑有利维度。长上下文推理上 2 到 10 倍的差距尤其值得警惕，因为它指向一个具体的机制解释：线性注意力把历史压成固定大小的状态，本质上是有损压缩，需要精确回忆某个远处细节的任务（大海捞针正是如此）最容易暴露这种损失；而 SWA 虽然看不到远处，但它对窗口内的信息是无损的，配上 sink 又能保住那个对稳定性至关重要的锚点。不过这个结论的适用边界必须说清楚。首先它比较的对象是「post-trained」线性模型，作者自己也承认从头训练的线性注意力可能是另一回事，因此不能被读成「线性注意力这条路错了」。其次，SWA 的强项恰好是它的弱点的另一面：它在窗口外真的什么都看不到，那些需要跨越超长距离做全局聚合（而非精确检索）的任务，理论上应该更利于线性注意力，论文若能补上这类任务的反例会更完整。第三，attention sink 这个关键组件的贡献没有被单独拆开——SWA 好在哪里，有多少来自窗口本身、多少来自 sink，读者无法从现有结果中分离。 4. DensityKV：免训练把120秒历史压到3.28GiB DensityKV: Density-Guided KV Cache Compression for Long Video Generation | Manifold AI + 清华大学 | arXiv:2608.27922 关键词：长视频生成,KV cache 压缩,免训练,Soft-Riesz 密度,post-RoPE key,滑动窗口注意力,Manifold AI,清华大学 前序问题：自回归视频扩散用滑动窗口注意力实现流式生成，但每个新块都以之前生成的内容为条件，于是外观和运动上的误差会沿着 rollout 递归地传播放大。保留历史 K/V 记忆可以留住早先的主体与场景状态，对长时程一致性有实质帮助，但直接全存下来会带来两个问题。一是存储随 rollout 无限增长——生成得越久，这份历史档案就越大，没有上界；二是这些状态之间存在大量冗余：视频里的循环性内容（同一个人反复出现、同一片背景反复入画）会让相似的 key 一遍又一遍地被写进记忆，重复覆盖同一片区域，占了空间却没有带来新信息。已有的检索式方案（如 LongLive-RAG）保留全部被逐出的历史再按需检索，一致性是换来了，但存储代价随时长线性上升，这在实际部署里很快就不可接受。 本文贡献：DensityKV 是一个免训练的历史 K/V 库管理策略，核心思想是用「局部冗余度」来决定一个新状态该不该被收进记忆。它为每个注意力头维护独立的 token 级 K/V 库，并且只在 post-RoPE 的 key 上度量冗余——理由很具体：直接参与注意力路由计算的正是这些 post-RoPE key，冗余应当在真正影响路由的那个空间里衡量。度量方式是 Soft-Riesz 密度：候选 key 落在已有 key 的高密度邻域里就说明信息重复，予以拒收；落在稀疏区域则接纳。通过约束状态进入库之后的邻域密度增长，DensityKV 限制了历史的重复累积，同时保留那些真正携带不同状态的片段，且每个 value 与其 key 严格配对。在生成时，这个有界的压缩历史与本地滑动窗口一起被当前帧注意，不需要任何训练或改结构。 auto 实验效果：存储侧的对比最直观：随生成长度增加，检索式的 LongLive-RAG 的持久时序状态是线性增长的，30 秒 32.1 GiB、60 秒 64.3 GiB、120 秒 128.5 GiB；而 DensityKV 与 Deep Forcing 保持有界，120 秒时分别只有 3.28 GiB 和 3.76 GiB——DensityKV 是三者中最低的，且与 rollout 长度无关。质量侧，作者在三个自回归视频生成骨干与多个生成长度上做了评估，结论是在相同的历史 KV 容量上限下，DensityKV 提升了长时程一致性与生成稳定性，同时持久历史存储不随 rollout 增长。作者还在与 LongLive-RAG 对齐的评测协议下报告了 30/60/120 秒的单指标胜率统计，以及 120 秒长度上两组骨干–提示配对的定性对比。 auto 批判点评：把冗余度量放在 post-RoPE key 上是这篇最见功力的一个细节——很多 KV 压缩工作在 pre-RoPE 表示或 value 空间上做相似度判断，但真正决定「这个历史 token 会不会被注意到」的是加了位置编码之后的 key，度量空间和作用空间对齐了，判据才有意义。免训练、每头独立建库这两点也让它作为即插即用组件的门槛很低。可质疑之处主要在评估口径。第一，主要卖点是「有界存储 + 一致性更好」，但 Deep Forcing 同样有界（3.76 vs 3.28 GiB），两者差距其实很小，所以真正的胜负要看质量维度，而质量对比是在「相同容量上限」这个受控前提下给出的相对改善，加上以单指标胜率的形式汇报，读者很难判断绝对差距有多大——胜率高不代表差距显著。第二，密度判据本身是个启发式：Soft-Riesz 密度衡量的是表示空间里的几何拥挤程度，而「表示相近」并不严格等价于「语义冗余」，一个在视觉上关键但恰好落在密集区的状态会被误拒，论文没有分析这种误拒的代价。第三，方法针对的是「循环性内容造成的重复覆盖」，那么在场景持续大幅变化、几乎没有重复的视频上，密度筛选可用的压缩空间理应很小，此时它退化成什么行为、还有多少收益，文中缺少这类不利场景的讨论。 5. CLAP：人类视频也能训机器人世界模型 CLAP: Cross-Embodiment Video World Models are Zero-Shot Physical Simulators | 普林斯顿大学 | arXiv:2608.27406 关键词：跨本体,动作条件视频生成,世界模型,latent action,末端执行器位姿,零样本部署,DROID,普林斯顿 前序问题：当前最好的动作条件视频模型基本都被绑在单一机器人本体上，这让它们无法利用互联网上海量的异构视频——那些视频里其实包含了学习可泛化物理规律所需的丰富信号，只是拍摄主体从某型机械臂换成了人手或别的机器人。跨本体学习之所以难，症结在动作表示：不同机器人平台的动作空间差异极大（自由度不同、坐标系不同、抓取方式不同），而人类视频里根本就没有动作标注这回事。于是研究者面临一个两难，要么放弃海量人类视频只用带标注的机器人数据，要么用一个高度抽象的统一表示但丢掉精度。作者的出发点是一个物理上的判断：支配时空动力学的普适物理规律并不关心执行者是谁，所以跨本体的数据本应是可以共用的，缺的只是把异构动作对齐起来的机制。 本文贡献：CLAP 是一个跨本体动作条件视频生成框架，能在人类与机器人混合的互联网规模视频上训练。它先用三种表示来调和不同的动作空间：末端执行器位姿（精度高但需要标注与统一坐标系）、语言指令（对基础模型而言域间差异最小但精度差）、以及 latent action（可从无标注视频里自监督学到）。为了绕开每种表示各自的短板，作者设计了基于课程的跨本体学习配方：第一阶段用 latent action 在大量无标注视频上学基础物理先验，第二阶段再把这些先验落地到末端执行器动作空间，从而支持零样本部署到真实任务。作者把 latent action、课程版、末端执行器版分别做成了模型变体，并开源了全部代码与模型。 auto 实验效果：在 DROID 这类有挑战性的环境里，CLAP 接近或超过了当前最好的单本体视频模型；在 Bridge 这类较简单的域上只有轻微的保真度下降。在混合了多种本体的 OXE-Mix 数据上，latent action 版与课程版取得最高的预测精度，末端执行器版紧随其后。作者强调这些优势会通过少样本适配进一步复合放大——用 CLAP 作骨干微调后，在 G1 人形机器人上实现了高精度的动力学预测；论文也展示了对双臂 YAM 机器人的少样本适配。最终交付的是作者称为迄今最全面的一套动作条件视频世界模型，覆盖三种动作条件空间（末端执行器、语言、latent）与多种机器人形态，包括跨本体、DROID、Bridge、双臂 YAM 与 G1 人形。作者在附录中还主动澄清了几点：CLAP 并非普遍优于单本体模型，偶尔会不如为单一本体定制的模型；也没有哪一种动作表示能普遍胜出。 auto 批判点评：把跨本体的核心难点定位为「动作表示对齐」而不是「模型容量不够」，并且用三种表示各取所长、再用课程把它们串起来，这个设计是有物理直觉支撑的：先在无标注数据上用 latent action 学通用动力学，再用末端执行器位姿把抽象先验锚定到可执行的动作空间，顺序符合「先学规律后学接口」的逻辑。附录里主动写明「不普遍优于单本体模型」「没有单一最优表示」这类结论，在当下的论文风气里是值得肯定的诚实。但仍有值得追问的地方。第一，末端执行器位姿虽然比关节角通用，仍然是个偏「机械臂中心」的表示，用它去描述人手的复杂操作（多指协同、手内调整）必然是降维的，那么第二阶段的落地过程中，第一阶段从人类视频学到的精细动力学有多少能真正被继承下来，论文没有拆解。第二，主要指标是视频预测精度，而世界模型的最终价值在于能否支撑决策——预测得像不代表推演得对，如果没有下游策略学习或规划任务上的对照，「zero-shot physical simulator」这个说法是超出证据范围的。第三，Bridge 上的保真度下降虽然被描述为轻微，但它暴露的是跨本体学习的固有代价：容量被分摊到多个域，简单域上不如专用模型，这个 trade-off 在什么规模下会翻转，值得给出定量的规模分析。 6. Manifold4D：几何信息注入初始噪声而非条件 Manifold4D: Denoising on Point Cloud Rendered Manifolds for Video Re-shooting | 浙江大学 + Manifold Tech + 上海科技大学 + 剑桥大学 | arXiv:2608.28174 关键词：视频重拍,相机轨迹控制,flow matching,噪声流形,点云渲染,4D 重建,浙江大学,剑桥大学 前序问题：视频重拍要做的事是：给一段单目视频和一条用户指定的相机轨迹，把这段动态场景沿新轨迹重新渲染出来。主流做法是把目标几何显式地喂给网络——用逐帧深度把源视频抬升成 4D 点云，再沿目标轨迹光栅化成一张点云渲染图。问题出在这张渲染图和源视频被同时当作视觉条件送进网络：它们在每一个去噪步骤上互相竞争，模型被迫面对一个「信任困境」——该信渲染图几分？渲染图携带正确的目标视角几何但通常稀疏、有空洞、动态主体容易糊；源视频有完整的外观与运动但视角是错的。训练分布内还能靠数据学出一个折中，一旦遇到分布外的数据，这个折中就会失衡，表现为要么轨迹控制不准（太信源视频），要么画质崩坏（太信渲染图）。 本文贡献：作者的主张很干脆：一张已经与目标视角像素对齐的渲染图，压根不需要作为显式的条件流被送进网络。Manifold4D 把渲染图直接注入 flow matching 的初始噪声——生成不再从标准高斯噪声出发，而是从一个携带几何信息的新噪声流形出发，源视频因此成为唯一的视觉条件。这样一来渲染图恰好被使用一次，网络也从来不需要学习「怎么读懂这张渲染图」；在后续的每个去噪步骤里，模型可以专心处理源视频。具体流程是：由单目视频重建 4D 点云并沿目标轨迹渲染，渲染结果的 VAE latent 被注入噪声并 patchify 成 token，源视频同样编码成 token，两者在帧维度拼接后连同编码后的相机轨迹一起送入 DiT 去噪。作者还构建了 DAVIS-Traj 基准用于评测。 auto 实验效果：在自建的 DAVIS-Traj 基准和 Vista4D 评测集上，Manifold4D 在所有相机控制指标上都取得最好成绩：旋转误差分别降低 25% 和 27%，平移误差最多降低 32%，同时在视频保真度上与最强基线持平，并在真实场景的新视角光度质量上领先。用户研究显示它在轨迹跟随与动态一致性上有明显优势。两个补充实验支撑了它的核心主张：一是当偏航幅度超出训练范围时，它与基线的差距进一步拉大，说明这种几何注入方式的外推性更好；二是当刻意破坏渲染图（去掉运动掩码，让所有帧的动态点堆叠在一起把主体糊掉）时，模型仍能从源视频里恢复出正确的运动——这证明几何先验起的是引导作用，而不是压制生成。 auto 批判点评：这篇的核心洞察相当漂亮，而且是那种一旦说出来就显得理所当然的洞察：条件流的作用是给网络提供「需要被理解和转换」的信息，而一张已经和目标视角像素对齐的渲染图不需要被理解，它需要的只是被作为起点。把它挪到初始噪声里，等于把一个「网络得学着去信任多少」的软决策，换成了一个「先天就在那里」的硬约束，信任困境就此消失。两个验证实验也设计得很到位——外推区间差距拉大证明了几何先验的泛化性，故意破坏渲染图仍能恢复运动则证明了它没有过度依赖先验，一正一反把「引导而非覆盖」这个说法钉住了。需要注意的边界是：整套方法建立在「渲染图与目标视角像素对齐」这个前提上，而这个对齐完全依赖前置的深度估计与 4D 重建质量；深度出系统性错误时，错误会被直接编码进初始噪声，而此时网络甚至没有一个条件通道可以用来纠偏——鲁棒性实验破坏的是动态主体的清晰度（糊），并没有测试深度尺度或结构性错误这类更致命的失效。其次，视频保真度只是与最强基线持平，收益集中在相机控制精度上，读者不应把它理解为画质也更好。第三，DAVIS-Traj 是作者自建的基准，虽然同时在 Vista4D 上做了验证，但主基准自建这件事在轨迹幅度分布的选择上天然存在有利于自己方法的空间。 7. GeoNeXt：深度法向重写成下一帧预测 Video Generative Models as Geometry Learner | 萨里大学 + 帝国理工学院 | arXiv:2608.28549 关键词：单目深度估计,表面法向,视频扩散,几何先验,数据高效,零样本,ECCV,萨里大学 前序问题：用生成模型做几何估计现在有两条常见路径，各有各的浪费。第一条是拿现成的图像扩散模型分别为深度和法向训练任务专属模型，每个几何目标一个模型，这样做丢掉了一件本该利用的事——深度和法向在几何上是强相关的（法向可以由深度的梯度导出），分开训练等于放弃了联合建模的机会。第二条是改造图像扩散骨干（比如动自注意力结构）做联合微调，这条路能共享表示，但代价是通常需要大量标注数据，而带真值几何标注的数据本身就贵。作者认为这两条路的共同局限来自骨干选错了：图像扩散模型的先验是单帧的，而几何估计本质上需要跨视角、跨帧的结构化理解，这恰好是视频生成模型在预训练中天然获得的东西。 本文贡献：GeoNeXt 把预训练视频生成模型重新用作几何估计的统一且数据高效的框架，关键在于把任务创新性地表述成「下一帧预测」：图像和几何目标被放在同一个时间序列的不同槽位上，于是「从图像推几何」和「从几何推图像」都变成视频模型最擅长的那件事——预测序列的下一段。具体实现上，从预训练的 Stable Video Diffusion 出发，用冻结的 Stable Diffusion VAE 把 RGB 图像、深度、表面法向分别编码进隐空间；加噪时把图像 latent 复制到深度与法向这两个几何槽位，并通过拼接几何 latent 做进一步条件化；只微调 GeoNeXt U-Net（跳过 cross-attention），训练目标是图像、深度、法向三项重建损失之和。这样模型既继承了视频模型天然结构化的知识与更丰富的先验，又能联合建模图像与几何两个方向。 auto 实验效果：在多个数据集上的零样本单目深度与表面法向估计实验中，GeoNeXt 同时超过了此前的任务专属生成方法和统一生成方法，而且用的训练数据显著更少。更值得注意的是它与判别式方法的对比：论文称其性能可与那些多用了 100 倍以上数据训练的判别式 SOTA 方法相媲美，在若干基准上甚至更为突出。定性结果方面，作者展示的跨数据集深度对比显示 GeoNeXt 对精细结构的重建更好，法向对比则显示它产生的法向更准确、细节更多，能有效捕捉细小几何结构与表面朝向。整体上论文的卖点是数据效率——同等或更好的效果，训练数据少一到两个数量级。 auto 批判点评：「几何估计其实是个序列预测问题」这个重构是这篇的核心贡献，也是它数据效率高的原因所在——它没有让模型从头学几何，而是把几何塞进了模型已经很擅长的那个任务形式里，于是预训练里积累的时空结构先验可以直接复用。把图像 latent 复制到几何槽位这个细节也很聪明：它给了模型一个「几何应当与图像空间对齐」的强初始化，而不是让它从噪声里猜。真正的局限在于代价与定位。第一，视频扩散骨干比图像扩散骨干重得多，推理成本必然更高，而深度估计在实际应用里往往是实时或近实时的需求，论文若不给出与判别式方法的推理开销对比，「相媲美」这个结论在部署视角下是不完整的——用 100 倍少的数据换 N 倍的推理时间，是否划算取决于场景。第二，与判别式 SOTA 的关系被表述为「rivals」并在部分基准领先，这意味着并未全面超越，读者应把这篇的价值定位在数据效率而非绝对精度。第三，深度与法向的联合建模被当作卖点，但论文（从摘要层面）没有量化这种联合到底贡献了多少——如果单独训练两个 GeoNeXt 也能达到接近的效果，那「利用几何目标内在相关性」这个动机就削弱了，一个联合 vs 分离的消融是必要的。 8. ATA：单张参考图学出可加减属性向量 Attribute Token Arithmetic: Disentangled and Continuous Semantic Control for Visual Autoregressive Models | 莫纳什大学 | arXiv:2608.28082 关键词：视觉自回归,属性解耦,连续语义控制,向量算术,VAR,单图学习,免重训,莫纳什大学 前序问题：自回归文生图最近进展很快，用一个统一的生成框架就能做出高保真图像，但细粒度语义控制一直不好做，原因有两个：属性之间是纠缠的，以及文本表示和细粒度视觉表示之间存在错位。具体表现是你想让猫「胖一点」，改了提示词之后猫可能连品种和身份都变了；你想控制「胖」的程度，语言又给不出连续的刻度——「a fat cat」和「a very fat cat」之间没有可靠的插值。已有的自回归编辑方法要么需要重训模型或大规模监督，要么只能做离散的、整体性的替换，不能做「把这一个属性沿一条轴连续推一点」这种操作，更做不到把多个属性各自独立地叠加上去。 本文贡献：ATA 的灵感来自词嵌入里那个经典的向量算术性质：既然语义在嵌入空间里可以加减，那视觉属性也许可以。方法在预训练自回归模型的隐空间里直接找出对应视觉属性（论文举的例子是变老、变胖、情绪）的语义方向，而且这些方向只需从单张参考图学得，不需要重训模型也不需要大规模监督。做法上，给定一张参考图和一对语义只差一个属性的提示词（比如「A fat cat on the ground」与「A cat on the ground」），ATA 学出两个语义方向，并通过一个 Delta-Mod 模块把学到的方向加到 cross-attention 里对应的 VAR 对齐文本 token 上——关键是加到属性 token（「fat」）而不是身份 token（「cat」）上。生成时属性就可以通过与其他属性 token 的简单算术运算被连续调节与组合式叠加。 auto 实验效果：实验显示 ATA 实现了保持身份的、细粒度的、多属性同时调节的编辑效果，在可控性、通用性和计算效率三方面都优于已有的自回归编辑基线。作者展示的能力包括：连续调节单个属性强度并可将两个属性依次增强；跨类别的属性迁移——把「苹果形状」这个属性施加到「蛋糕」上时，ATA 是让蛋糕逐渐变成苹果形状的蛋糕，而基线方法直接把蛋糕变成了苹果，把原本定义在斯芬克斯猫上的「Sphynx」属性迁移到羊身上也能得到渐变的无毛效果；身份与属性的组合性——从三张参考图提取身份方向后与眼镜、帽子、项链、雾等属性方向自由重组，身份保持不变。消融实验支撑了「加到属性 token」这个设计：把方向优化到身份 token「cat」上会改变主体身份，加到与属性无关的 token「ground」上则完全不产生变胖效果。 auto 批判点评：这篇最有说服力的部分是那个消融：把方向加到「cat」会改身份、加到「ground」什么也不发生、只有加到「fat」才既变胖又保身份——这三条对照直接证明了语义方向的作用位置是可定位、可解释的，而不是碰巧调出来的效果。跨类别迁移那组结果也很能说明解耦的质量：基线把蛋糕变成苹果，ATA 变成苹果形状的蛋糕，前者是把属性当成了类别替换，后者才是真正把「形状」这一维从「是什么东西」里剥离出来。单张参考图、免重训这两点也让实用门槛很低。局限主要在适用范围。第一，方法绑定在视觉自回归（VAR）这一类模型的「VAR 对齐文本 token + cross-attention」结构上，是否能迁移到扩散类主流模型并不显然，而当前工业界的图像编辑主力仍是扩散模型，这限制了影响面。第二，整套机制依赖「提示词对里的差异恰好对应一个可分离的视觉属性」，那些语言上难以用单个 token 差异表达的属性（复杂光照、特定构图、多物体空间关系）恐怕找不到干净的方向，论文自己也保留了一张 limitations 图。第三，对比对象限定在自回归编辑基线，没有与更强的扩散类编辑方法同台，「优于已有方法」的适用范围应当按这个口径理解。 9. VATIX：9B驾驶视频模型的规模律实测 How Far Can 5,500 Hours of Driving Take You? A Scaling Law Analysis of Video Diffusion Models | valeo.ai + 索邦大学 | arXiv:2608.28404 关键词：规模律,视频扩散,自动驾驶,固定数据集,训练预算分配,nuScenes,开源SOTA,valeo.ai 前序问题：自动驾驶的视频生成走不通网络规模那条路：驾驶数据采集昂贵、受隐私法规约束、也不能随便抓取，所以模型必须在一个固定语料上把价值榨干。这就使得「算力该怎么花」变成一个真问题而不是学术趣味——同样的预算，是拿去把模型做大，还是拿去训得更久？还需不需要再采数据？在网络规模数据的语境下这些问题往往被「加数据就好」掩盖过去，但在固定语料的约束下必须正面回答。此前领域内缺少针对驾驶视频扩散模型、从零训练、覆盖足够宽参数区间的系统规模律研究，从业者只能凭直觉分配预算。 本文贡献：作者做了一次系统的规模律研究：从零训练一族参数量从 1M 到 9B 的视频扩散模型，在最多 5,500 小时的驾驶数据上按不同曝光量训练，观察验证损失如何随模型规模与训练曝光变化。模型架构是标准的 flow matching 视频 DiT：视频 latent 由 Wan encoder 编码后加噪，经 N 个 transformer 块处理，每块含空间注意力、时间注意力与 MLP，全部由 AdaLN 调制；时间步 t 与自车轨迹的 25 个 BEV waypoint 分别用正弦特征嵌入并各过一个 MLP，相加后切成 scale 与 shift 两份用于调制，输出是速度（v-prediction）。也就是说轨迹条件是通过调制通路而非 cross-attention 注入的。作者开源了代码与预训练模型，底层驾驶数据由 NATIX 分阶段单独发布。 auto 实验效果：验证损失在模型规模与训练曝光两个维度上都呈现一致的幂律。最实用的一条结论是两者的敏感度不对称：损失随训练曝光下降得远比随模型规模下降得快，因此在算力受限时，把预算投给更长的训练是提升一个固定模型最有效的方式；但更大的模型仍然能达到更低的渐近损失，所以当算力足够时，计算最优的扩展方向依然是把模型做大。基于这套分析作者训了一个 9B 参数模型，据其所知是在驾驶数据上从零训练的最大视频扩散模型，并在 nuScenes 上刷出了驾驶视频生成的开源新 SOTA。定性方面，5 秒生成的对比显示：20M 以下的小模型能抓住整体场景布局但很快跨帧丢失物体一致性；135M 的基础模型对场景理解更好（比如能正确预测车辆正在左转），但在更长时程上难以维持连贯动态；1.1B 模型进一步改善画质与场景结构，却仍有时间不一致并在约 2.5 秒后开始崩坏。 auto 批判点评：这类工作的价值不在方法新意而在把从业者的直觉换成可查的曲线，而且它选的约束条件——固定语料、不能靠抓数据解围——正是自动驾驶、医疗影像这些受限领域的真实处境，因此结论的可迁移性比在网络规模数据上做的规模律更强。「曝光的边际收益大于参数量、但大模型渐近更低」这个不对称结论也很有操作价值：它把「小算力延长训练、大算力放大模型」这条分界线画了出来。诚实之处在于定性结果没有粉饰，直接写明 1.1B 模型在约 2.5 秒后就开始崩坏。需要保留的疑问有三点。第一，所有规模律结论都建立在验证损失上，而扩散模型的验证损失与人类感知质量、下游可用性之间的相关性并不牢固——损失继续下降不一定换来更长的时间一致性，这恰好是驾驶视频最关键的属性，论文若能给出「损失 vs 崩坏时长」的对应关系会有力得多。第二，5,500 小时这个上界本身就是结论的边界：所有关于「还需不需要更多数据」的判断都是在这个尺度内的外推，超出后曲线是否仍成立无从检验。第三，架构是固定的单一族系（Wan encoder + AdaLN 调制的时空注意力块），而规模律对架构选择是敏感的，把轨迹通过 AdaLN 调制注入而非 cross-attention 也是一个具体选择，换一种条件注入方式时这些幂律的系数能否保持，文中未作讨论。 10. CommerceVibe：电商创意生成HTML而非像素 CommerceVibe: Learning to Design E-Commerce Creatives as Executable Visual Code via Dual-Feedback Reinforcement Learning | 同济大学 + 阿里巴巴 | arXiv:2608.27893 关键词：电商创意生成,可执行视觉代码,HTML/CSS 合成,双反馈强化学习,GRPO,VLM 评判,阿里巴巴,同济大学 前序问题：高质量电商创意图是展示商品和传达营销信息的关键。扩散模型让创意生成变得可规模化，也能产出视觉上很好看的图，但落到实际投放前总要返工，原因很实在：文字会畸变、商品细节不一致。更麻烦的是产物形态——扩散模型输出的是一张压平的位图，没有显式结构，因此难以编辑与复用，改一个价格数字都得重新生成整张图。还有第三个障碍在训练侧：电商创意的设计要求往往是复合的、带硬约束的（文字必须清晰可读、商品必须可见不被遮挡、版式必须合法），这类要求很难被编码成可验证的训练信号，而没有可验证信号就没法做有效的强化学习。 本文贡献：CommerceVibe 换掉了产物形态：把创意表示为可执行的视觉代码，生成任务因此被表述成条件化的 HTML/CSS 程序合成。给定商品图、设计要求和商品信息，它产出可渲染、可编辑、可复用的创意。为了让复合设计要求变成训练信号，作者提出双反馈强化学习：一路是基于规则的反馈，对渲染后的程序检查文字可读性、商品可见性和版式合法性——这些都是渲染完就能机械判定的硬指标；另一路是来自视觉语言模型的视觉反馈，从六个感知与商业维度评判渲染出的创意是否符合输入规格。两路信号互补，前者管约束满足，后者管依赖感知的质量。训练流程是先用超过 28,000 条电商样本对 Qwen3.5-9B 做监督微调建立基础创意能力，再用双反馈奖励通过 GRPO 做强化学习优化策略，最终一次推理直出创意。 auto 实验效果：在 1,300 例的基准上，优化后的 CommerceVibe 拿到 94.0/100 的加权分，而只做监督微调的版本是 87.3，也就是说双反馈强化学习贡献了约 6.7 分的提升，同时优于若干强外部模型。作者还请了五位电商设计专家做盲评，结果进一步验证了这些改进——这一点比自动指标更关键，因为规则分和 VLM 打分都可能被针对性优化，而人类专家的盲评是相对独立的检验。细粒度结果按 1,140 例单图与 160 例多图两类分别报告了检测器级别的规则子分和 VLM 评判各维度的评分。定性对比里作者用不同颜色的轮廓标出了文字、商品、版式、VLM 四类代表性问题的位置，未被识别出问题的类别则打绿勾。 auto 批判点评：把创意从位图改成 HTML/CSS 是一次典型的「换表示解决一类问题」：文字畸变消失了，因为文字是真的文字而不是画出来的像素；可编辑性有了，因为产物本来就是结构化代码；更妙的是它顺手解决了强化学习最缺的那件东西——可验证的奖励。渲染完的程序可以用检测器机械地判定文字是否可读、商品是否被遮挡、版式是否越界，这些硬约束在像素空间里很难可靠判定，在代码+渲染的组合里却是现成的。双反馈的分工也合理：规则管能判定的，VLM 管只能感知的。可质疑的地方集中在评估与边界。第一，奖励里有 VLM 打分，而基准的加权分很可能也包含 VLM 判定维度，这就存在训练信号与评测指标同源的隐患——94.0 这个分数有多少来自真实质量提升、多少来自对评判器偏好的拟合，需要更强的隔离设计，专家盲评是好的补充但只有五人。第二，HTML/CSS 表示的表达力有天花板：它擅长版式、文字与图层合成，但那些需要像素级生成的创意元素（商品与背景的自然融合、光影一致、艺术化质感）不是 CSS 能表达的，因此这套方案更准确的定位是「可编程版式合成」而非通用创意生成，与扩散模型是互补关系而非替代。第三，1,300 例基准与 28,000 条训练样本都来自同一电商生态，品类分布、审美规范高度同质，跨平台或跨文化的泛化能力没有证据支撑。 趋势观察 世界模型开始把「状态」从像素里拆出来，交给代码托管 — 今天最值得读的一篇工作提出了一个有点反直觉的分工：世界的演化规则不要让视频模型去学，交给会写代码的语言模型；视频模型只负责把状态渲染成好看的画面。Code World Model 让 coding agent 充当「世界大脑」，把事件与后果推理成可执行代码，代码维护一份持久化的世界状态，状态再被编译成一段粗糙的 proxy 视频去条件化视频模型。这个拆法直指纯视频世界模型的老毛病——视频只呈现「结果」，不承载「规则」，所以模型很难保证「我刚才砸碎的花瓶下一帧还是碎的」。把状态搬进代码后，持久性由程序保证而不是靠模型记性。同一天的 CLAP 从另一侧呼应：它用末端执行器位姿、语言指令、latent action 三种表示把人类视频和多种机器人本体统一到一个动作空间，让世界模型能吃下互联网规模的异构视频。两条路线的共同判断是：世界模型要往前走，得先把「动作/状态的表示」这件脏活干干净。 长视频一致性的战场已经从「窗口多大」转向「记什么、记在哪一层」 — LayerRecall 和 DensityKV 是今天最像一对的两篇，都在攻自回归视频扩散的历史记忆，但切入点完全不同。LayerRecall 的观察是：video DiT 的不同层对「当前/近期/远期」上下文的偏好并不一样，所以长程记忆是个双重决策——检索哪些历史 K/V，以及注入到哪几层。它只往少数「记忆敏感层」注入，其余层保留原来的 sink + 滑窗注意力，因此几乎零推理开销还能跨骨干迁移。DensityKV 则完全免训练，用 post-RoPE key 的 Soft-Riesz 局部密度判断新状态是否冗余：密度高就拒收，从而把持久历史存储限死在与 rollout 长度无关的常数上——120 秒生成时 LongLive-RAG 要 128.5 GiB，DensityKV 只用 3.28 GiB。两篇加在一起说明一件事：「无限长视频」这个目标的瓶颈已经不是注意力算得多快，而是历史怎么以有界代价被有选择地保留。 效率研究出现一波「回头验旧基线」的反思，结论不太体面 — 微软那篇《Sliding-window beats linear attention》标题就把结论说完了：带 sink 的滑动窗口注意力在多个 LLM、多个下游任务上打平或打赢经过 post-training 的线性注意力模型；在 Needle-in-a-Haystack 和 BABILong 这类长上下文推理上，SWA 高出 2 到 10 倍，而且它压根不需要 post-training。作者的批评相当直接——线性注意力这条线一直没有和足够简单的基线做过公平对比。这类工作在今天的效率研究里越来越重要：当一个方向在自己的评测里连年进步，却从未被最朴素的对照组挑战过，进步就可能是评测协议的产物。同一天 DensityKV 也是免训练路线，两篇一起构成一个信号：先把最便宜的方案做到位，再谈复杂改造。 视频生成模型正被反过来当作几何与物理的通用先验 — GeoNeXt 把单目深度与法向估计重写成「next-frames prediction」，直接复用预训练视频生成模型，理由是视频模型天然携带结构化的时空先验，比图像扩散模型更适合联合建模「图像↔几何」，实测能用远少的数据打赢那些多训 100 倍数据的判别式方法。Manifold4D 的思路更巧：视频重拍任务里点云渲染图和原视频作为两路条件会互相打架，模型不知道该信谁多少，于是它干脆不把渲染图当条件，而是注入到 flow matching 的初始噪声里——生成从一个「带几何信息的噪声流形」出发，渲染图只被用一次，网络也不必学会怎么读它，旋转误差因此降了 25% 与 27%。这两篇的共性是把视频生成模型当成基础设施而不是终点产品：它提供先验，任务只是换个输出头或换个注入位置。 人工智能炼丹君 整理 | 2026-09-01 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-08-31|复旦GameWAM同时生成画面和键鼠动作 今日 AIGC 论文速览 今日共 10 篇 · 世界模型与动作生成 2 篇 · 生成模型推理加速 2 篇 · 3D 资产生成与程序化建模 1 篇 · 视频与图像编辑一致性 2 篇 · 语音与实时交互 2 篇 · 世界模型评测 1 篇 重点论文标题列表 GameWAM（复旦大学 + LIGHTSPEED + 清华大学深圳国际研究生院）：首个能闭环玩游戏的世界动作模型 WALL-SS（自变量机器人 (X Square Robot)）：有界显存跑出分钟级流式推演 ClusterAttention（独立研究者）：无结构输入单次前向也能免训练加速 Procedura（南京大学）：把物体写成带装配约束的程序 MMLVE-Agent（南开大学 VCIP + 腾讯在线视频 BU）：全局记忆卡守住跨镜头编辑一致 今日论文速览 1. GameWAM：首个能闭环玩游戏的世界动作模型 GameWAM: A World Action Model for Video Games | 复旦大学 + LIGHTSPEED + 清华大学深圳国际研究生院 | arXiv:2608.26200 关键词：世界动作模型,游戏智能体,flow matching,块因果条件,键鼠控制生成,LASI,复旦,LIGHTSPEED 前序问题：游戏这个场景把两条原本分开的技术路线逼到了同一张桌子上。一边是游戏智能体：它们把画面和任务描述直接映射成动作，能玩但没有对世界如何演化的显式建模，一旦遇到需要预判后果的操作就只能靠模仿数据里的条件反射。另一边是交互式游戏世界模型：给定动作它能预测出相当逼真的未来画面，但它本身不是策略——没人告诉它该按哪个键，它就只是个渲染器。World-Action Model（WAM）的想法是把两者合成一个模型，让它同时输出「会发生什么」和「该做什么」。但游戏对 WAM 特别不友好：第一人称视角意味着画面变化极快，世界状态又要长期保持（挖到的矿、合成的物品不能凭空消失），更麻烦的是控制方式异构——游戏内是连续的鼠标视角移动，切到 GUI 界面又变成离散的点击拖拽，两套动作分布混在一条轨迹里。 本文贡献：GameWAM 是作者所称的首个面向原生闭环游戏与 GUI 控制的 WAM。核心是让视觉与动作两条生成流并行跑：Causal Video DiT 与 Causal Action DiT 通过 joint attention 耦合，在块因果（block-causal）条件下用 flow matching 同时生成未来观测和可执行的键鼠轨迹，两者共享同一段干净的因果前缀，而同时被加噪的未来视觉与动作 token 互不作为条件，避免用噪声去预测噪声。针对异构控制，模型在每个动作步先预测一个 gameplay/GUI 模式标签，再用模式专属的预测分布生成动作，并对连续动作做归一化，从而让一套模型同时驾驭「连续视角移动」和「离散界面点击」。长时程交互靠 block-cycle 控制：每轮预测超出实际执行范围的动作块，但只执行开头一小段前缀，然后从新观测重新规划；轮内用细粒度上下文、跨轮用分层历史压缩来维持时间连续性。训练数据是作者自建的画面与动作严格同步的 gameplay + GUI 轨迹集。 auto 实验效果：在 ViZDoom 与 Minecraft 类任务上，GameWAM 达到与对比智能体相当的任务成功率，但执行的原生动作数量更少——这说明它的动作更「有目的」，而不是靠高频试错凑出结果。作者展示的闭环 rollout 里有一个值得注意的行为：在「用工作台合成发射器」任务中模型中途放错了材料，观察到 GUI 状态变化后又调整了合成格配置并最终完成目标，即从画面反馈中做出了错误恢复，而这正是「有世界模型」相比纯反射式策略应该带来的能力。论文另一个反向贡献是揭示了 Low-Frequency Action Source Imprinting（LASI）：在条件固定不变时，采样动作所用噪声源的低频分量会系统性地带偏生成出的粗粒度镜头运动，也就是说「按了什么键」部分取决于随机种子长什么样。 auto 批判点评：把视觉与动作放进同一个生成过程、并用块因果掩码严格区分「可作为条件的干净前缀」和「同时被加噪的未来」，是这篇方法上最干净的部分，模式标签 + 模式专属分布也是处理异构控制的务实解法。真正让这篇论文有分量的反而是 LASI 这个负面发现：它把「生成式控制」的一个结构性隐患摆到了台面上——当动作本身来自采样，噪声的低频成分就变成了一个隐藏的控制信号，这意味着同一套条件在不同种子下会输出系统性偏向不同的镜头运动，对需要可复现性的评测和部署都是麻烦事。局限也需要点明：一是任务集集中在 ViZDoom 与 Minecraft 这类视觉相对简单、动作空间有限的环境，现代 3A 游戏的画面复杂度与状态持久性远超此范畴，声称的「原生闭环」还需要更硬的场景检验；二是「更少动作数」是个双刃指标，既可能意味着规划更好，也可能意味着模型倾向保守、放弃了需要密集操作的路径，论文没有拆开这两种解释；三是 block-cycle 只执行短前缀就重新规划，本质是用高频重规划掩盖长时程预测的漂移，代价是每轮都要重跑生成，实时性与算力开销在文中讨论不足。 2. WALL-SS：有界显存跑出分钟级流式推演 WALL-SS: Scaling Long-horizon World Models via Next-Scale Autoregression | 自变量机器人 (X Square Robot) | arXiv:2608.26239 关键词：世界模型,下一尺度自回归,长时程流式生成,尺度压缩记忆,on-policy对齐,机器人仿真,自变量机器人 前序问题：生成式世界模型对机器人的价值在于「不用真机就能试」——仿真、规划、策略评估都指望它。但要真正可用，它必须同时满足几个彼此矛盾的要求：动作与后果要对得上（给一段抓取轨迹，画面里的夹爪就得真的跟着走）；时长要可变且能持续接下去（不能只会生成固定 5 秒片段）；还要能被奖励直接优化（否则无法用强化学习闭环）。当前主流的视频扩散路线在这三点上都别扭：它以 clip 为单位迭代去噪，天然是「一段一段」的，续接时要么重新条件化、要么显存随长度线性膨胀；动作通常作为一个全局条件塞进 cross-attention，与具体时刻的状态转移关系松散；而扩散的似然不可直接计算，奖励优化只能绕道。长时程还有个更隐蔽的问题：模型训练时看的是真实历史，推理时看的是自己生成的历史，这种分布偏移会让误差沿时间累积成漂移。 本文贡献：WALL-SS 把具身轨迹表示成「观测与动作时间交错」的因果序列，让动作依赖的状态转移显式化，同时天然支持变长生成、通过复用因果状态做流式续接、以及借序列概率直接做优化。每一帧未来观测采用由粗到细的 next-scale 自回归生成（而非全帧去噪），并在这个尺度层级上搭了三个互补组件：一是动作条件的下一尺度预测，把与尺度对齐的动作表征注入各级，既建模成功行为也建模失败行为；二是尺度压缩的长时程记忆，近期交互保留在细尺度、远期观测与动作被压缩到粗尺度，配合 scale-wise dream forcing 提升对自生成上下文的鲁棒性；三是 on-policy 对齐，用「动作跟随」与「长期一致性」两个奖励优化自回归视觉动力学，同时以参考 KL 与 AR replay 约束住预训练视觉分布不被 PPO/GRPO 带崩。训练数据涵盖异构机器人与 UMI 手持采集示范。 auto 实验效果：在动作跟随与轨迹精度上 WALL-SS 优于所比较基线，并能在有界显存下跑出连贯的分钟级流式 rollout。作者给出的定量证据里最有说服力的是长时程流式跟随实验：在包含接触密集的倒水阶段的单次连续 rollout 中，逐帧的轨迹跟随误差全程保持在画面对角线长度的 0.5% 以内。与 Wan2.1-1.3B、Wan2.2-14B、Infinity-8B 的定性对比取 5s/30s/60s 三个时刻：三个基线在 30 秒后陆续出现任务目标丢失或物体消失（图中红框标出），WALL-SS 在 60 秒时仍保持分拣与倒水任务的物体与容器关系正确（绿框）。此外闭环校准实验显示，生成 rollout 与真机 rollout 的任务成功率呈线性相关，说明它可以当作策略评估的代理。 auto 批判点评：把「动作—观测交错的因果序列」作为一等表征，是这篇论文最值得借鉴的设计决策：它一次性解决了变长、流式、可优化三件事，而扩散路线要靠三套补丁分别应付。尺度压缩记忆也比「均匀降采样历史」更符合直觉——远处只需要知道大概布局，近处才需要细节。不过要冷静看几点：一是 60 秒、有界显存这类数字来自作者自建设定，基线选的是通用视频生成模型（Wan、Infinity）而非专门的机器人世界模型，比较口径对自己有利；二是 on-policy 对齐用的奖励（动作跟随、长期一致性）本质是自监督代理指标，优化它未必等于提升下游策略的真实成功率，论文的闭环校准只给了相关性、没有给出「用 WALL-SS 评估选出的 checkpoint 在真机上确实更好」的因果链条；三是团队署名为「X Square Robot Team」，贡献者列表在附录，机构信息公开度较低，复现与代码可用性需实际验证；四是分钟级 rollout 的显存有界是靠远期压缩换来的，被压掉的信息一旦在后续需要精确复现（例如回到之前的桌面重新抓取同一物体），一致性能否维持是未验证的。 3. ClusterAttention：无结构输入单次前向也能免训练加速 ClusterAttention: A training-free speedup of bidirectional attention | 独立研究者 | arXiv:2608.26965 关键词：稀疏注意力,免训练加速,递归聚类,块稀疏,质心补偿,TabPFN,Wan2.1视频生成 前序问题：稀疏注意力要做到免训练可用，现有方法几乎都要借某种外部结构：语言模型借 token 的顺序性（近处更相关），图像与视频借空间邻近（相邻 patch 更相关）。一旦输入本身没有这类结构——比如表格数据里行与行之间没有顺序、没有邻近关系——这些先验就全部失效。另一条路是先聚类再稀疏，但聚类本身很慢，只有在多次前向之间摊销才划算；对单次前向的场景（一次推理就结束）这个开销无法回本。于是「无结构输入 + 单次前向」这一格长期空着。还有一个被普遍忽略的问题：稀疏注意力的误差究竟由什么决定，业界大多靠经验调阈值，缺少可以指导设计的解析结论。 本文贡献：ClusterAttention 用一个随每个注意力头的 key/query 几何自适应的快速递归聚类替代慢速聚类，并做了一个工程上很聪明的取舍：让所有簇的尺寸固定为 2 的幂次。这样块稀疏注意力在 GPU 上每次 query-key 交互的延迟与稠密注意力持平，省下的算力才能真正兑现为端到端加速（否则不规则块会被 kernel 效率吃掉）。理论侧作者推导了稀疏注意力输出误差的表达式，用它解释了一个反直觉的实验现象——紧致的簇有时误差反而比随机簇更大；接着推导了当被排除的簇通过其质心做补偿后的误差，证明这个误差随簇越紧而越小，于是把质心补偿（striped compensation）并入方法，让「聚类做得越好、精度越高」这个本该成立的关系真正成立。 auto 实验效果：在大规模表格数据上，ClusterAttention 把 TabPFN-3 加速 2 到 6 倍，同时保留至少 99% 的稠密精度；作者称这是首个能在「无结构输入 + 单次前向」设定下成功应用的免训练方法。在视频生成上，用 Wan 2.1-14B T2V 做测试，相比专门为该领域开发的 SVOO，ClusterAttention 既取得更接近稠密注意力的输出、又拿到更大的加速比（1.8 倍对 1.4 倍），且两者都在无离线校准的条件下运行。延迟-失真的帕累托前沿图显示，在余弦相似度 0.99 这条线上，ClusterAttention 与 SVOO 的耗时差出接近一个数量级，且在 2072/3500/5306 三种分辨率下趋势一致。 auto 批判点评：这篇的方法论姿态比它的绝对数字更值得注意：先把误差写成解析式，再用它解释反直觉现象、进而设计补偿项，这条链条比大多数「调出一个好阈值」的稀疏注意力工作扎实得多，而「簇尺寸固定为 2 的幂次以对齐 GPU kernel」也是把理论加速真正落成墙钟时间的关键工程细节。需要保留判断的地方不少：一是作者为独立研究者、无机构背书，论文中的 TabPFN-3 与 Wan 2.1 实验规模有限（视频侧仅 5 个 prompt），结论的稳健性有待更大规模复现；二是视频生成的评价主要用与稠密输出的余弦相似度和延迟，而非 VBench 这类感知质量基准，「更接近稠密」不完全等于「人看着更好」；三是方法只针对双向注意力，对因果注意力（自回归 LLM/视频）不适用，而后者恰是当下最耗算力的场景；四是全文没有框架图，机制描述依赖文字与曲线，读者要理解递归聚类的具体形态需回到公式，这在工程复现时会增加成本。 4. Procedura：把物体写成带装配约束的程序 Procedura: Agentic 3D Modeling with Procedural Control | 南京大学 | arXiv:2608.26238 关键词：3D生成,程序化建模,LLM智能体,装配图,机器可校验配合,URDF articulation,南京大学 前序问题：原生 3D 生成器现在从一张图就能恢复相当不错的网格几何，但产物拿到实际生产流程里几乎立刻卡住，原因有三：本该锐利的机加工边缘在密集网格里是软的；网格是一整坨、没有部件分解，想单独换个轮子都做不到；更根本的是它没有暴露任何用户可以修改的参数——用户能做的只有重新生成，而不是编辑。这对工业设计、游戏资产、机器人仿真都是硬伤，因为这些场景要的不是「一个好看的形状」，而是「一个结构清晰、可改、可仿真的资产」。已有的 3D-代码路线尝试用程序表示形状，但多数是直接生成脚本或把文本翻译成一串构造命令，部件语义靠事后打标签补，装配关系并没有被当作一等对象。 本文贡献：Procedura 走的是「3D 形状即代码」的路线，并把关键约束前移到了装配层。给定文本提示，智能体先合成一张参考视图，然后跑三个阶段：Planning 阶段把物体分解成一张装配图，图上的节点是命名部件、边是带类型且机器可校验的配合（mate）；Procedural Modeling 阶段逐个部件写 3D 程序，每个部件的位置不是「猜」出来的，而是从配合坐标系解算出来的，并且只有在编译检查、配合检查、连通性检查三项都通过后才被接受进装配体；随后一个解耦的视觉 critic 每次只针对一个诊断出的问题做修复，避免多处同时改动引入新错误。生成时的动态上下文把三样东西打包进一条生成消息：装配参考（参考图 + 提示 + 该部件的配合）、已构建历史（完整且已能编译的部分）、以及 3D 反馈。同一张装配图还承载逐部件材质与经仿真器校验的关节运动（articulation），可导出为 OpenUSD 与 URDF。 auto 实验效果：在 P3D-Bench（用其装配判定器评分）以及作者自建的硬表面基准 MechBench-36 上，Procedura 在判定质量上超过当前主流原生 3D 生成器与此前所有 3D-代码智能体，产出的边缘锐度在所有对比方法中最高，并且是唯一输出「可编辑、部件结构化的程序」的方法。作者展示的 gallery 直观支撑了这一点：整车被自动分解为上百个带独立配色的命名部件（车架、轮胎、座椅、机枪、悬挂等各自成模块），这种分解是程序结构的天然产物，不需要事后做分割。articulation 验证部分把六个物体导出为 OpenUSD 与 URDF 并在 Isaac Sim 里做无头验证，每张图由该物体自身的仿真片段合成（扫过的中间位姿做半透明重影、终态实心），证明关节运动确实可跑。 auto 批判点评：这篇最有价值的判断是把「装配关系」而不是「几何」作为生成的一等对象——因为部件结构化、可编辑、可仿真这三个属性其实是同一件事的推论，一旦物体是由带类型配合连接的命名部件组成的程序，分解与关节就免费得到了，不需要事后分割。三重检查（编译/配合/连通）加解耦 critic 的逐次单点修复，也比让 LLM 一次性重写整个脚本要可控得多。风险同样明确：一是这条路线的能力上限被程序化表示卡死——它擅长机加工感的硬表面物体（buggy、挖掘机、机械臂），对有机形态（人物、动物、布料、植物）几乎无从下手，MechBench-36 的选题本身就说明了适用边界；二是整个流程重度依赖 LLM 的编码能力与多轮工具调用，单个物体的 token 与时间成本论文未充分披露，与「一次前向出网格」的原生生成器不在同一量级；三是评测用的是装配判定器（judge）而非几何指标或人类偏好，判定器与被评方法共享「装配」这一价值观，对不走装配路线的基线可能天然不利；四是自建基准 MechBench-36 仅 36 个物体，规模偏小。 5. MMLVE-Agent：全局记忆卡守住跨镜头编辑一致 Thinking on Shots: Consistent Multi-Shot Video Editing with Agentic Reasoning | 南开大学 VCIP + 腾讯在线视频 BU | arXiv:2608.26809 关键词：多镜头视频编辑,长视频编辑,LLM智能体,VLM,全局记忆卡,镜头分割,南开,腾讯 前序问题：视频编辑的生成能力已经不弱，但绝大多数方法的适用范围停在单镜头或短片段。真实素材是多镜头长视频，而用户给的往往是一串针对不同时间点、不同对象的指令（「1 秒处骷髅模型加圣诞帽、28 秒处屏幕里的白色动捕模型换成绿色外星人、38 秒处男子的深蓝夹克改成红黑格衬衫」）。直觉做法是按固定时长切块逐段编辑，但这会引发三类连锁失败：同一实体被切到不同块里、各块独立编辑后长相不一致（实体碎片化）；一条指令落到不该落的镜头上，或多条指令互相污染（编辑幻觉）；以及为了执行编辑而破坏了原本的镜头切换、运镜与时序结构。 本文贡献：作者先把任务形式化为 MMLVE（多指令多镜头长视频编辑），并明确三个目标：跨镜头编辑一致性（CSEC）、多指令解耦（MID）、对时空结构零破坏（ZDSS）。方法上是一个 LLM 与 VLM 协同的智能体框架，分三个模块：Instruction & Video Analysis 用 PyDetect 把长视频按物理镜头切开（而非按固定时长），再由 LLM 智能体解析并解耦复杂指令、VLM 智能体抽取关键帧与条件；Global Memory Card Making 是这套方法的关键——为每个被编辑实体建立一张全局记忆卡，卡上存「编辑前参考实体图」与「编辑后参考实体图」这一对图像，并用 P-NEF（正负例反馈循环，VLM QA 智能体给正负提示、实体特征抽取器迭代）把这张卡打磨准确；Multi-Shot Video Editing 阶段把记忆卡作为图像条件与文本指令一起拼进编辑提示，要求目标实体的编辑前状态匹配卡左侧、编辑后状态精确对应卡右侧，同时保持原背景、运镜与时序完全不变。配套发布了 MMLVE-Bench 基准。 auto 实验效果：在 MMLVE-Bench 上，MMLVE-Agent 取得最高平均分 81.84。定性对比更能说明问题：在骷髅/动捕屏幕/夹克三指令的案例里，Seedance 2.0 把整个人物换成了另一个男子、Kling o3 在第 2 镜头里凭空生成两块显示器、HappyHorse 1.0 把场景改得面目全非，而 MMLVE-Agent 只精确改动了目标实体（骷髅头上出现红帽、屏幕里模型变绿、夹克变格衬衫），七个镜头的背景与运镜保持原样。第二个陶艺案例同样：基线普遍把「黄色圆海绵换成方形蓝海绵」执行成了多余的物体替换或位置漂移，本方法在七个镜头间维持了目标物体一致。作者论证只有 MMLVE-Agent 同时满足 CSEC、MID、ZDSS 三个约束。 auto 批判点评：「全局记忆卡存编辑前后的实体图像对」这个设计相当讨巧：它把「跨镜头一致」这个抽象约束落成了一个具体、可被图像条件直接消费的产物，比让模型自己在长上下文里维持身份要可靠得多，也天然支持多条指令各自持有独立的卡从而解耦。按物理镜头而非固定时长切分也是对症的。需要打折扣的地方：一是这是一套编排框架而非新的生成模型，最终画面质量完全受限于底层编辑器，框架本身不解决「编辑器画不出来」的情况；二是链条很长（镜头分割 → LLM 指令解耦 → VLM 关键帧 → 记忆卡 P-NEF 迭代 → 逐镜头编辑），任一环节出错都会传导到最终结果，论文未给出各环节的失败率拆解，也未披露端到端耗时与调用成本；三是基准与评分都由作者自建，81.84 这个数缺少外部可比性，而对照的 Seedance/Kling/HappyHorse 都不是为多指令长视频编辑设计的，比较略有不对等；四是 ZDSS（零破坏）是个很强的宣称，但文中主要靠视觉对照支撑，没有对运镜轨迹或时序结构做定量的保真度度量。 6. LeVJEPA：单编码器一个超参告别EMA与停梯度 LeVJEPA: Efficient & Scalable Video Pretraining without the Heuristics | 德国癌症研究中心 + 歌德大学 + Mila + 蒙特利尔大学 + 布朗大学 + 纽约大学 Courant + AMI Labs | arXiv:2608.27395 关键词：视频自监督预训练,JEPA,SIGReg,表征坍缩,token随机丢弃,单编码器,LeCun 前序问题：视频天然携带物理世界的时间结构，是自监督表征学习最诱人的数据源，但代价一直很高。主流方法防止表征坍缩靠两条路：一是架构上的不对称——同时用 EMA 目标编码器、停梯度、以及一个刻意限制容量的预测器，三件套缺一不可，且各自带一堆需要调的超参；二是干脆绕开，回到像素空间重建被遮挡内容（VideoMAE 路线），但重建像素让模型花大量容量去拟合与语义无关的细节。这两条路的共同问题是：坍缩是被启发式手段「压住」的，没有理论保证，调参经验很难跨数据集迁移，而视频预训练本身又极其烧算力，试错成本高得离谱。 本文贡献：LeVJEPA 是首个在 LeJEPA 的免坍缩目标下训练的视频编码器，把 EMA、停梯度、限容预测器全部丢掉。它只用一个编码器：对同一段视频的全局视图与局部视图算不变性损失（在 [CLS] 上做 MSE），再由 SIGReg（Sketched Isotropic Gaussian Regularizer，沿随机一维投影做正态性检验）提供可证明排除坍缩的正则。架构因此简化为「编码器 + 投影器」，目标函数只剩一个超参。这个形式带来两个性质：一是预训练开销由编码器实际看到的 token 数决定，因此均匀随机丢弃 token 既能显著减少 token 数、又同时提升下游精度（丢弃在这里不是纯粹的省钱妥协，而是有正则作用）；二是在同等 epoch、同等数据下，它能匹配以启发式三件套堆出来的方法。 auto 实验效果：在同一份 K710 的 20% 子采样上以 240 epoch 训练 ViT-S/B/L，用 ImageNet-1K attentive probing 评估：LeVJEPA 的精度-算力曲线整体位于 V-JEPA 2 与 VideoMAEv2 的右上方，即在更低的总预训练 ExaFLOPs 下拿到更高精度——例如约 25 ExaFLOPs 处达到 57.5% 左右，而 V-JEPA 2 要花约 100 ExaFLOPs 才到 55.5%，横轴为对数且向右表示更省算力。表征质量的定性证据是 patch token 的前三个主成分可视化：LeVJEPA 给出的分解能把动物与周围家具、背景干净地分开，与 V-JEPA 2.1 相当，说明去掉不对称架构后并没有牺牲稠密结构。 auto 批判点评：这篇的价值主要在「减法」：把 EMA 目标编码器、停梯度、限容预测器三件套一次性拿掉，还把目标函数收到单个超参，对做视频预训练的团队意味着搜索空间大幅缩小，而 SIGReg 提供的免坍缩保证也比经验性技巧更让人放心。「token 随机丢弃同时省算力和提精度」这个观察尤其实用。但要注意几点：一是评测口径偏窄——主结果用 ImageNet-1K attentive probing，这是一个图像级线性可分性指标，对视频编码器真正关心的时序理解（动作识别、时序定位、追踪）覆盖不足，论文标题谈的是 video pretraining，评价却主要落在图像域；二是实验规模为 K710 的 20% 子集、最大 ViT-L，与 V-JEPA 2 原始的全量大规模训练不在同一量级，「匹配」结论是在缩放后的受控设定下成立，能否外推到全量仍未知；三是随机丢弃 token 提升精度的机制解释偏经验（视作正则），缺少与 SIGReg 相互作用的分析；四是作者列表横跨七个机构、含 LeCun 等，署名权重容易让读者高估结论的普适性，仍应按受控实验的边界来读。 7. PAWBench：同一初态重复推演测分布对齐 PAWBench: How Far Are We from Probabilistically Aligned World Modeling? | 上海交通大学 + 上海AI Lab + Krea AI + HuggingFace + 通义实验室 + 香港大学 | arXiv:2608.27345 关键词：世界模型评测,概率对齐,分布级判据,视频生成基准,因果干预,PAWEval,上海AI Lab 前序问题：把视频生成模型称为「世界模型」已经成了行业惯例，但现有评测几乎全在问「这条视频看起来物理上合理吗」。这个问题本身有个漏洞：很多物理过程的合理结局不止一个。抛一次硬币、球落进高尔顿板、纸牌翻面——同一初始观测加同一动作，真实世界会给出一个分布，而不是一条确定轨迹。如果模型十次 rollout 里九次都是正面朝上，每一条单独看都完全合理，但它显然没学到这个过程的随机性，只是记住了一个高概率模式。作者把这个被忽略的要求命名为概率对齐（probabilistic alignment）：世界模型不仅要能生成一个可信的未来，还要在重复采样下复现出正确的可能性分布。现有基准都不测这一点。 本文贡献：PAWBench 把概率对齐形式化为世界模型的分布级判据，并配套 PAWEval 这个结果级评估协议。做法是固定初始观测与动作，对同一设定重复 rollout，用基于评分细则（rubric）的判官把每条可读、符合模式的 rollout 映射为一个离散结果标签（如 Head / Tail），聚合成经验结果分布，再与参考概率比较——注意比较的是分布，而不是逐条视频匹配。基准分两部分：PAW-Calibration 收录参考分布可解析给出的校准型场景（覆盖八个机制组），PAW-Coverage 收录复杂随机交互、用有效支撑集覆盖率来评。作者还设计了因果/非因果干预的对照实验：改变真正影响物理转移的量（铅笔倾角）与改变不影响物理的量（高尔顿板旁边写一行「总是落在右边」的文字），看模型分布如何响应。 auto 实验效果：在 HappyHorse、Veo 3.1 Fast、Kling 3 Std、Seedance 2、Wan2.7、Wan2.2、LTX-2.3、Cosmos 3 Super I2V 等模型上，测出的整体结论是当前视频生成器离概率对齐还很远：输出往往集中在有效随机支撑的一个狭窄子集上。干预实验给出的信号最尖锐——面对因果干预（铅笔倾角改变），各模型的结果分布相比真值变化不足，即欠反应；面对非因果的文字提示，分布却被明显带偏，即过反应。换句话说，模型更像在读提示词而不是在模拟物理。失效解剖图进一步按机制组拆出八个模型各自的失败构成占比，显示不同模型的短板类型并不相同。 auto 批判点评：这篇提出的问题比它的具体分数更重要：把评价从「单条像不像」抬到「分布对不对」，是对「视频生成即世界模型」这一叙事的一次必要校正，而「对因果干预欠反应、对非因果文字过反应」这组对照几乎是最经济的反证设计——它用一行无关文字就暴露了模型在依赖语言先验而非物理推演。这个思路对做世界模型的团队有直接的诊断价值。同时要看清它的边界：一是整套协议建立在 rubric 判官能可靠把 rollout 归类为离散结果之上，判官误判会直接污染分布估计，论文虽做了可读性/合模式筛选，但判官一致性本身需要更强的验证；二是参考分布只在少数可解析场景（硬币、高尔顿板等）成立，这类场景与真实应用中关心的物理（接触、形变、流体）差距较大，PAW-Coverage 用支撑集覆盖率替代分布距离也是无奈的降级；三是被测对象多为闭源商用模型，采样参数（温度、guidance）不可控且随版本漂移，结论的可复现性有限；四是「重复 rollout 估分布」的算力成本很高，作者的 rollout 预算诊断说明样本量本身就在影响结论稳定性。 8. EmoTra-TTS：一句话内让情绪连续流动 EmoTra-TTS: Smooth Intra-Utterance Emotion Transitions for Speech Synthesis | LIGHTSPEED + 新加坡国立大学 + 南洋理工大学 | arXiv:2608.23791 关键词：情感语音合成,句内情绪过渡,VAD情感维度,流匹配解码器,合成过渡数据,EMNLP2026 前序问题：心理学早已确认人的情绪是连续演变的过程——几秒之内就会起伏、衰减、转换。但当前情感 TTS 系统的条件化方式与这个事实是错位的：一条语音只给一个离散情感标签或一个静态嵌入，也就是说整句话的情绪被假定为恒定。想合成「说着说着从平静转为愤怒」这种自然表达，现有系统做不到精确控制。基于 LLM 的 TTS 虽然可能通过对文本的理解隐式地变化韵律，但这种变化既不可显式控制、也不够精准，无法定向指定「在句子的哪个位置、往哪个方向、转多少」。更现实的障碍是数据：自然录音里句内情绪过渡的样本极其稀少，没法直接监督学习。 本文贡献：EmoTra-TTS 针对三个问题各出一招。数据侧提出多趟流混合（multi-pass flow blending）流水线来合成帧对齐的过渡音频，绕开自然过渡样本稀缺的问题。条件化侧采用双阶段的 VAD（Valence-Arousal-Dominance，效价-唤醒-支配）条件化：把情绪表示为连续三维向量而非离散标签，在 LLM 阶段用 VAD token（初始情绪 v_init、过渡情绪序列 v_tra、结果情绪 v_res）引导韵律规划，在流匹配解码器侧用帧级 VAD 嵌入落实声学实现，从而让情绪控制贯穿「先规划再实现」两级。注入方式上提出方向-幅度解耦注入（direction-magnitude decoupled injection）：把情绪嵌入对说话人嵌入的作用拆成「往哪个方向偏」与「偏多少」两部分，避免情绪强度变化时连带扰动音色身份。整体骨干是文本-语音语言模型 + 冻结的流匹配解码器 + HiFiGAN 声码器。 auto 实验效果：论文已被 EMNLP 2026 主会接收。主观评测采用盲测配对偏好，评测者在系统身份隐藏、顺序随机的条件下打分。在表格 (d)(e) 两类过渡场景下，EmoTra-TTS 对四个基线的胜率分别是：对 MOSS-TTS 79.5%（95% CI [73.7, 84.2]）、对 CosyVoice2 76.8%（[71.0, 81.7]）、对 WeSCon 75.2%（[69.4, 80.3]）、对 Qwen3-TTS 67.5%（[61.2, 73.2]），评测者一致率在 63.5%~71.6% 之间。三项 MOS 指标分别覆盖自然度与音质（MOS-Qua）、情绪准确性（MOS-Emo）与情绪过渡自然度（MOS-Tra），均为 1-5 分李克特量表。 auto 批判点评：把情绪从离散标签换成连续 VAD 轨迹、并把控制拆到「LLM 规划韵律 + 流匹配落实声学」两级，是对症的建模选择；方向-幅度解耦注入更是个细致的工程洞察——情绪强度和说话人身份共用一个嵌入空间时最容易互相污染，把方向与幅度分开正好切在痛点上。用合成流水线造过渡数据也是面对数据稀缺的务实解法。需要保留的地方：一是训练监督主要来自合成的过渡音频，模型学到的「过渡该长什么样」本质由这条流水线的先验决定，与真人自然过渡的分布差异未被量化，存在自证循环的风险；二是评测重心在主观偏好，客观指标（说话人相似度、WER、情绪分类准确率）在摘要层面披露不足，而 63.5%~71.6% 的评测者一致率提示这类判断噪声较大，胜率的置信区间虽给出但样本构成不透明；三是仅在表 (d)(e) 两类场景上报胜率，其余类别表现如何未在此层面说明，选择性汇报的可能不能排除；四是 VAD 三维虽比离散标签细，但它仍是对情绪的强降维，复杂情绪（讽刺、无奈、苦笑）能否被三个标量刻画是开放问题。 9. Sidecar：把首句人物描述注回后续提示 Sidecar: Training-Free Semantic Reuse for Character-Consistent Free-form Visual Storytelling | 美国乔治城大学 | arXiv:2608.27280 关键词：视觉叙事,角色一致性,免训练即插即用,文本编码器隐状态,语义复用,SDXL,FLUX 前序问题：视觉叙事要求连续生成的画面既跟着剧情推进、又保持人物身份不变。真实的叙事文本有个特点：角色只在第一次出场时被完整描述（「一只高挑的精灵，银发闪耀，身着精致的翠绿长袍」），之后就用类别词或代词指代（「他停下脚步」「那只松鼠开始挖洞」）。这种自由形式（free-form）的写法更接近人类叙事习惯，但对生成模型很不友好——后续提示里已经不含身份相关的语义，模型只能靠自己「记住」，结果就是身份漂移。作者的动机实验很直接：用当前最好的自由形式叙事方法 FreeStory，在其他设置完全不变的情况下，仅把完整描述替换成类别词或代词，人物就明显走形。这说明问题的根源在文本条件端的语义缺失，而不只是生成端缺一致性机制。 本文贡献：Sidecar 是一个即插即用的语义增强模块，不训练、也不改基础扩散模型的架构。它分两步：第一步语义抽取——用第一句提示过文本编码器，在每一层把对应「完整角色描述」那段 token 的隐状态取出来，存成逐层的语义表示（Sidecar Semantic Bank）；第二步语义注入——编码后续提示时，在每一层把对应的语义表示临时插入到 [BOS] 之后，让缺失的身份语义参与该层的自注意力计算，算完之后再把这些 sidecar token 移除，因此不改变提示的实际长度、也不影响后续模块的接口。增强后的文本条件送进图像生成模型（SDXL / FLUX 系列均可），得到一致的故事帧。整个机制作用在文本编码器的隐空间，与生成器解耦，所以能直接叠在多种现有方法之上。 auto 实验效果：在 FreeStoryBench 上，Sidecar 叠加到多个 SDXL 与 FLUX 基线上都稳定改善了提示-图像对齐与角色一致性，且计算开销可忽略。定性对比展示了三组故事：精灵组中 ConsiStory 原版在第 2 帧把角色画成了完全不同的黑发男子、第 6 帧又变成矮壮的中年人，加上 Sidecar 后六帧都维持银发翠袍的同一形象；松鼠组中 StoryDiffusion 原版在第 3、5 帧把主角替换成了人手与男孩，加 Sidecar 后六帧都是同一只红松鼠；闹钟组中 FreeStory 原版的黄铜闹钟在后续帧里样式与破损细节不断变化，加 Sidecar 后双铃造型与裂纹表盘保持稳定。 auto 批判点评：这篇的定位很清楚，也很讨喜：不训练、不改架构、开销可忽略，却把自由形式叙事里「后续提示丢了身份语义」这个具体缺口补上了；把注入做在文本编码器的每一层隐状态、且算完即移除 sidecar token，是个干净的实现——不改变提示长度就意味着下游一切模块无需适配，这是它能叠在 SDXL 与 FLUX 多种基线上的原因。诚实度也值得肯定，作者自己写明「原生 T2I 模型没有显式跨帧一致性机制，Sidecar 能改善身份保持但不保证完全视觉一致」。局限同样明显：一是它只补文本端的语义，画面端的一致性（构图、光照、服装细节的连贯）仍完全依赖底座，因此改善幅度受基线天花板约束；二是评测只在 FreeStoryBench 一个基准上进行，两位作者来自单一机构、无更大规模验证，泛化性待观察；三是方法假定「角色的完整描述出现在第一句」，若描述分散在多句、或故事中途角色外观本应改变（换装、受伤、成长），逐层复用首句语义反而会阻碍必要的变化，论文未讨论这种冲突；四是多角色场景下如何为每个角色分别建库、注入时如何避免语义互相干扰，也未见充分说明。 10. VoiceMem：信息与情感双脑并行流式记忆 VoiceMem: Streaming Dual-Brain Memory for Real-Time Interaction | 南洋理工大学 + 新加坡国立大学 + 香港中文大学 | arXiv:2608.26005 关键词：语音语言模型,流式记忆,双脑架构,情感归因,人格建模,实时交互,NTU,NUS 前序问题：全双工语音语言模型（SLM）在延迟和自然度上已经进步很快，但缺一个像样的记忆系统。这里的难点不只是「记住事实」：语音交互是流式的，用户还在说话时系统就该开始处理，等一句话说完再做记忆检索必然引入可感知的延迟；同时语音承载的信息比文本多一层——同一句「我没事」，语气不同含义完全相反，纯文本记忆系统（Mem0、Zep 这类把记忆当可扩展事实库的方案）天然丢掉了这部分。结果是当前语音助手要么记不住上周聊过什么，要么记住了事实却听不出用户此刻的真实状态，长程交互中的人格与共情无从积累。 本文贡献：VoiceMem 提出一个双脑记忆架构：并行的「信息左脑」与「情感右脑」，加上流式的记忆读写机制。左脑走 schema-实体组织与涌现（自然演化式更新、一跳记忆索引，把记忆按 schema/实体/说话人分槽存放）；右脑做内节点与跨节点的情感建模、以及长短程情感归因（短期做单轮情绪检查、长期做趋势分析与记忆编辑），并用双节点人格建模来刻画用户画像。关键的工程设计是两个脑都在用户说完之前就开始处理：流式预处理阶段并行抽取说话人身份、ASR、实体、schema、情绪与嵌入（其中声纹与嵌入抽取为非流式）。作者还给了完整配套：记忆感知的 SLM 训练、长程评测、以及可换记忆后端的解耦部署，检索侧用四阶段流式流程压低延迟。 auto 实验效果：作者报告三方面结果。检索精度上，左脑在 top-5 检索设定下比 Mem0 在 top-200 设定下还高出接近 30 个点——即用远小的检索预算取得更高准确率。情感与个性化上，右脑在三个人格基准上达到当时最好水平，综合分比此前最佳系统提升 4.29 分。实时性上给出了真实部署验证。案例研究展示了四类记忆缺失时会出现的失败：用户说「我没事」但语气低落时，GPT-live 回「很高兴听到这个」，VoiceMem 回「你听起来不太好，发生什么了」；用户提到方案被否，VoiceMem 能指出「最难受的也许不是方案被拒」；用户说今天很累，VoiceMem 能回想起一周前提过的面试；用户问昨天在咖啡馆听到的歌，VoiceMem 能调出当时录下的音频片段。 auto 批判点评：把记忆拆成「信息」与「情感」两条并行通路，是这篇最有辨识度的判断，也确实抓住了语音相对文本的增量——纯事实库永远处理不了「语气与字面矛盾」这类信号。让两个脑在用户说完之前就开始处理，是对流式场景的正确工程取向，四阶段检索压延迟也务实。但几个数字要小心解读：一是「top-5 胜过 Mem0 的 top-200 近 30 点」是跨检索预算的比较，读起来极为亮眼，但严格的同口径对比（同 top-k）没在摘要层面给出，这种呈现方式对自己有利；二是人格基准上的 4.29 分提升缺少方差与显著性说明，人格类评测本身主观性强；三是「情感归因」在方法上依赖对情绪的自动识别与长期趋势总结，若上游情绪识别出错，错误会被写进长期记忆并持续影响后续回应，这个错误累积风险论文未讨论；四是隐私问题相当突出——系统会持久化说话人声纹、情绪轨迹、人格画像甚至原始音频片段（案例四直接回放了昨天咖啡馆的录音），文中未见相应的数据治理与用户可控性讨论，这对要落地的产品是必须回答的问题。 趋势观察 世界模型开始「同时输出画面和动作」，不再只做视频预测器 — 今天最重的两篇工作指向同一个转折：世界模型的产物从「未来画面」升级为「未来画面 + 可执行动作」。GameWAM 用并行的视觉与动作两条生成流，在同一次 flow matching 里既画出下一帧游戏画面、又吐出键鼠轨迹，成为首个能闭环玩原生游戏的 World-Action Model；WALL-SS 把机器人轨迹写成「观测与动作时间交错」的因果序列，动作依赖的状态转移被显式建模。这个转变的意义在于：过去「世界模型」和「策略」是两个分开训练、靠接口拼起来的模块，画面好看但不保证动作可执行；现在两者共享同一个生成骨干，动作与后果在训练时就被绑在一起。副作用也随之出现——GameWAM 发现的 LASI（低频动作源印记）表明当动作也由采样噪声生成时，噪声的低频分量会系统性地带偏镜头运动，这是纯策略网络不会有的新失效模式。 长时程不再靠「窗口拉宽」，而是靠分层记忆与尺度压缩 — WALL-SS 与 MMLVE-Agent 从两个完全不同的场景收敛到同一策略：把远处的历史压缩、把近处的历史保真。WALL-SS 的 scale-compressed memory 让近期交互留在细尺度、远期观测被压到粗尺度，从而在有界显存下跑出分钟级连续 rollout；MMLVE-Agent 面对多镜头长视频编辑，做法是把跨镜头身份写进一张「全局记忆卡」（编辑前后的参考实体图像对），后续镜头都拿这张卡对齐。这与前几周长视频记忆一致性专题里的判断一致：一致性问题的瓶颈在「记什么、怎么检索」，不在注意力能看多远。 免训练加速的战场从「有结构输入」转向「无结构输入」 — ClusterAttention 补上了稀疏注意力长期缺失的一块：以往免训练方法要么吃语言的顺序、图像的空间邻近这类先验，要么依赖跨多次前向摊销的慢速聚类，所以在「无结构输入 + 单次前向」这一格里一直是空的。它用一个随注意力头几何自适应的快速递归聚类，把簇尺寸固定为 2 的幂次，从而让块稀疏注意力在 GPU 上达到与稠密注意力相同的单次交互延迟。更有意思的是它推导出的误差表达式解释了一个反直觉现象——紧致的簇有时误差反而更大，而一旦对被剔除簇做质心补偿，误差就随簇越紧而越小。这类「先把误差写成公式再据此设计补偿」的做法，比纯经验调阈值更有迁移价值。 生成质量的评价标准从「单条像不像」转向「分布对不对」 — PAWBench 提出了一个容易被忽略但相当锋利的问题：一次 rollout 看起来物理合理，不等于模型学对了物理。抛硬币在同一初始状态下应该有大约一半正面一半反面，若模型十次里九次都是正面，它只是记住了一条「看起来对」的轨迹，而非世界的随机性。该工作把「概率对齐」形式化为分布级判据，并发现当前主流视频模型对真正改变物理的干预（铅笔倾角）反应不足，反而对不改变物理的干预（高尔顿板旁边的一行文字）过度反应——这几乎是「模型在读提示词而不是模拟世界」的直接证据。当行业普遍把视频生成叫作世界模型时，这个基准提供了一把必要的尺子。 人工智能炼丹君 整理 | 2026-08-31 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-08-29|字节斯坦福让视频记住走远的人RingForcing 今日 AIGC 论文速览 今日共 10 篇 · 长视频记忆与一致性 3 篇 · 实时流式生成与编辑 3 篇 · 单图世界建模 1 篇 · 后训练与奖励建模 2 篇 · 流式音视频评测 1 篇 重点论文标题列表 Ring Forcing（Stanford University、MIT、北京大学、UC Berkeley、字节跳动）：环形训练把记忆拉到分钟级 EditaLive（澳门大学、vivo BlueImage Lab、大湾区大学 GVC Lab）：两步采样做到14.47FPS直播换装 TetherMem（华中科技大学、小米 MiLM Plus）：主体查身份场景查近景各走一路 RECAP-Forcing（UC San Diego）：按外观新鲜度存而非按时间存 Magpie（Mogo AI、南京大学、南安普顿大学）：引擎管规则生成模型只管画 今日论文速览 1. Ring Forcing：环形训练把记忆拉到分钟级 Ring Forcing: Towards Precise Long-Term Memory for Autoregressive Video Diffusion | Stanford University、MIT、北京大学、UC Berkeley、字节跳动 | arXiv:2608.26794 关键词：自回归视频扩散,长时记忆,物体恒存性,稀疏RoPE,历史压缩,字节跳动,Stanford 前序问题：视频生成往长时长走，真正的瓶颈不是画质而是记忆。作者把它拆成两个必须同时成立的能力：一是「物体恒存性」——一个人走出画面几十秒后再进来，长相要和原来一致，而不是换了个人；二是「记忆容量」——模型得能处理超长上下文，真正用上很久以前的信息。已有做法往往只顾一头：能精确复现细节的，可用的时间跨度很短；把上下文拉得很长的，又保不住身份。更棘手的是训练目标本身的矛盾——如果强迫模型严格照抄历史，生成会变得僵死、失去多样性；如果放松约束，它就干脆不去看远处的历史，因为预测邻近帧永远是更省力的捷径。 本文贡献：Ring Forcing 的核心是一个环形训练策略：把原视频与反转后的视频首尾相接成环，随机裁掉开头一段，再在中间「挖掉」一部分作为隐藏的真值（Hidden GT），同时施加 Ring Context Drop。这样一来，要预测的目标帧其内容只能从远距离历史里取回，模型没有走捷径的余地，从而在「严格遵循历史」与「保持生成多样性」之间取得平衡。为扩容记忆，作者用压缩加时间步组合的策略，在固定序列长度下把有效历史跨度推到分钟级，并让感受野覆盖整段历史。第三个部件是稀疏 RoPE：让位置编码可以灵活、可扩展地适配记忆条目，同时尽量复用预训练先验，实验显示它比标准按索引排布的 RoPE 收敛更快、重建质量更好。作者还设计了双流结构，在不增加序列长度的前提下让组合策略稳定优于两个单独基线。 Overview of the Ring-Structured Training Strategy. We construct a sequence ring by concatenating a linear raw video with its reversed counterpart. By unrolling the ring into a conditioning sequence, the target frames are naturally embedded into the distant history as the Hidden GT, which essentially forces the autoregressive generator to learn explicit long-range retrieval. To prevent trivial shortcuts, a Random Head Crop is applied to truncate boundary information leakage, while a Random Context Drop is used to balance history adherence and generation diversity. 实验效果：在作者构建的 A-D-R Benchmark（出现—消失—再现）与一分钟通用长视频基准上，Ring Forcing 在分钟级连贯性和物体恒存性上明显优于现有方法。定性对比里，同一段一分钟美术馆漫游，FramePack 的画面逐步漂移、LongCat 后半段结构开始崩坏、LongLive 的展品在切换中被替换，而 Ring Forcing 始终保持雕塑与展厅结构稳定；穿越遮挡后再出现的物体也能保持原有外观。人类偏好评测中它在美学、自然度与总体偏好上均取得最佳，说明记忆机制的增强没有以画质退化为代价。 Qualitative results of 60-second long video generation. The visualization demonstrates the model's capability to maintain overall consistency and visual quality throughout a 1-minute duration in general scenarios. 批判点评：这篇的价值在于把长视频一致性从「算力/上下文长度问题」重新定义成「检索问题」，而环形训练是一个相当巧妙的构造——它用数据组织方式强制模型放弃预测邻近帧的捷径，比单纯加损失项更根本。稀疏 RoPE 也和昨天 JoyAI-Echo-1.5 的「给记忆单独编址」思路撞在一起，可以认为这是当前的一个共识方向。需要保留的疑问有三点：一是自建 A-D-R Benchmark 虽然针对性强，但也意味着「恒存性」这个最关键指标缺少第三方基准交叉验证，作者说的 SOTA 主要在自家尺子上量出；二是环形训练依赖把视频反转，这对有明确因果方向的内容（倒水、物体破碎）是否引入了反物理先验，论文没有讨论；三是分钟级的说法建立在「压缩＋时间步组合」之上，压缩必然有损，论文没有量化到底丢了什么、在多长时间尺度上开始失效。 2. EditaLive：两步采样做到14.47FPS直播换装 EditaLive! Unified Character Video Editing for Live Streaming | 澳门大学、vivo BlueImage Lab、大湾区大学 GVC Lab | arXiv:2608.27123 关键词：人像视频编辑,直播流式生成,少步蒸馏,稀疏注意力,Wan-Animate,vivo 前序问题：常规视频编辑关注的是整体场景，而直播场景真正在意的是人——观众盯着的是主播的脸和动作。把现有视频编辑方法直接搬到以人为主体的直播上有两个硬伤：一是面部表情容易失配，改完之后人物的微表情和原视频对不上，观感立刻失真；二是这些方法通常要多次离线推理，延迟根本不满足实时互动。一个看似可行的折中是「先用图像编辑器改首帧、再驱动动画」，但这条级联路径不是端到端的，延迟叠加，而且长序列下外观会持续漂移。此外这类任务还缺训练数据——成对的「编辑前后视频」几乎无法大规模构造。 本文贡献：EditaLive 从预训练的图像动画模型 Wan-Animate 出发，利用它天然把外观与动作解耦的特性，将其改造成指令驱动的人像视频编辑器：做法是只编辑参考帧、再重建视频，从而绕开成对视频数据的构造难题，配套自建了 CharEdit-50K 数据集（用 GPT 生成增删改与风格化四类互逆指令对，经 Qwen-Image-Edit 与 Nano Banana 2 合成候选，再做角色一致性、可逆性、编辑准确性等质量过滤）。为满足实时性，作者把模型从双向改为因果流式，并设计对齐的自 rollout 蒸馏，把模型压缩成两步采样器；其中 Align Forcing 与 Fixed RoPE 用来缩小训练与推理的差距，First-frame Preserved Sparse Attention（FPSA，稀疏率 75%）负责过滤冗余历史信息以抑制外观漂移。 Overview of the three-stage training pipeline of EditaLive. (a) Appearance--Motion Decoupled Editing reformulates character video editing as appearance editing with explicit body and facial motion preservation. (b) Causal Streaming Adaptation converts bidirectional modeling into causal generation using clean historical context and causal attention. (c) Aligned Self-Rollout Distillation compresses the model into a two-step sampler, where Align Forcing and Fixed RoPE align training with streaming inference, and FPSA improves long-term appearance stability. 实验效果：在单张 NVIDIA H100 上，EditaLive 端到端吞吐 14.47 FPS、平均块间延迟 0.829 秒，实现了亚秒级流式延迟。作者承认专用流式基线的原始速度更快，但那些基线的编辑成功率最高只有 0.428，而 EditaLive 达到 0.720；相较最快的双向基线 LucyEdit，它在吞吐与延迟上都有数量级改善。消融图显示去掉 Align Forcing 后风格化结果的色调与身份明显跑偏，去掉 FPSA 与 Fixed RoPE 则在第 900 帧附近出现可见的外观退化。 Ablation study on causal streaming adaptation and aligned self-rollout distillation. 批判点评：这篇的工程判断很清晰：直播编辑的真实约束是「实时」，所以宁可牺牲一点原始吞吐去换编辑成功率，这个取舍是对的——0.428 的成功率在产品里等于不可用。用「只编辑参考帧」绕开成对视频数据的构造，也是个聪明的降本设计。但有几处需要保持警惕：一是数据管线重度依赖闭源模型（GPT 5.5 生成指令、Nano Banana 2 与 Qwen-Image-Edit 合成图像），这意味着数据分布继承了这些模型的偏好和缺陷，复现成本也不低；二是它的能力边界被基座 Wan-Animate 框定，本质是「外观替换」，涉及大幅改变体型或需要新增遮挡关系的编辑恐怕难以胜任，论文的 limitation 图也暗示了这点；三是 FPSA 固定 75% 稀疏率是个经验值，在快速运镜或多人入画时是否仍然安全，缺少压力测试。 3. TetherMem：主体查身份场景查近景各走一路 Tether the Subject, Release the Scene: Query-Aware Memory Routing for Long-Horizon Autoregressive Video Generation | 华中科技大学、小米 MiLM Plus | arXiv:2608.26902 关键词：自回归视频生成,记忆路由,免训练,场景推进,长视频一致性,小米 前序问题：流式自回归视频模型逐块生成，靠历史记忆维持一致性。问题是现有方法对「主体查询」和「场景查询」用的是同一套访问策略——都同等地看历史。这确实稳住了主体身份，但副作用是把背景、视角和场景结构也一并锁死在此前的状态上：人物在走动，可街景却始终是同一条街，怎么走都走不出去。作者把这个失效模式命名为「记忆锚定的场景推进不足」，并指出它很容易被漏掉——因为常用的一致性指标和运动指标都不会报警，画面里确实有局部运动，一致性也确实很高，唯独缺了「场景在推进」这件事。 本文贡献：TetherMem 是一个免训练、面向冻结视频生成器的查询感知时空记忆路由器。它把主体查询与场景查询分开处理，并用「区域」和「新旧程度」两类先验来调制各自对历史的访问权重：主体查询保留承载身份的历史，场景查询则主动降低对主体历史和陈旧背景的依赖。具体实现上，用时间对齐的离线掩码区分主体区域与场景区域，再在归一化记忆路由中给不同年龄的记忆条目加上对数偏置，使得主体侧倾向「拴住」身份记忆、场景侧倾向「放开」并偏向近期背景。相比此前只做帧级时间筛选（选择保留哪些帧、粒度粗且不区分查询类型）的做法，它把筛选粒度下沉到了「哪类查询看哪块区域的哪段历史」。 Overview of TetherMem. (a) End-to-end routing preserves identity memory for subject queries and favors recent backgrounds for scene queries. (b) Prior methods select memory frames, whereas TetherMem routes query roles within the retrieved history. 实验效果：在来自 10 位标注者的 2400 次盲测成对比较中，TetherMem 在八个流式长视频基线里取得最高的期望偏好度：整体质量 0.780、场景推进 0.769。完整的 30 秒视频上，它能让背景、视角和场景状态持续变化，同时保住主体的可辨识度与时间连续性；架构图中的定性对比显示，基线要么表现为「场景冻结」（一直是同一条街），要么是「伪推进」（换了街景但布局照旧），而 TetherMem 能走出「街道→店面→广场」的真实推进。作者提供的证据散点图还显示它在「身份 EP × 场景推进 EP」平面上明显位于右上角，优于 LongLive-RAG 与 MemRoPE 等基线。 The evaluation landscape exposes two distinct gaps. (a) Identity EP versus scene-progression EP shows that strong identity can coexist with weak progression. (b) nT versus human progression shows that coherent translation is informative but incomplete: Causal Forcing has high nT and low human progression. Values are the method-level aggregates from Table. 批判点评：这篇最有价值的部分其实不是方法而是问题定义——它指出了一个被现有指标系统性掩盖的失效模式，并且说清了为什么「一致性高、有运动」还能是坏结果。这种把「指标满分但体验不对」显式化的工作，往往比再涨两个点更有意义。免训练、面向冻结模型也让它容易被复用。但要注意几点：一是核心结论几乎完全依赖人类偏好评测，没有自动指标佐证——这一方面是诚实的（作者自己论证了现有指标测不出场景推进），另一方面也让结果难以被独立复现和横向比较，作者若能顺势提出一个可自动计算的场景推进指标，贡献会大得多；二是方法依赖「时间对齐的离线掩码」来区分主体与场景，这个前置分割的质量直接决定路由效果，遇到多主体、主体与背景纠缠或分割失败时会怎样退化，论文没有充分交代；三是「主体拴住、场景放开」是一个人为设定的二分，对于「主体本身就该随场景改变」（如换装、光照剧变）的情形，这套先验可能反而成为约束。 4. RECAP-Forcing：按外观新鲜度存而非按时间存 RECAP-Forcing: Retaining Content Appearances for Long Video Generation | UC San Diego | arXiv:2608.26671 关键词：长视频生成,KV缓存,外观索引记忆,光流新颖度,免训练,UCSD 前序问题：长视频自回归生成面临一个根本的记忆取舍：注意力窗口有限，模型必须决定从不断膨胀的历史里留下什么。现有方法几乎都按时间来组织记忆——保留最近的帧，把更早的压缩或直接丢弃。作者认为这个索引方式本身就错了：一段长视频不只是帧的序列，而是一批不断登场的主体、物体和场景，它们的身份必须长期保持一致。按时间存有两个恶果：同一内容会被反复重复存储，且随时间衰减，最终导致信息永久丢失；同时记忆开销与视频长度成正比，越长越吃不消。 本文贡献：RECAP-Forcing 换了个索引轴：按「外观新颖度」组织记忆，而不是按时间。做法是在内容首次可见的那一刻，就把它对应的 KV 缓存留存下来——包括入画的新主体、被遮挡后重新露出的区域、新引入的场景，优先保留「新颖」而非「近期」。这样记忆规模与「新引入内容的总量」成正比，而不是与视频长度成正比，长程一致性因此变成记忆结构本身的显式属性。框架把两个机制统一在同一原则下：视频开头所有内容都是新的，此时用 attention sink 保住初始场景；随着视频推进，再用基于光流的新颖度库延续同一原则——用 RAFT 算前后帧光流，转成新颖度图，挑出新颖 patch，取其对应的逐层 KV 入队到记忆库。整套方法免训练、无额外可学习参数。 What should a long-term video memory store? The same rollout, indexed two ways. Top: the man is recorded at his first appearance ($t_1$); each later frame depicts something new: a passing car ($t_2$), a pedestrian ($t_3$), another passer-by ($t_4$). Bottom Left: frame-indexed memory re-stores old and new content alike at every step, then compresses or evicts it as time passes, so memory pressure grows with video length. Bottom Right: appearance-indexed memory (RECAP-Forcing) stores content when it newly appears, at canonical temporal position $0$, memory scales with the amount of newly appearing content, not with its duration. 实验效果：作为推理期免训练方法，RECAP-Forcing 在多个强基线上一致提升了视觉质量与语义保真度，并优于既有的记忆方法。一分钟长视频的定性对比很直观：基线在「第二个主体入画」的场景里逐渐丢失内容身份并开始漂移退化——尾随的 SUV 化成尘土并出现复制、岩石人裂开并偏离路径；而 RECAP-Forcing 在保住主体身份与视觉一致性的同时没有牺牲运动幅度。记忆可视化图显示，被选中留存的 patch 确实集中在新出现的角色与新露出的区域上，说明新颖度判据按预期工作。 Qualitative results on four one-minute prompts. Across all scenes, the baseline loses subject identity, style, scale, or background consistency. In contrast, RECAP-Forcing preserves the subject(s) and the full scene throughout the minute. 批判点评：「按外观索引而非按时间索引」是今天三篇记忆论文里最简洁、也最容易迁移的一个想法——免训练、无新增参数、可直接挂在现有模型上，这类工作的实际影响力往往比需要重训的方案更大。「记忆增长应当与新内容量成正比、而非与视频长度成正比」这句话本身就值得记下来。需要打折扣的地方也很明确：一是判据完全依赖光流的新颖度，而光流在快速运镜、大面积遮挡、剧烈光照变化下本就不可靠，此时「新颖」可能只是估计误差，论文没有给出失效分析；二是留存策略只进不出，若视频里持续引入新内容，记忆库会单调膨胀，论文声称规模与新内容量成正比，但没有交代长时间运行下的上限与淘汰机制；三是三位作者仅在自选基线上做相对比较，缺少与本文另两篇（Ring Forcing / TetherMem）这类同期方案的直接对话，读者难以判断三条路线的相对优劣。 5. Magpie：引擎管规则生成模型只管画 Magpie: Real-Time World Renderer for Interactive Games | Mogo AI、南京大学、南安普顿大学 | arXiv:2608.27168 关键词：实时世界渲染,交互式游戏,生成式渲染,白盒画面,游戏引擎解耦,Mogo AI 前序问题：现代游戏开发重度依赖传统图形管线：建模、材质、动画、灯光、特效、运行时优化，每一环都要人力，导致美术资产昂贵、原型周期漫长。视频基础模型已经开始改变影视制作，但游戏和线性媒体有本质区别——游戏不只要求画面连续真实，还要求玩法规则、物体状态和交互结果稳定且可复现。换句话说，同样的操作与状态在指定规则下必须保持稳定的含义，这一点是纯生成式方案最难保证的：一旦让生成模型接管世界状态，规则就变得不可控、不可复现，游戏也就不成立了。 本文贡献：Magpie 的关键设计是把玩法执行与视觉生成彻底分开。设计师照常在游戏引擎里定义场景与规则；运行时，游戏引擎负责解算玩家操作、维护世界状态，并输出「白盒画面」（只有几何、布局、遮挡与主要运动的灰模渲染）；独立的 Render Server 再把白盒画面转成最终的高保真视觉，流式回传给客户端。初始化时用一段文本提示与首帧图像确定视觉风格，交互过程中白盒帧是唯一持续的去噪条件，相机位姿只用来检索相关的视觉历史。数据侧，作者在 Unreal Engine 里搭可控场景，由训练过的真人操作员而非脚本或自动智能体来玩，采集约 300 小时、30 多个场景的成对交互视频（1920×1080、60 FPS），并要求操作员刻意反复经过困难视角、交互边界、状态转换与静止间隔；除双路视频外还记录相机位姿、操作输入、碰撞、状态转换与事件信息，共享时间戳。 Magpie system overview. Designers define layouts, interactions, rules, and numerical parameters in the game engine. The User Client forwards player actions to the Game Engine, which executes gameplay and emits white-box observations. The independent Render Server converts those observations into generated video and streams the result back to the client. Gameplay state and rule execution remain inside the engine. 实验效果：Magpie 5B 的 Render Server 在单张 NVIDIA H100 上以块级自回归推理运行：每块含 5 个潜在帧，首块解码为 17 帧、后续每块 20 帧。作者提供的运行时时序图给出了完整的延迟构成——引擎录制约 830 毫秒（20 帧 / 24fps）、渲染约 620 毫秒，从用户输入到画面显示端到端约 1550 毫秒，块输出本身覆盖约 830 毫秒。系统层面，它保住了玩法的可设计性与可复现性，并降低了早期游戏原型对完整视觉资产的依赖。 Chunk-level interaction and rendering timeline. At 24 FPS, the Game Engine records 20 white-box frames in approximately 830 ms. After transfer, the Render Server generates the corresponding chunk in approximately 620 ms; transfer and buffering account for the short intervals between stages. The first action-aligned visual response therefore appears after roughly 1550 ms, while subsequent output chunks are displayed over approximately 830 ms. 批判点评：这篇的价值主要在系统架构而非模型创新，而它的克制恰恰是最值得学的地方——不追求端到端接管一切，而是承认「规则可复现」这条底线只有传统引擎守得住，把生成模型限定在渲染层。用真人操作员而非脚本采集数据、并刻意覆盖交互边界与困难视角，也是一个容易被忽视但对交互场景很关键的细节。不过必须实话实说：约 1550 毫秒的端到端延迟离真正可玩还有相当距离——它对回合制或慢节奏探索或许够用，但对任何需要即时反馈的玩法（动作、竞技）都不可接受，论文标题里的 real-time 更接近「流式」而非游戏工业界理解的实时。另外它是技术报告体裁，缺少与其他世界模型的量化横向对比，也没有交代白盒画面的抽象程度如何影响生成质量——白盒给得太粗，模型要猜的东西太多；给得太细，又回到了要做美术资产的老路，这个权衡点在哪，读者看不到答案。 6. SpatialCrafter：先出几何代理再补高频细节 SpatialCrafter: Single Image World Modeling with Generative 3D Proxies | 香港科技大学、阿里巴巴通义实验室、群核科技、吉林大学 | arXiv:2608.27073 关键词：单图场景生成,世界模型,3D代理,视频扩散,几何注入,港科大,通义 前序问题：从一张图生成可自由探索的三维场景，在游戏、机器人和 VR 里都是刚需。现有基于视频扩散模型的做法通常依赖不完整的条件信号——稀疏点云或二维全景图，由此带来三个连锁问题：模型要靠随机猜测填补缺失信息（幻觉）、长距离漫游时画面逐渐漂移、三维一致性不达标。根子在于条件信号本身没有提供完整可靠的几何约束，于是视频模型既要负责编造几何又要负责渲染外观，两件事互相干扰。 本文贡献：SpatialCrafter 引入一个全局 3D 代理，把生成过程拆成「代理生成」与「外观精修」两阶段。代理阶段用 Point-anchored Sparse Structure（PaSS）Flow 模块，从输入图与点云出发预测空间对齐、几何一致的稀疏体素结构，再经 SLAT 扩散得到粗糙 3D 场景。精修阶段把视频扩散模型重新定位为「生成式延迟渲染器」，只负责在代理给定的几何之上合成高频写实细节。为了让代理与预训练视频模型更好结合，作者提出 Parallel Geometry Injection（把粗糙 RGBD 视频经 VAE 编码后与噪声潜变量做宽度/通道拼接注入）和 Proxy-Aware Corruption 训练策略，提升对代理瑕疵的鲁棒性，同时避免破坏预训练的生成流形；视频 DiT 主体冻结、仅用 LoRA 微调。此外作者构建了 115K 场景的大规模数据集，称是首个面向图生场景任务的混合数据集。 Overview of SpatialCrafter. Given a single image and a camera trajectory, we first construct a global 3D proxy using a native 3D generator with Point-Anchored Sparse Structure (PaSS) Flow Matching. This proxy then serves as a reliable coarse 3D prior for the Generative Deferred Refiner, which transforms it into photorealistic RGB-D video sequences via Parallel Geometry Injection and Proxy-Aware Corruption. 实验效果：在 DL3DV 与 RE10K 等合成与真实数据集上，SpatialCrafter 大幅优于现有方法，消除了长程漂移，并在快速相机运动与极端视角变化下保持稳健一致。视觉质量以 FVD、PSNR、LPIPS、SSIM 对齐真值序列衡量，作者报告在三个基准上全面领先。定性对比图很能说明问题：同一输入下 Voyager 整体偏暗甚至近乎全黑、GEN3C 出现严重纹理糊化与结构错乱、ViewCrafter 把家具糊成一片，而 SpatialCrafter 的结果在几何结构与材质细节上都最接近 GT。 Qualitative comparison with SOTA methods. SpatialCrafter significantly surpasses the baseline methods under extreme challenging camera motions, yielding photorealistic and spatially consistent novel view synthesis. Please refer to the supplementary material for more comparison results. 批判点评：「先保几何、再补外观」的分工是这篇最扎实的判断——把视频扩散模型从「同时编造几何和外观」的双重负担里解放出来，长程漂移自然缓解，这与 Magpie 用白盒画面约束生成是同一个思路，可以看作今天的一条隐性共识。Proxy-Aware Corruption 这个细节也很实用：既然代理必然有瑕疵，训练时就主动注入瑕疵，比事后修补更合理。但要注意：一是整个链路的上限被第一阶段的代理质量锁死，稀疏体素代理在细长结构、透明与反射材质上先天薄弱，论文没有给出代理失败时的退化分析；二是两阶段串联意味着推理开销叠加，而论文对「可探索」这个卖点没有给出交互延迟或帧率数据，实际能否支撑实时漫游是未知的；三是 115K 场景数据集里合成数据占比与真实数据的配比没有充分交代，而「首个混合数据集」的说法需要这个信息才站得住。 7. LiveVVT：22.39FPS实时视频换装 LiveVVT: High-Fidelity Video Virtual Try-On in Real Time | 清华大学、中关村学院、华南理工大学、北京交通大学 | arXiv:2608.26714 关键词：视频虚拟试穿,流式扩散,滚动窗口,渐进蒸馏,全局外观记忆,清华 前序问题：基于扩散的视频虚拟试穿靠双向时空建模拿到了很高的视觉保真度，但代价是必须拿到完整片段才能推理，在需要持续输出的实际部署里延迟和算力开销都不可接受。直接把模型改成因果的又会破坏预训练的双向先验，画质明显下滑。于是形成一个两难：要画质就没法实时，要实时就保不住画质。此外流式场景还有长时程难题——服装细节和已穿着的整体外观必须在整段视频里稳定，不能越穿越走形。 本文贡献：LiveVVT 是一个滚动式流式扩散框架，在因果递归生成中保留有界的双向建模：在固定大小的窗口内，它对多个视频块联合去噪、只做有界的前瞻，从而保住局部双向交互，同时每次迭代吐出一个干净块。窗口之外用两套互补记忆维持长程一致性——有界的时间记忆负责传递近期动态与遮挡上下文（FIFO 队列，入新汰旧），持久的全局外观记忆只在开始时从目标服装与一张正面试穿关键帧构建一次，之后全程锚定服装细节与穿着后的整体外观。训练上采用三阶段渐进蒸馏：先做双向 VVT 学习，再用教师轨迹回归完成少步因果适配，最后用 Collaborative Matching Distillation 把教师分布匹配与真实视频上的滚动流匹配耦合起来，让优化目标与递归推理方式对齐。 Overview of LiveVVT. (a) Rolling streaming try-on emits one clean chunk per update from a staggered-noise window with persistent global appearance memory $\mathcal{A}=(\mathcal{A}_g,\mathcal{A}_f)$ and temporal memory $\mathcal{H}_k$. (b) Bidirectional VVT learning, teacher-trajectory regression, and CoMD progressively transfer offline bidirectional priors to few-step streaming generation. 实验效果：在成对与非成对的长序列基准上，LiveVVT 相比同规模模型取得更优的生成质量。效率对比图给出明确数字：LiveVVT 达到 22.39 FPS、单次更新延迟 1.56，而 MagicTryOn 为 1.97 FPS / 41.11、CatV2TON 1.69 FPS / 47.88、ViViD 1.44 FPS / 56.25、VACE 仅 0.31 FPS / 157.8；相对 MagicTryOn 吞吐提升 11.37 倍，延迟降低 26.35 倍。 Comparison of latency and throughput between LiveVVT and state-of-the-art methods. 批判点评：「有界窗口内保留双向性」是这类流式改造里比较务实的折中——完全因果化会丢掉预训练先验，完全双向又不能流式，在窗口内保留局部双向交互是个合理的中间态，这与今天 EditaLive 的思路高度一致，说明这已经成为流式视频生成的一种标准做法。把外观记忆做成「只构建一次、全程锚定」也很聪明：服装是整段视频里唯一恒定的东西，没必要反复重新编码。需要注意的是：一是效率数字来自作者自绘的对数坐标图且未标注硬件，22.39 FPS 是在什么分辨率、什么显卡上取得的并不清楚，与基线是否同配置也无从核对，这在以速度为主要卖点时是个明显缺口；二是「相比同规模模型更优」的措辞回避了与更大模型的直接比较；三是全局外观记忆依赖一张正面试穿关键帧，人物大幅转身、侧背面出现时服装的未见部分如何保持合理，论文没有给出针对性分析。 8. Self-OPD：去掉教师用自己分叉当监督 Self-OPD: On-Policy Distillation for Flow Matching Models without Teacher | 清华大学、浙江大学、阿里巴巴 | arXiv:2608.26872 关键词：on-policy蒸馏,流匹配,无教师,奖励对齐,多目标优化,阿里 前序问题：On-policy 蒸馏（OPD）靠一个预训练的专用教师提供稠密监督信号，在大语言模型上很成功，最近也被搬到流匹配模型上。但这套范式有两个明显负担：一是每换一个优化目标就得训一个对应的专用教师，算力成本高得离谱；二是教师与学生的分布存在差异，会让误差沿生成轨迹不断累积放大。也就是说，教师既贵又不完全可靠。 本文贡献：Self-OPD 是面向流匹配模型的无教师 OPD 框架，把学生自己的探索转化为逐步监督。在每个时间步，它把确定性的下一状态预测分叉成 K 条随机 SDE 候选，用 ODE 采样器把它们各自推演完，再拿各自的奖励与一个确定性的自参考基线比较，得到归一化后的优势。速度场用「全分支推拉」目标优化：高优势的分支吸引学生靠近，低优势的分支在方向感知衰减与 SDE 方差归一化下把学生推开。面对多目标对齐时，Self-OPD 在奖励层面融合归一化分数，从而避免不同目标的梯度直接冲突。 Self-OPD pipeline. Top: The student branches its prediction into $K$ SDE paths (blue), generates images via ODE rollouts (purple), and scores them ($r^+, r^{\mathrm{ref}}, r^-$). Bottom-left: Rewards define a self-referenced advantage $A_k$ that pulls toward high-reward velocities $v_+$ and pushes away from low-reward velocities $v_-$. Bottom-right: A direction-aware coefficient $d_k$ gates the push to prevent it from counteracting the pull, resulting in the multi-branch loss $\mathcal{L}_{\text{Self-OPD}}$. 实验效果：在单一奖励与混合奖励基准上，Self-OPD 均优于此前的强化学习与 OPD 方法，且不需要任何任务专用教师。作者提供的雷达图显示：单奖励设定下它在 GenEval（strict / cont.）、HPSv2、PickScore、OCR 五个维度上全面包住 SD3.5-Base、Flow-GRPO、GRPO-Guard、Flow-OPD（教师）与 DiffusionOPD（教师）；混合奖励设定下它在七个维度上整体领先，仅在 HPSv2(sep.) 与 PickScore(sep.) 两项上略逊于 DiffusionOPD 教师方案。 Overview of Self-OPD. 批判点评：去掉教师这件事的意义主要在成本结构上——「每个新目标都要训一个专用教师」本来就是 OPD 落地的最大阻碍，用学生自己的随机分叉构造对照来替代，方向是对的，也和 RubricRM 的「让评价适配输入」共享同一种去中心化思路。在奖励层面而非梯度层面融合多目标，回避梯度冲突，也是个干净的工程选择。但这套方法的天花板明显受奖励模型限制：所有监督信号都来自奖励打分，一旦奖励有偏，自我强化会把偏差放大，而论文正是用 HPSv2、PickScore、GenEval 这些奖励来训练又用它们来评测，存在自我印证的风险，缺少人类偏好评测作为独立校验。另外每步分叉 K 条候选并各自完整推演，训练开销不会低，作者虽给了 training_efficiency 图，但与「省掉训练教师」的成本节约究竟净赚多少，没有算总账。混合奖励下两项指标落后于教师方案，也说明无教师并非全面免费。 9. RubricRM：先给指令定评分表再打分 RubricRM: Generative Reward Modeling via Dynamic Rubrics for Image Generation and Editing | 北京大学、阿里巴巴、阿里巴巴达摩院 | arXiv:2608.26956 关键词：奖励模型,动态评分细则,文生图,图像编辑,GRPO,EMNLP2026,阿里 前序问题：奖励模型是对齐视觉生成模型的关键部件，但现有视觉奖励模型大多只输出一个标量分数，或者依赖一套固定评价标准。这在文生图和指令图像编辑上尤其不合适——不同输入需要的评价维度本来就不同：一句要求渲染文字的提示，该看的是文字准确度；一句要求改背景的编辑指令，该看的是主体是否被保住。用同一把尺子量所有任务，既损失可解释性，也丧失任务敏感性。 本文贡献：RubricRM 是一个成对生成式奖励建模框架，把打分拆成两步：先针对具体输入生成专属的评分细则（包含评价维度、各维度权重与打分标准），再依照该细则为候选图像打分。作者为文生图与图像编辑分别训练专用模型，采用两阶段流程：监督微调让模型学会「基于细则打分」这一范式，随后用 GRPO 配合细粒度的维度级奖励（同时考虑方向与绝对误差）进一步提升打分质量。训练数据覆盖常见物体、风格、构图、推理、文字、世界知识等广泛类别；作者还引入了饱和过滤，从其训练曲线看，不做过滤时奖励均值会崩塌、熵急剧下降、回复长度暴涨，加入过滤后三者都保持平稳。 Inference and training pipeline of RubricRM. (A) RubricRM supports both text-to-image and image-editing preference selection. At inference time, the model first dynamically generates a rubric conditioned on the input, including scoring criteria and corresponding weights, and then scores each image along each dimension based on the rubric, all within a single inference pass. (B) Training is conducted in two stages. The model is first supervised fine-tuned on synthesized rubric data to learn the paradigm of rubric generation followed by scoring, and is then further optimized with GRPO using dimension-level rewards.-0.6cm 实验效果：在多个生成与编辑基准上，RubricRM 优于既有的专用奖励模型，并且在骨干模型更小的情况下仍能与强闭源 MLLM 裁判保持竞争力。模型、数据与代码已开源。论文被 EMNLP 2026 主会接收。作者给出的数据分布显示，文生图侧覆盖常见物体 92.9%、风格 69.4%、构图与透视 52.2%、世界知识 15.8%、逻辑推理 9.0%、文字渲染 6.4%；编辑侧以物体编辑 45.9%、属性编辑 25.7%、背景编辑 18.1% 为主。 批判点评：「先定标准再打分」在思路上是对的——把评价标准从固定尺子变成随输入生成，同时顺带解决了可解释性（读者能看到每个维度的得分构成），这比单纯堆一个标量分数进步明显。用维度级奖励做 GRPO 而不是只用最终偏好，也让训练信号更稠密。但有几个隐忧：一是评分细则本身由模型生成，谁来保证细则的合理性？如果细则生成偏了，后续打分再精确也是错的，论文没有对细则质量做独立评估；二是这类框架天然存在自我一致性偏好的风险——用同一个骨干生成细则又用它打分，容易系统性偏爱某类图像；三是数据分布明显长尾，文字渲染仅 6.4%、逻辑推理 9.0%，而这两项恰恰是当前文生图最容易出错、最需要奖励模型把关的能力，覆盖如此之低，实际把关效果值得怀疑。作者的饱和过滤消融倒是很有说服力，可惜这类训练稳定性细节在正文里份量偏轻。 10. StreamAV-Bench：13个系统流式音视频集体翻车 StreamAV-Bench: A Comprehensive Benchmark for Streaming Audio-Video Generation | 北京智源研究院、北京大学、可灵、清华大学、中国科学技术大学 | arXiv:2608.26336 关键词：流式音视频生成,评测基准,长时程稳定性,交互响应,状态保持,智源,可灵 前序问题：生成模型正把视频生成推向无边界的流式音视频生成，用于实时交互世界。但现有基准评的都是「已完成的序列」，抓不住流式特有的性质——比如生成过程中能否持续响应新指令、长时间跑下去质量是否漂移、交互后的状态能否被后续保持和复用。缺了这类评测，流式音视频模型的真实短板就是不可见的。 本文贡献：StreamAV-Bench 是首个专门面向流式音视频生成的综合基准，建立了统一评测框架，分两条赛道：渐进赛道测指令遵循与长时程稳定性（单一提示，生成 60/120/180 秒，考察描述全局状态的能力）；交互赛道测交互响应与状态保持复用（初始提示 + 在 30/60/90/120/150 秒处陆续注入更新提示）。基准覆盖 32 个细粒度维度，含经专家验证的评测用例（渐进 160、专家验证 320、交互 160），在内容复杂度（实体/活动/音频复杂度）与更新复杂度（交互类型/更新模态/时间依赖）两轴上组织，场景-音频联合覆盖 8 个场景×5 个音频域，主体-风格 5 类×4 种视觉风格，并采用双人评审加裁决的流程保证质量。指标侧分渐进赛道（指令达成与漂移、质量漂移、音视频漂移、视觉一致性）、交互赛道（更新达成率、响应延迟、视听状态保持、历史依赖遵循）与共享指标（视觉/音频质量、跨模态对齐、原生边界连续性、FPS、首块时间）。 We present StreamAV-Bench, a comprehensive benchmark for streaming audio-video generation. (a) The benchmark includes a progressive track to assess instruction adherence and long-horizon stability, and an interactive track to measure interactive response alongside state retention and reuse. (b) The benchmark covers content complexity in both tracks and update complexity in the interactive track, with 320 expert-verified scenarios that span 8 scene domains, 5 audio domains, 5 subject categories, and 4 visual styles. (c) The evaluation is driven by a unified framework of 32 fine-grained dimensions, computed with expert models, MLLMs, and corresponding checklists. 实验效果：作者对 13 个代表性系统做了大规模评测，结论是当前模型普遍存在两类问题：渐进生成中出现时间漂移，交互控制时存在响应瓶颈。作者给出的失效分类图把问题拍得很清楚，共八类：指令漂移、质量退化、视觉不一致、音视频漂移、更新达成失败、基于提示的连续性失败、状态保持失败、历史复用失败——例如「一只灰猫」生成到后面变成暹罗猫，或指令要求关窗而输出毫无反应。时序演化曲线显示，视觉美学与视觉质量随时长（30→180 秒）单调下滑，而音频质量与音视频同步大致持平，说明退化主要发生在视觉侧。 Qualitative failure cases. Common failure modes in representative streaming generation models. 批判点评：评测类工作的价值取决于它能否暴露此前看不见的问题，这篇在这点上是合格的——八类失效模式的分类图信息密度很高，「视觉随时长单调退化、音频基本持平」这个观察也很有用，它提示流式生成的瓶颈主要在视觉侧而非音频侧，对后续研究是明确的指路。32 个维度加专家双评加裁决，工程量也扎实。但需要提醒：一是它与今天的 Ring Forcing、TetherMem、RECAP-Forcing 撞在同一天，而后三者解决的正是这里暴露的长时程漂移，遗憾的是本文的 13 个被测系统并未包含这些最新记忆方法，因此「普遍存在时间漂移」的结论可能已经部分过时；二是 32 个维度虽全面，但维度越多越容易稀释重点，论文没有交代哪些维度与人类整体观感相关性最高；三是渐进赛道最长只到 180 秒，而「无边界流式」的宣称需要更长时程才能验证，三分钟恐怕还不足以暴露真正的长程问题。 趋势观察 长视频记忆从「压缩历史」转向「给历史建索引」 — 今天有三篇同时冲向自回归长视频的记忆瓶颈，且给出了三种互不相同的索引方式：Ring Forcing 用环形训练强迫模型去远距离历史里检索，并给记忆配了稀疏 RoPE；TetherMem 按「查询是主体还是场景」分流，主体查身份记忆、场景查近期背景；RECAP-Forcing 干脆不按时间存，改按「外观是否新出现」存。共同前提是承认了一件事——固定注意力窗口下，决定成败的不是能塞多少历史，而是能否精准取回需要的那一条。值得注意的是三者都在弱化「时间近＝更重要」这个默认假设。 少步蒸馏正在从「加速技巧」变成流式产品的入场券 — EditaLive 把编辑模型压到两步采样、LiveVVT 做三阶段渐进蒸馏并配 Collaborative Matching Distillation，两者的动机都不是刷速度榜，而是「不做到实时这个功能就不成立」——直播换装、直播换脸本质上不允许离线多步推理。它们也都撞上同一个矛盾：强行改成因果会破坏预训练的双向先验、画质掉档，于是解法趋同——在有界窗口内保留局部双向性，再用蒸馏把训练与流式推理对齐。 生成模型开始被当作「渲染器」嵌进既有工业管线 — Magpie 的做法很克制也很务实：不让生成模型接管游戏逻辑，而是把玩法执行留在游戏引擎里，引擎只输出白盒画面，再由独立 Render Server 生成最终视觉。这保住了游戏最不能丢的东西——规则可复现、状态可控。SpatialCrafter 也是类似思路，先出一个几何正确的 3D proxy，再让视频扩散模型只负责补高频细节。两者都在退一步：不追求端到端全能，而是把生成模型放在「渲染」这一层，让可控性由传统方法兜底。 后训练开始摆脱对「更强教师」的依赖 — Self-OPD 把 on-policy 蒸馏里的教师直接去掉，让模型自己分叉出 K 条 SDE 候选、用奖励算优势来自我监督；RubricRM 则让奖励模型先针对当前指令生成评分细则再打分，而不是套一把固定尺子。方向是一致的：监督信号从「外部权威给答案」转向「模型自己产生可比较的对照」。这条路的隐患也明显——自我对照的天花板受限于奖励模型本身的判别力，一旦奖励有偏，自我强化会把偏差放大。 人工智能炼丹君 整理 | 2026-08-29 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-08-28|京东JoyAI-Echo-1.5给长视频装上跨镜头记忆 今日 AIGC 论文速览 今日共 10 篇 · 视频生成与世界模型 2 篇 · 视频编辑与剪辑规划 2 篇 · 自回归图像生成加速 1 篇 · 3D 资产纹理与物理化 2 篇 · 数字人与语音交互 2 篇 · 评测与度量审计 1 篇 重点论文标题列表 JoyAI-Echo-1.5（京东 Joy Future Academy）：跨镜头记忆守住身份与音色 4DStreamCtrl（北京大学、腾讯混元）：单卡 480p 20FPS 交互式 4D 控制 RefVideo-6M（中国电信 TeleAI、香港中文大学、中山大学、复旦大学、清华大学）：600 万参考式编辑对反转构造 MTAR（佛山大学、香港大学、中山大学）：训练时间砍 76% 推理零开销 RefineCut（香港中文大学（深圳）、vivo AI Lab、中国科学院大学、东南大学、北京大学）：8B 开源规划器闭环出剪辑时间线 今日论文速览 1. JoyAI-Echo-1.5：跨镜头记忆守住身份与音色 Long-Horizon Audio-Visual Generation for Persistent Stories and Interactive Worlds | 京东 Joy Future Academy | arXiv:2608.23383 关键词：长视频生成,音视频联合生成,跨镜头记忆,世界模型,少步因果蒸馏,分离RoPE,京东 前序问题：视频生成正在从「几秒一个孤立片段」走向「长篇叙事」和「可进入的交互世界」，但这一步跨过去要同时满足三个互相拉扯的要求：跨越多个镜头保持人物长相和声音不漂移、持续响应用户的控制输入、以及在长时间 rollout 中不崩坏。已有做法各有短板——纯靠拉长注意力窗口的方案显存和算力随长度爆炸；单纯依赖首帧条件的方案在第二个镜头之后身份就开始跑偏；世界模型类方案能响应导航输入，却往往把控制信号编码成与几何脱节的抽象向量，导致视角变化不符合真实相机运动。更棘手的是音频：语音身份（音色）与画面身份必须同步维持，而长序列里音画一致性的退化通常比画面本身更早被听出来。 本文贡献：JoyAI-Echo-1.5 是一套统一的音视频生成系统，做成两个针对性变体，共享同一套记忆条件化设计。长视频变体的核心是可组合的跨镜头记忆：从多个此前镜头聚合视觉证据（单帧视觉记忆），同时从「语音过滤后的整镜头音频」中提取说话人线索（音频记忆），两类记忆与文本、图像条件可以任意组合。关键设计是分离的 RoPE 坐标——记忆条目不与当前生成窗口共用位置编码，而是各自分配独立的坐标基点（μ 依次取 500/550/600 且 σ=0），从而让模型把记忆当作「可检索的外部条目」而非「更长的上下文」。世界模型变体则把异构导航输入（键盘、轨迹等）统一换算为标定过的 6-DoF 公制相机轨迹，经几何感知的条件通路注入，使控制与操作设备无关。为支撑长时程效率，作者把双向音视频骨干改造成因果少步生成器：先用渐进 teacher forcing，再在自生成 rollout 上做短时程与长时程的 Self-Gradient Forcing；蒸馏侧采用音视频联合 DMD，视频分支全量微调、音频分支走 LoRA 的非对称优化，并给音频额外加 patch 判别器与 latent RMS 能量匹配做稳定化。 Overview of memory-conditioned long-form generation and few-step acceleration in JoyAI-Echo-1.5. 实验效果：长视频设定下，JoyAI-Echo-1.5 在跨镜头一致性、视觉质量、文本对齐与语音保真度四项上均优于既有长视频基线；与自家 1.0 版本的同故事对比可以看到人物长相在第 0/5/10/15/20/23 镜头间明显更稳。世界模型变体在 WBench 上取得平均 81.7 分排名第一，并在 SANA-WM-Bench 上拿到领先的视觉质量与长时程持久性。作者还展示了在 Director Agent 编排下生成 10 分钟连续音视频叙事的案例。代码与项目页已开源（jd-opensource/JoyAI-Echo）。 Qualitative comparison between JoyAI-Echo-1.5 and JoyAI-Echo-1.0 under the same long-form story. Frames sampled from temporally separated shots demonstrate the improved character consistency, scene stability, and visual rendering of JoyAI-Echo-1.5. 批判点评：这是今天最有系统完成度的一篇，把记忆、几何控制、rollout 感知训练三件事拧成了一条可交付的产线，「记忆用独立 RoPE 坐标编址」这个设计尤其值得借鉴——它把长时程一致性从算力问题重新定义成检索问题。但要清醒看待几点：一是作者自己的对比图（v1 vs v1.5）虽然显示身份更稳，但这是自家版本迭代的自证，跨镜头一致性缺少与外部强基线在同一故事下的逐镜头量化；二是 WBench 81.7 的第一名含金量取决于该榜单的竞争密度与提交时间窗口，且世界模型变体与长视频变体是两套权重，「统一系统」在部署时实际是双栈；三是 10 分钟叙事依赖 Director Agent 做镜头编排，这层是外部 agent 而非模型内生能力，把它算作模型的长时程能力会高估；四是音频分支只用 LoRA 而视频全量微调，这个非对称选择在论文里更多是稳定性权衡的结果，音频质量上限是否被 LoRA 限制没有充分消融。 2. 4DStreamCtrl：单卡 480p 20FPS 交互式 4D 控制 4DStreamCtrl: Interactive Video Generation with Online 4D Control | 北京大学、腾讯混元 | arXiv:2608.25479 关键词：视频生成,4D控制,3D point track,流式生成,因果蒸馏,相机控制,北大腾讯混元 前序问题：生成视频已经足够逼真，但要真正当成交互工具用，必须能精细指定「物体和相机随时间怎么动」——而现有方法各自只覆盖一角：相机参数类方法能调视角但搬不动物体；2D 轨迹类方法在图像平面上操作，忽略深度与遮挡，导致物体沿轨迹移动时尺度和前后关系失真；近期的 3D 方法补上了几何，却只能离线跑且视频长度固定。换句话说，没有一种方法同时做到「相机与物体都是 3D 一致可控」加「实时流式生成」。这两个要求还互相冲突：3D 一致性通常需要全序列联合优化，而流式生成要求因果、恒定显存。 本文贡献：作者的核心主张是：相机运动、物体轨迹、深度这三件事可以统一进单一的 3D point track 表征，一个模型在一次前向里就能同时做相机与物体的联合控制、深度编辑和运动迁移。为了规模化学到这个接口，他们从野外视频挖掘 3D 运动监督，构建 OpenVidHD-Motion3D 数据集，并用一个轻量的 Geometric Motion Head 把 3D tracks 与文本编码为 2D 与深度运动特征，与含噪 latent 融合后送入带 3D RoPE 的 DiT，再解码成视频——这个编码器插在预训练视频扩散模型上，不需要重训骨干。关键一步在于这个编码器是时序可分离的，因此可以把模型蒸馏成因果流式学生：生成任意长视频只需四步去噪，且显存与长度无关。 Overview of 4DStreamCtrl capabilities. (a) Motion transfer. Given a source video, we extract decomposed 4D representations of camera motion, human motion, and background structure, which transfer to a new scene via image style transfer while preserving the original motion. 实验效果：统一设计在运动控制精度上超过此前的相机专用、2D 轨迹和离线 3D 方法，同时覆盖了它们各自孤立支持的模态。4DStreamCtrl 在单张高端 GPU 上以 20 FPS 生成 480p 视频，在数百帧尺度上保持时序连贯，作者称这是首次实现交互式 4D 可控流式生成。控制点数量消融显示质量在训练时使用的 256 条 track 处达到峰值（PSNR 18.27、SSIM 0.64、LPIPS 0.23），点数过少（16）或过多（1024）都会明显掉点。 Effect of the number of control points on student model generation. PSNR, SSIM, LPIPS, and EPE as the inference-time track count varies from 16 to 1024. Quality peaks at the training count of 256. 批判点评：把相机、物体、深度三种控制统一到 point track 这一个表征上，是这篇最漂亮的地方——它让「一次前向多种控制」成为可能，而不是堆三个适配器。工程指标也扎实：单卡 20 FPS 加长度无关显存，确实够得上交互门槛。需要注意的是：一是 point track 的质量完全依赖上游 3D 追踪器，野外视频挖掘出的监督在遮挡、快速运动、低纹理场景下必然带噪，论文没有量化追踪误差如何传导到控制精度；二是 track 数量的敏感性不小（1024 点时 PSNR 从 18.27 掉回 16.21），说明模型对推理期配置的鲁棒性有限，实际部署需要把点数锁在训练值附近，这对「艺术家自由指定轨迹」的宣称是个约束；三是作者自己的失败案例图承认长时程下小人脸与背景物体会逐渐模糊、并出现因果不一致的交互（蛋糕莫名缺一块），说明四步因果学生在细节保真上仍有代价；四是 480p 分辨率对「交互式创作工具」偏低，抬到 720p/1080p 后 20 FPS 能否维持是未知数。 3. RefVideo-6M：600 万参考式编辑对反转构造 RefVideo-6M: A Reliable Reference-Based Dataset for Instructional Video Editing | 中国电信 TeleAI、香港中文大学、中山大学、复旦大学、清华大学 | arXiv:2608.26101 关键词：视频编辑,参考式编辑,数据集,Mixture-of-Tokens,指令编辑,TeleAI,中国电信 前序问题：指令式视频编辑这两年的进展主要靠大规模数据集推动，但现有数据集有两个硬伤。第一是「目标视频本身是生成的」：多数数据集的编辑后视频由自动编辑模型产出，本身就带伪影和瑕疵，拿它当监督信号等于教学生模仿一个不合格的老师，误差会被继承甚至放大。第二是「只有文字没有参考图」：大部分公开数据集依赖纯文本指令，而真实的精确编辑往往需要视觉参考——要把这件衣服换成那件、把人脸保持成这个身份、把材质换成这块纹理，光靠文字描述无法唯一确定目标，也无法保持身份一致。 本文贡献：RefVideo-6M 用一个反转技巧同时解决这两个问题：把无伪影的真实视频当作编辑「目标」，再用多个编辑专家反向生成质量筛选过的「输入」条件——也就是把原视频与编辑后视频的角色对调，从而保证监督端永远是真实画面。数据规模为 500 万视频编辑样本加 100 万图像编辑样本，覆盖 26 类视频编辑任务与 6 类图像编辑任务，并提供约 600 万个视觉参考，参考类型相当多样：圈选、边界框、光照方向、外扩掩码、背景图、风格、纹理、物体、人物、服装。构造管线除了八个开源专家外，作者还自训了四个专家来补覆盖。配套模型 RefMoT 采用 Mixture-of-Tokens 设计来高效吸收参考信息：视频/参考/文本/条件文本四路 token 各有独立的 QKV 投影与 FFN，但共享 AdaLN 与注意力，并用结构化掩码控制哪几路可以互相看见，从而在降低训练成本的同时提升参考引导编辑质量。 Overview of RefMoT. RefMoT adopts a Mixture-of-Tokens design to efficiently incorporate reference information, reducing training cost while improving reference-guided editing quality and preserving strong generalization. 实验效果：数据集覆盖 26 个视频编辑任务与 6 个图像编辑任务，视频长度以 81 帧和 129 帧两档为主，任务分布上物体添加/移除/换色/重纹理等局部编辑占主体。作者提供了有参考与无参考两种设定下的用户研究界面与对比，RefMoT 在参考引导编辑质量与泛化性上均有提升，同时训练成本低于将参考直接拼接进序列的朴素做法。 Statistics of RefVideo-6M. The dataset includes 26 editing tasks and 6 image editing tasks. 批判点评：「把真实视频当目标、反向合成输入」这个反转思路是本篇最有价值的部分，它绕开了「用生成数据训生成模型」的误差累积陷阱，思路干净且可复用到图像编辑之外的领域。RefMoT 的 Mixture-of-Tokens 也是务实设计——共享注意力省算力、独立 FFN 保模态特性。但几点必须打问号：一是反转策略只对「可逆」任务成立，物体移除反转成物体添加是自然的，但风格迁移、重打光这类反转后语义并不对称的任务，输入条件的真实性依然依赖那 12 个专家的质量，论文没有按任务类型拆开报告数据可靠性；二是「600 万参考」的口径包含圈选、边界框这类几何提示，与真正的图像参考混在一个数字里，容易高估视觉参考的规模；三是评测以用户研究为主，缺少在公开视频编辑基准上与其他数据集训练的同架构模型做控制变量对比，「数据集更好」的结论强度受限；四是 81/129 帧的长度上限意味着这套数据对长视频编辑基本无覆盖。 4. MTAR：训练时间砍 76% 推理零开销 Efficient Training with Foresight: Multi-Token Auxiliary Supervision for Autoregressive Image Generation | 佛山大学、香港大学、中山大学 | arXiv:2608.25386 关键词：自回归图像生成,多token预测,训练加速,对比正则,语义丢弃,DINOv3,ACM MM 2026 前序问题：自回归图像生成把图像当作离散 token 序列建模，扩展性好、保真度高，但传统的 next-token prediction（NTP）有三个连在一起的毛病：监督稀疏且近视——每步只预测紧邻的下一个 token，模型学不到稍远处的结构；表征区分度不足——采样得到的 token 表示彼此不够可分；训练成本高——必须在完整 token 序列上做密集计算，而图像 token 里有大量低信息量的背景与平坦区域，这些位置消耗了同等算力却贡献很少学习信号。已有加速手段多数动的是推理侧或架构，训练阶段「每一步梯度携带多少信息」这个维度反而少有人碰。 本文贡献：MTAR 是个纯训练期框架，三个组件全部只在训练时生效、推理时零额外开销。一是多 token 预测（MTP）：在原有 NTP 头之外再加一个 MTP 头，对「当前 token 正下方」的 token 提供辅助监督，把稀疏近视的信号加密成对多个未来 token 的联合监督（论文记作 MTP(R₁,B) 配置）。二是 token 级对比正则（TCR）：对采样到的 token 表示走共享权重的 MLP 得到相似度矩阵，同类拉近异类推远，显式提升表征可分性。三是语义丢弃（SD）：用 DINOv3 为每张图提取 token 重要度图，丢掉低重要度 token 只保留语义显著的位置参与训练，保留 token 沿用其原始空间索引以免位置信息错乱——作者还对比了 SigLIP2，发现 DINOv3 的重要度图在 50% 保留率下更好地保住了 VQ 解码后的结构。 Overview of the proposed framework. (a) Overall framework under the MTP (R$_1$, B) setting: besides the original NTP (R$_1$) head, an additional MTP head is introduced to provide auxiliary supervision for the token directly below the current token. (b) TCR: Sampled token representations are projected by a shared MLP to compute a similarity matrix. 实验效果：在 ImageNet 上，相比 LlamaGen，MTAR 拿到最多 0.95 更低的 FID 与 39% 更快的训练；而在总量口径上（LlamaGen 训练 300 epoch，MTAR 只训 100 epoch），Base 模型训练时间从 115 小时降到 30 小时（降 74%）、显存从 45 GiB 降到 31 GiB（降 30%），Large 模型从 175 小时降到 42 小时（降 76%）、显存从 97 GiB 降到 73 GiB（降 25%）。即使只用 1/3 的训练迭代数，性能仍与基线相当或更好。 Comparison of total training time (hours) and total GPU memory usage across all training GPUs between LlamaGen and MTAR for the Base and Large models, along with the corresponding FID values. LlamaGen is trained for 300 epochs, whereas MTAR is trained for only 100 epochs. 批判点评：这篇的价值在于把优化战场从推理侧挪回训练侧，且三个组件都不污染推理路径——对工程落地非常友好，尤其 SD 用现成视觉基座的重要度图来分配算力，思路简单但有效。但读数字时必须小心口径：论文摘要里的「39% faster」与配图里的「降 74~76%」不是一回事，后者把 epoch 数从 300 砍到 100 一起算进去了，等于把「收敛更快」和「单步更省」混在同一个百分比里；如果只看同迭代数，真实加速是 39%。其次，MTP 只对「正下方」一个 token 加监督，比语言模型里成熟的多 token 预测要保守得多，为什么选这个方向、能否推广到更远距离缺少系统消融。第三，SD 引入了对 DINOv3 的外部依赖，重要度图的偏好会隐式塑造生成分布（比如系统性弱化背景细节），这个副作用没有被评估。最后，实验规模停在 ImageNet 256×256 与 LlamaGen Base/Large，能否在更大规模或文本条件生成上复现，仍是开放问题。 5. RefineCut：8B 开源规划器闭环出剪辑时间线 Plans You Can Check: Verifier-Grounded Learning of an Open-Weight Planner for Executable Video-Editing | 香港中文大学（深圳）、vivo AI Lab、中国科学院大学、东南大学、北京大学 | arXiv:2608.25622 关键词：视频剪辑规划,可执行时间线,验证器,开源规划器,DPO,EMNLP 2026,vivo 前序问题：实际的视频剪辑远不只是像素生成：剪辑师要把一份创作 brief、一个素材池、音乐元数据和一堆硬性约束，转成一条可执行的时间线——选哪些片段、怎么裁、怎么排、用什么转场、总时长和音乐怎么对齐。这个「决策层」此前基本被忽略，或者被简单包装成「给前沿大模型套个 workflow」的做法。这条路有三个问题：规划过程隐式不可复现、生成的方案无法被机器验证、也没法拿来训练自己的模型。更麻烦的是这个任务没有唯一正确答案——同一个 brief 有很多种合理剪法，所以直接模仿老师的输出并不合适。 本文贡献：RefineCut 把这件事定义为「可执行视频剪辑规划」，并训练一个紧凑的开源权重规划器而非包装前沿模型。规划器通过结构化补丁（patch）编辑一条带类型的时间线，覆盖片段选择、裁剪、排序、转场、时长与音乐对齐；每个补丁由一个确定性验证器实际应用并对照显式的约束账本（constraint ledger）逐条检查。因为不存在唯一正解，训练不直接模仿老师：作者把每个多老师分支都通过验证器重放一遍，只保留「验证器认为最好」的修复作为监督（verified SFT）。第二阶段 RefineCut-Evo 让学生用验证器加任务评分表给自己的修复打分，挑高边际的偏好对做 DPO 训练。最终这个 8B 规划器在推理时完全跑在闭合验证器回路里，不再需要调用任何老师模型。 Overview of RefineCut. Verifier replay and self-improvement turns noisy trajectories into an evolved planner. 实验效果：论文构建了 RefineCut-Bench（3578 条任务）用于评测。系统的实际形态是一个闭环编辑 agent：维护时间线状态与约束账本（时长边界、转场规则、步数预算 ≤3、禁用项、风格一致性），规划器输出 RefinePatch，验证后重算状态并接受或拒绝，循环不超过 3 次，最终产出可执行的 final_plan.json。作者用 GPT-5.4、DeepSeek-V4-Pro、Qwen3-Max 作为多老师来源，并明确展示了「老师选择 ≠ 验证器最优」的错配现象，这正是 verified SFT 的动机。 RefineCut learns an open-weight planning layer that turns editing intent into executable edit plans. 批判点评：把「剪辑决策」从像素生成里剥出来单独建模，并且用确定性验证器做监督筛选，这个问题定义本身就是贡献——它让一个原本靠 prompt 碰运气的环节变得可复现、可验证、可训练，「老师选择 ≠ 验证器最优」的观察也很有说服力。8B 能本地跑、推理期不依赖老师，对产品化是实打实的好处。但天花板明显被验证器框住了：验证器只能检查可形式化的约束（时长、转场规则、禁用项），而剪辑质量里最关键的节奏感、情绪曲线、镜头语言恰恰无法写成账本条目——所以「verifier-best」未必等于「人觉得好」，论文若没有充分的人工偏好评测，这个 gap 就是悬着的。其次多老师全是闭源前沿模型，数据构造成本与可复现性受制于这些 API，且学生的能力上限被老师分布圈定。第三，步数预算 ≤3 是个相当紧的约束，复杂 brief 下是否够用没有讨论。最后 RefineCut-Bench 由作者自建，缺少第三方基准交叉验证。 6. GLOSS：单形状自监督纹理刷进 Blender GLOSS: Geometric Local Self-Similarity Learning for Faithful Reference-Guided Texture Fill | NVIDIA、普林斯顿大学、多伦多大学 | arXiv:2608.25461 关键词：3D纹理生成,参考引导,几何自相似,PBR材质,Blender插件,SIGGRAPH Asia,NVIDIA 前序问题：纹理艺术家想为一个已有 3D 形状快速试多种外观，条件图像生成本来很合适，但当前最强的方法仍有两个缺口。一是保真度：生成整个物体纹理时很难同时贴合精细几何细节和单视图参考，留给艺术家引导的空间很小——模型倾向于按自己的全局理解重画，而不是老老实实跟随参考。二是灵活性：现有自动模型多数是「给个全局提示、一键出整体纹理」，艺术家无法从不同来源交互式、可控地探索多种纹理组合。这类方法通常还要在大规模 3D 数据集上训练，数据门槛高。 本文贡献：GLOSS 走了一条反直觉的路线：不追求在大 3D 数据集上学通用先验，而是针对单个 3D 形状训练一个「形状专属」的局部纹理生成与补全模型，利用自然与人造形状中普遍存在的几何自相似性以及几何-纹理相关性。具体做法是在该未贴图形状的大量单视图生成图像上训练网络，让它学会通过关注局部几何（比如鳞片走向）来为局部区域上色，并忠实跟随作为条件的纹理参考块。训练完成后，任何新参考都能通过逐块 inpainting 迁移成整个目标物体的纹理。作者还展示了批量多注意力可视化，说明目标图像中心 patch 如何跨批次关注参考图像的各个 patch。 We train a GLOSS network on many single-view generated images of one untextured 3D shape (left), allowing it to learn how to texture local shape regions by attending to local geometry (such as scales) and faithfully following conditional texture patches. 实验效果：质量上达到或优于强图像条件纹理生成基线，同时额外支持局部几何条件下的纹理修补（由艺术家挑选参考引导），并可泛化到 PBR 材质与未见网格做纹理迁移。作者把这个纹理填充能力做成 Blender 插件，与若干 3D 纹理专业人士做了试点，对模型的可控性、实用性与创作启发性反馈积极。论文也诚实给出失败案例：语义纹理错配，以及几何与纹理相关性低时的失效。 Data and Training: we use off-the-shelf models to generate training data for our local texture inpainting model. Steps A to F show the patch data generation pipeline. 批判点评：「per-shape 专属模型」这个取向很有意思——放弃泛化换取对单个资产的极致保真与可控，正好命中艺术家工作流里「这一个模型要做到位」的真实需求，而且大幅降低了数据门槛。做成 Blender 插件并请真实从业者试用，这种落地闭环在学术论文里不多见，值得加分。但代价也很直白：每换一个形状就要重新训练一个网络，论文摘要没有给出单形状训练耗时，这直接决定它是「可用工具」还是「demo」；如果一个资产要等数小时，交互式探索的价值就被抵消了。其次「几何自相似性」这个前提有明确适用边界——鳞片、砖墙、织物这类重复结构受益明显，而光滑无特征或语义强依赖（比如人脸、品牌标识）的表面会退化，作者的失败案例也承认了几何-纹理相关性低时失效。第三，专业人士试点是小样本主观反馈，缺少与现有商业工具的定量对照。最后，作者之一因会议地点原因撤出 SIGGRAPH Asia 2026 发表，属论文外信息，但说明该工作原定投向图形学顶会。 7. Gen2Physics：材质分割 mIoU 15.6 涨到 48.3 Gen2Physics: Grounding Generated 3D Meshes in Physics via Multi-View Material Decomposition | Google DeepMind、Google Research、布里斯托大学 | arXiv:2608.23869 关键词：3D生成,物理仿真,材质分解,多视图一致性,VLM精修,水密子网格,Google DeepMind 前序问题：生成式模型现在能产出高保真 3D 网格，但这些输出缺少交互仿真、游戏和机器人所需的物理属性——它们只是「看起来对」的壳，没有材质、密度、内部结构信息，扔进物理引擎里行为完全不对。此前的物理化工作大多针对体素或神经场等体表征，与标准物理引擎不兼容，需要额外转换；而且它们通常把整个网格当作单一均质物体处理，一把钳子的金属头和塑料柄被赋予同一个密度，自由落体和碰撞行为自然失真。 本文贡献：Gen2Physics 是一套统一自动的框架，直接在网格上操作以产出可立即仿真的资产。管线三段：先用微调过的 Vision Transformer（论文亦称 DPT）在多视图 2D 渲染上做稠密材质分割；再做稳健的 2D-to-3D 一致性投影——把资产每个面投影到各渲染视图上并考虑遮挡，按跨视图投票为每个面指定材质标签，从而把噪声大、视图间不一致的 2D 掩码聚合成一致的 3D 材质图；最后由视觉语言模型（VLM）引导精修，利用上下文推理分配物理属性并推断内部几何（实心还是空心）。通过把表面 patch 转成带不同密度的体，该方法让物理上合理的动力学仿真成为可能，并输出每种材质各自水密的子网格。作者同时构建了 PartNet-Material 数据集，通过人工为资产每个部件指定材质标签得到稠密分割掩码。 Process of our 2D-to-3D consistency projection. A fine-tuned ViT predicts material segmentation masks, which are possibly noisy and not consistent across views. We project each face of our asset onto the rendered views, taking into account occlusions. For each face, we assign a label corresponding to the cross-view vote. 实验效果：在 ABO-500 与 PartNet-Material 两个基准上，Gen2Physics 把此前物理化管线的材质分割精度提升一倍多（mIoU 从 15.6 提到 48.3），同时在质量估计精度上与体表征方法持平，并且是唯一能输出「每材质水密子网格」的方法。定性对比中可以看到 NeRF2Physics 与 PUGS 的材质分割碎片化严重（椅子、水壶、钳子上出现大片错误标签），而 Gen2Physics 的结果与人工标注的 GT 分割高度接近。 We compare Gen2Physics (Ours), NeRF2Physics, and PUGS on a material identification task. The visualizations show that the 2D-to-3D consistency projection and VLM refinement proposed in Gen2Physics ensure more coherent and accurate material segmentations. In contrast, NeRF2Physics and PUGS produce fragmented predictions. 批判点评：选题很实用：生成 3D 的下一个瓶颈确实是「能不能进引擎」，而不是「像不像」。直接在网格上做、输出每材质水密子网格这两个工程决策，让结果可以无缝喂给标准物理引擎，比一堆需要转换的体方法更贴近生产。mIoU 从 15.6 翻到 48.3 的幅度很大，定性图上与 GT 的接近程度也支持这个数字。但必须看清基线的起点极低——15.6 mIoU 本身已经接近不可用，翻一倍后的 48.3 也谈不上可靠，意味着仍有过半的面材质判错，直接用于精密仿真风险不小。其次「实心还是空心」由 VLM 上下文推理给出，这是一个没有视觉证据支撑的猜测（外观看不出内部），论文若未单独评估这一项的准确率，那么质量估计「持平体方法」的结论可能建立在互相抵消的误差上。第三，材质类别只覆盖木/金属/织物/玻璃/塑料/皮革/橡胶七类，复合材质、涂层、透明件这些真实资产里的常见情况无法表达。最后 PartNet-Material 是作者自建且人工标注，规模与标注一致性未披露。 8. Super Star：只用已生成语音在线出手势 Super Star: Towards Streaming Real-time Interactive Agents for Digital Humans | 上海科技大学、腾讯光子工作室（LIGHTSPEED） | arXiv:2608.24909 关键词：数字人,协同语音手势,流式生成,因果自回归,自演化数据,ACM MM 2026,腾讯光子 前序问题：协同语音手势生成（co-speech gesture）此前几乎都在离线设定下研究：拿到一整段完整语音，再合成配套手势。但真实场景里的交互式数字人必须在线生成——只能用当前已经产生的回复音频，还要满足严格的延迟约束。这让已有方法直接失效，因为它们要么依赖未来语音信息（离线双向建模），要么推理延迟太大。这是个结构性错配，不是调参能解决的：一旦不能看未来，手势与语音的同步就要靠因果预测完成，而手势的自然度恰恰很依赖对整句韵律的预判。 本文贡献：作者形式化了「面向交互式数字人的在线协同语音手势生成」这一任务，并提出一个实时交互框架，把流式语音回复模块与在线手势生成模块耦合起来。手势生成器设计为因果多模态自回归模型，从流式回复语音与运动历史预测身体动作，因此无需访问未来语音即可做到低延迟、语音对齐的手势合成——具体结构上，Omni 模型接收用户音频/查询文本/第一视角视觉，输出文本-音频 token 流，经流式 coder decoder 后与组合式身体 token 一起进入若干层因果自注意力加带音频注意力掩码的多头交叉注意力，最后由 motion decoder 输出动作。为支撑这个设定，作者还设计了面向虚拟陪伴场景的离线数据合成管线：用话题与情绪感知的主体语料库构造多样的人机对话，再针对 agent 回复生成协同语音手势（用到 TTS、动作捕捉与音色克隆，16 台相机加 50 个标记点）。为弥合离线构造与在线部署的差距，他们建立自演化训练回路，把线上交互中收集的用户反馈重新灌回数据生成流程，实现对用户偏好的持续适配。 Overview of Super Star. (a) Offline interactive data synthesis and self-evolving loop pipeline for constructing virtual-companion-oriented training data that continuously adapts to user preferences. (b) Online real-time interaction pipeline, where a streaming speech response module is coupled with an online gesture generator. 实验效果：实验显示该框架在延迟-质量权衡上更优，语音-动作同步性更强，用户偏好度高于有竞争力的既有基线。定性对比中，给定同一段流式回复语音，该方法比基线反应更及时、手势更自然同步。论文被 ACM Multimedia 2026 接收。 Qualitative comparison of online co-speech gesture generation. Given the same streaming response speech, our method reacts more promptly and generates more natural and synchronized gestures than existing baselines. 批判点评：把任务从离线搬到在线并明确「不能看未来语音」这个约束，是这篇的主要贡献——它承认了产品场景的真实限制，而不是在离线设定里继续刷指标。自演化回路（线上反馈回灌数据生成）也是个务实的工程闭环，配合腾讯光子的背景，看得出是冲着实际数字人产品去的。但论文的量化披露偏弱：摘要通篇是「更优」「更强」「更高」，没有给出延迟的毫秒数、同步性指标的具体数值，而延迟恰恰是这个任务的核心卖点，缺了数字就无法判断是否真达到交互门槛。其次训练数据完全由自建管线合成（LLM 造对话 + TTS + 音色克隆 + 动捕），合成数据的分布偏差会直接塑造手势风格，且「虚拟陪伴」场景的定向语料使结论难以外推到其他交互类型。第三，自演化回路依赖线上用户反馈，存在偏好漂移与正反馈放大的风险，论文未讨论如何防止手势风格被少数活跃用户带偏。最后，评测以用户研究为主，缺少与工业级数字人系统的端到端延迟对照。 9. CSAVocoder：因果流式空间音频恒定显存 CSAVocoder: A Causal Spatial Audio Vocoder Towards Real-Time Spatial Audio Generation | 浙江大学 | arXiv:2608.25404 关键词：空间音频,声码器,因果流式,GAN,通道间线索,实时生成,浙江大学 前序问题：空间音频声码器负责把生成模型产出的梅尔谱转成空间音频波形，是沉浸式内容链路的最后一环。问题是绝大多数神经声码器是为单声道设计的，直接扩展到空间音频会损害空间质量——因为它们逐通道独立重建，完全忽略了通道间线索（inter-channel cues），而人耳判断声源方位恰恰依赖左右耳的时间差与强度差。此外实时应用还要求严格因果与恒定显存，这与常见的非因果、看全局上下文的声码器架构直接冲突。 本文贡献：CSAVocoder 是一个因果的 GAN 空间音频声码器，把波形保真度与空间渲染联合优化。框架引入两个针对性设计：一是 Spatial Adaptor，把多通道梅尔谱与动态的声源-听者位姿信息融合，让声码器知道当前的空间关系而不只是频谱内容；二是空间一致性判别器，专门监督通道间线索是否被正确重建，而不是只看单通道波形像不像。为满足实时要求，作者设计了严格因果、带状态的生成器，支持高效流式推理且显存开销恒定——这一点对长时间连续渲染尤其关键。 Overview of our model architecture. 实验效果：在大规模空间音频数据集上，CSAVocoder 的空间类指标全面超过所有对照声码器（含扩散类声码器），同时在常规音频质量指标上保持有竞争力，并达到实时性能。评测同时走客观与主观两条轨：客观侧除常规音频指标外，还把音频切成 1 秒片段、计算预测与真值嵌入的余弦相似度再平均，得到空间一致性分数；主观侧设计了 MOS-Q（音质，关注清晰度/自然度/有无金属噪声与毛刺，明确要求评分者忽略空间定位）与 MOS-P（空间感知，关注左右声道强度变化的声像准确度、远近距离感、以及空间效果与文字描述的匹配度，明确要求忽略音质因素）两套独立的听测量表，把「音质」与「定位」解耦打分。定性上，本方法在左右（L/R）双通道的梅尔谱重建上比 HiFi-GAN、WaveFM、Vocos、CarGAN、FarGAN 更接近 Ground Truth，高频谐波结构的保留差距可见。 Qualitative comparison of mel-spectrogram reconstruction on left (L) and right (R) channels against Ground Truth and baseline vocoders. 批判点评：补的是一个真实且常被忽视的缺口：整条空间音频生成链路的研究重心都在声学场建模和方位控制上，最后落地成波形这一环却长期沿用单声道声码器，通道间线索的损失会把前面所有的空间建模努力打折。架构上三处设计都对得上问题：Cross-Channel Attention 显式建模通道关系而非逐通道独立重建、空间位姿经 FiLM 动态调制进骨干、以及 PixelShuffle1d 配 State Cache 实现严格因果加恒定显存的流式推理。评测设计也比同类工作用心——把 MOS-Q 与 MOS-P 拆成两套量表、并在指导语里互相排除干扰因素，这是空间音频主观评测中容易被偷懒省掉的一步。不足在于：一是摘要层面量化信息极少，「competitive audio quality」这种措辞通常意味着单通道音质并未领先，实际是拿一部分单声道保真度换空间保真度，这个权衡的具体幅度要看正文表格；二是对比基线（HiFi-GAN、Vocos、CarGAN、FarGAN）多为单声道声码器的直接扩展，缺少与专门设计的空间音频声码器的正面对照，「空间指标全面超越」的含金量因此受限；三是空间一致性用「1 秒片段嵌入余弦相似度」来度量，这个代理指标是否真的对应人耳定位误差没有被验证，而它恰恰是论文的主打客观指标；四是覆盖范围止于 FOA/双通道，更高阶 Ambisonics 的可扩展性未知。 10. AV-Sync Audit：四个同步度量互相不一致 What Do Audio-Visual Synchronization Metrics Actually Measure? | 弗吉尼亚理工大学、Accenture | arXiv:2608.25157 关键词：音视频同步,度量审计,可靠性,Kendall tau,Krippendorff alpha,ECCV 2026 Workshop 前序问题：自动音视频同步度量被广泛用来给音视频生成模型排名、甚至直接当训练目标，但它们本身很少被当作「测量仪器」来审计——我们默认分数高就是同步好，却没检验过这些分数在受控扰动下是否单调、对预处理是否敏感、彼此之间是否一致。这是个基础但危险的盲区：如果度量本身不可靠，那么基于它的模型选择和训练优化都可能在优化噪声。 本文贡献：作者在统一的可靠性协议下联合审计四个常用度量——AV-Align、ImageBind AV-relevance、JavisScore、Synchformer/DeSync，检查六个维度：受控扰动下的单调性、预处理敏感性、排名不确定性、度量间一致性、与 PEAVS 人类对齐代理的一致性，以及学习式融合能否改善。结论不是「某个度量胜出」，而是一次坐标轴分裂：不同度量测的根本不是同一件事。基于此，作者主张报告方式应改为「可靠性卡片」（Reliability Card）——给出按度量家族拆分的结果与置信区间，而不是一个赤裸的同步分数。 Kendall tau against known desynchronization for four AV-sync metrics under controlled distortion families. 实验效果：Synchformer/DeSync 是最强的时间偏移追踪器（τ=0.84），在 Shift 与 Speed 两类扰动上明显领先；ImageBind/JavisScore 则更贴合 PEAVS 人类对齐代理（τ=0.20）与内容破坏类扰动，在 Mute 扰动上反超；AV-Align 是最弱的独立度量，在 Speed 与 Shuffle 上 Kendall τ 几乎为零甚至落到负区间。四个度量互相之间严重不一致（Krippendorff α=0.066），跨度量相关矩阵显示 ImageBind 与 JavisScore 高度相关（0.78），而 Synchformer 与两者近乎零相关（-0.00/0.00），AV-Align 与所有其他度量均为轻微负相关。线性与简单 kNN 融合都没能在 PEAVS 一致性上超过最佳单一度量。 Cross-metric correlation matrix among the four audio-visual synchronization metrics. 批判点评：这是今天最该被从业者读到的一篇，尽管它既没有新模型也没有新数据集。把度量当仪器做体检、并给出「坐标轴分裂而非单一赢家」的结论，直接质疑了当前音视频生成领域一大批论文的评测有效性——尤其 α=0.066 这个数字，意味着四个度量对同一批样本的排序几乎相互独立，那么「我们在 X 度量上 SOTA」的说法可信度非常有限。融合也救不了，这个负面结果同样有价值。局限要说清楚：一是这只是 ECCV Workshop 的非归档 poster，作者仅两人且一位来自咨询公司，实验规模与审稿强度都远低于主会论文；二是「人类对齐」用的是 PEAVS 代理而非新采集的人工标注，代理本身的有效性成为整个结论链的单点依赖，若 PEAVS 有偏，τ=0.20 的解读会翻转；三是审计只覆盖四个度量与四类受控扰动（Shift/Speed/Shuffle/Mute），真实生成模型的失效模式（如语义不匹配、口型错位）未必落在这四类里；四是文章给出了「可靠性卡片」的建议格式，但没有推动出可直接调用的工具或标准实现，落地阻力不小。 趋势观察 「记忆」成为长时序生成的一等公民，而不再是上下文窗口的副产品 — 今天两篇最重的视频工作给出了同一个判断：把长视频做长，靠的不是把注意力窗口拉宽，而是显式设计要记什么、以什么坐标记。JoyAI-Echo-1.5 把跨镜头记忆拆成「单帧视觉记忆 + 语音过滤后的音频记忆」两路，并用分离的 RoPE 坐标给记忆条目单独编址（μ=500/550/600），让身份与音色能跨任意镜头组合被检索；4DStreamCtrl 则把记忆压进 3D point track 这一几何表征里，使显存与视频长度解耦。两者都放弃了「全序列自注意力」的暴力路线，转向「结构化外部条件」——这与前两周 On-Policy 蒸馏、长视频记忆一致性专题里看到的趋势完全一致，说明长时程一致性已经从「算力问题」被重新定义成「表征与检索问题」。 少步蒸馏从「加速手段」升级为长视频的可行性前提 — 值得注意的是，今天两篇长视频工作都不是先做好质量再顺手蒸馏，而是把因果化少步生成写进了主线设计。JoyAI-Echo-1.5 用渐进 teacher forcing 加短/长时程 Self-Gradient Forcing，把双向骨干直接改造成因果少步生成器；4DStreamCtrl 蒸馏出四步因果学生，才换来单卡 480p、20 FPS 的交互式流式生成。逻辑很清楚：长视频天然要求流式、要求恒定显存、要求可交互，这三条都无法在多步双向采样上成立。蒸馏因此不再是「便宜版」，而是「唯一能跑的版本」——这与 08-27 TurboT2VA 把少步蒸馏与工程推理栈捆绑交付是同一条脉络的延续。 训练效率的抓手从「改架构」转向「改监督信号密度」 — MTAR 提供了另一个角度：不动推理架构、不加推理开销，纯粹在训练阶段动刀。多 token 预测把稀疏近视的 next-token 监督加密，token 级对比正则提升表征可分性，语义丢弃按 DINOv3 的重要度图砍掉低信息 token 的冗余计算——三者叠加拿到相比 LlamaGen 训练时间降 74~76%、显存降 25~30%、FID 最多低 0.95 的结果，而且只用 1/3 迭代数就追平基线。这个思路值得关注：当推理侧的优化空间被少步蒸馏和量化榨得差不多之后，训练侧「每一步梯度携带多少信息」正在成为新的效率战场。 评测层的自省开始追上生成层：度量本身需要被审计 — 今天有两篇工作在往同一个方向使劲，却站在生成与评测的两端。AV-Sync Audit 把四个常用音视频同步度量当作「测量仪器」逐一体检，结论相当刺眼：Synchformer 追时间偏移最强（τ=0.84），但 ImageBind/JavisScore 更贴合人类偏好代理（τ=0.20），四者互相之间几乎不一致（Krippendorff α=0.066），线性与 kNN 融合都没能超过最佳单一度量。MatReplace、VGA-BenchV2 这类基准同日出现也在补同一块短板。这提示一个容易被忽略的风险：如果我们一直用互相矛盾的单一分数去排名和训练生成模型，那么榜单进步与真实体验提升之间的相关性可能远比想象中脆弱。 人工智能炼丹君 整理 | 2026-08-28 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-08-27|浙大清华19B音视频4步2.5秒出片TurboT2VA 今日 AIGC 论文速览 今日共 10 篇 · 推理加速与少步蒸馏 1 篇 · 扩散后训练与奖励对齐 2 篇 · 音频统一理解与生成 1 篇 · 视觉 tokenizer 与表征组织 2 篇 · 图生 3D 与 PBR 资产 1 篇 · 物理接地图像编辑 1 篇 · 世界模型数据引擎 1 篇 · 大规模开源数据集 1 篇 重点论文标题列表 TurboT2VA（浙江大学、清华大学、天津大学、青岛大学、新加坡国立大学）：19B音视频4步蒸馏2.5秒出片 DiffusionOPSD（字节跳动 Seed、新加坡国立大学、加州大学圣地亚哥分校、牛津大学、香港科技大学、马里兰大学、加州大学伯克利分校、杜克大学）：把奖励梯度变成中间去噪目标 RVM（佐治亚理工学院、NVIDIA）：奖励加权速度匹配替代策略梯度 FireRedAudio（小红书）：理解与生成各走一条连续表征 AffineTok（复旦大学、阿里巴巴 Token Hub（Wan 团队））：语义仿射一致把gFID压到1.10 今日论文速览 1. TurboT2VA：19B音视频4步蒸馏2.5秒出片 TurboT2VA: Fast Large-Scale Text-to-Video-Audio Generation via Score-Regularized Consistency Distillation | 浙江大学、清华大学、天津大学、青岛大学、新加坡国立大学 | arXiv:2608.24674 关键词：少步蒸馏,一致性蒸馏,音视频联合生成,LTX-2,稀疏注意力,W8A8量化,浙大清华 前序问题：文本到「视频+音频」的联合生成能一次产出画面与声音同步的内容，但这类模型的推理成本高得离谱：采样轨迹长（40 步）、参数量大（19B）、而且视频流与音频流的计算特性完全不同，异构多模态计算让常规加速手段难以直接照搬。把大规模 T2VA 模型蒸馏成少步学生具体卡在三处：一是模态不均衡优化——视频与音频的损失尺度、收敛速度差异显著，共用一套归一化会让某一路主导梯度；二是连续时间一致性训练在这个规模上很难稳住，学生容易在训练中后期崩掉；三是质量与多样性的权衡——分布匹配类目标（DMD）虽然能把画质拉上去，却容易把生成多样性压塌，退化成少数几个模式。 本文贡献：TurboT2VA 的主体是一套双散度蒸馏框架加一条渐进课程。框架分三块：左侧对视频与音频分别做前向一致性蒸馏（各自沿教师 PF-ODE 学自己的一致性场，同时带跨模态一致性约束）；中间是 T2VA 双流骨干，视频流与音频流各有 self-attention 与 text cross-attention，再通过 VA cross-attention 相互耦合；右侧做反向散度精修，用分布匹配把学生输出分布拉向教师分布。课程按 dCM 预热 → sCM 精修 → sCM+DMD 联合优化三段推进，先建立稳定且多样的生成轨迹，只有到最后才引入分布级精修——顺序反了就会先塌多样性。模态不均衡用 per-modality normalization 解决。除蒸馏之外还配了一套架构感知的推理栈：guarded W8A8 量化与算子融合、padded-text compaction、模态感知稀疏注意力，但明确保留跨模态与文本条件路径为 dense，不对音画同步这条链路做近似。 Overview of the proposed Dual-Divergence Distillation framework for T2VA acceleration. The left panel illustrates forward consistency distillation for video and audio modalities, the middle shows the T2VA backbone with cross-modal interaction, and the right panel depicts reverse divergence (distribution matching) refinement. 实验效果：在 LTX-2 上做 4 步蒸馏，标准评测分辨率 512×768 下生成器延迟从 50.52 秒降到 2.51 秒，20.1 倍加速，同时维持视觉质量、音频保真度、多样性与音画同步。高分辨率部署（1024×1792、121 帧、单卡 NVIDIA H20、batch size 1）下的完整栈拆解得很清楚：40 步教师基线 318.74 秒；加 W8A8 与算子融合得 1.37 倍，降至 233.34 秒；换成 4 步学生再得 19.18 倍，降至 12.16 秒；最后叠加 SageSLA 稀疏注意力（默认 ρ=0.3）再得 2.08 倍，落到 5.83 秒，整体 54.67 倍（仅生成器）。训练曲线消融跑到 7,500 全局步：分阶段 dCM→sCM→sCM+DMD 在进入联合阶段后反超直接做 sCM+DMD，并在训练后期保持更强表现；从同一段 dCM+sCM 前缀出发，分阶段 sCM+DMD 的 Javis 分数也高于纯 DMD 精修或只继续 sCM。 High-resolution inference acceleration, achieving a 54.67$\times$ generator-only speedup on one NVIDIA H20. 批判点评：20.1 倍与 54.67 倍都是 generator-only 延迟，不含 VAE 解码、文本编码与音频后处理，端到端加速会明显低于这两个数字，读者不要直接当成「出片时间快 54 倍」。更需要留意的是 54.67 倍把蒸馏（19.18 倍）和推理工程栈（1.37×2.08≈2.85 倍）的功劳乘在了一起——工程栈那部分与蒸馏方法本身无关，换任何一个模型都能拿，混在一个标题数字里报有夸大之嫌。质量侧只给了「strong visual quality / audio fidelity / synchronization」这类定性表述，没有 FVD、CLAP、AV-Sync offset 的绝对值，也没有与 40 步教师的逐项差距，而少步蒸馏最该被审视的恰恰是「掉了多少」。W8A8 前面挂了 guarded 这个限定词，说明存在必须保护的敏感层，但哪些层回退高精度、回退比例多少没有交代，这会影响别人复现时的实际加速比。稀疏注意力保留了 dense 跨模态路径，意味着收益会随音视频 token 配比波动，不同视频时长下的敏感性没测。全部结论只在 LTX-2 一个骨干上得到；H20 是国内特供算力卡，其显存带宽与算力配比和 H100 差异不小，量化与稀疏化的收益能否平移过去论文没有讨论。 2. DiffusionOPSD：把奖励梯度变成中间去噪目标 On-Policy Self-Distillation in Diffusion Models | 字节跳动 Seed、新加坡国立大学、加州大学圣地亚哥分校、牛津大学、香港科技大学、马里兰大学、加州大学伯克利分校、杜克大学 | arXiv:2608.24646 关键词：扩散后训练,on-policy自蒸馏,奖励梯度,中间监督,人类偏好对齐,字节Seed 前序问题：强化学习能把扩散模型对齐到人类偏好与任务目标上，但奖励是打在端点（生成图）上的，它不告诉某一步的中间去噪预测该往哪个方向改。这就是扩散 RL 的结构性困难：自回归模型有可解析的样本似然，可以直接套策略梯度；扩散模型没有，于是现有方法只能绕——要么从随机去噪转移拼出轨迹似然，要么用证据下界近似端点似然。两条路都要付额外的计算与算法复杂度，而换来的监督信号仍然稀疏地挂在轨迹末端，中间那几十步实际上是在盲走。 本文贡献：DiffusionOPSD 把「图像级奖励引导」直接转成「clean-output 预测的显式目标」。每一轮外循环里，一个冻结的 behavior policy 先生成轨迹，同时提供采样查询状态与 anchor；奖励梯度在每个 anchor 周围构造出有界的正目标与负目标；可训练 policy 以 detached supervision 的方式拟合这些目标（作者称之为 finite fitting），拟合完成后用指数移动平均更新刷新 behavior policy。这个结构的价值不只在效果——它把「目标构造」和「有限实现」拆成两个可以分别度量的环节，从而让扩散 RL 第一次变得可诊断。论文特意做了同 query 的受控实验来分别观测这两环。 Reward-to-policy paradigms. We contrast trajectory credit, late-state reward backpropagation, and endpoint supervision with our explicit intermediate targets constructed before finite fitting. 实验效果：在 SD 3.5-M 与已做过步蒸馏的 Z-Image-Turbo 两个骨干、10 个 evaluator 组成的 20 个 reward-matched 设置中，19 个取得最佳 held-out 分数；相比最强竞争方法最高提升 44.0%。训练成本上，相比 DiffusionNFT 在 SD 3.5-M 上省 40% GPU-hours、在 Z-Image-Turbo 上省 63%（实验用单节点 8×NVIDIA A800-SXM4-80GB）。人类标注偏好中，标注者在 64%、71%、90%、61% 的 prompt 上更喜欢 DiffusionOPSD 而非 base 模型、FlowGRPO、DiffusionNFT、ReFL；胜出原因的构成显示提示词对齐与视觉质量各占大头。鲁棒性 sweep 表明 query noise 从低到中、目标半径 ρ 从 0.08 到 0.40 都稳定在默认水平附近。最耐人寻味的是那个负面发现：受控同 query 实验里，reward 梯度目标的构造增益是 +0.03511、DiffusionNFT 端点是 −0.03551，但一次拟合更新之后，HPSv2.1 的目标序在 62.3% 的 prompt 上发生反转——构造阶段赢得多，不代表落地得多。 Robustness and human preference. Low-to-mid query noise and target radii from $0.08$ to $0.40$ remain near the default, while query noise $0.90$ and branch coefficient $10$ fall to $0.2884$ and $0.2961$. Annotators prefer DiffusionOPSD over the base model, FlowGRPO, DiffusionNFT, and ReFL on $64\%$, $71\%$, $90\%$, and $61\%$ of prompts. 批判点评：这篇最有价值的结论其实是负面的：目标构造增益与单次拟合实现增益之间只有弱相关（62.3% 反转率）。它说明方法的两个部件耦合得比论文正面叙事更松，但论文没有据此给出「目标半径该怎么选」的可操作准则，把一个诊断工具停在了诊断阶段。19/20 的胜率听起来压倒性，可 10 个 evaluator 背后只有少数几类 reward，同一 reward 下多个 evaluator 高度相关，等效独立比较数远小于 20，这个分母是被放大过的。44.0% 是「相对最强对手的最大提升」而不是中位提升，属于挑最好看的那一格报。鲁棒性图自己也暴露了边界——query noise 取 0.90、branch 系数取 10 时 ClipScore 掉到 0.2884 与 0.2961，说明超参窗口并不宽，而实际调参时未必知道自己在窗口的哪个位置。作者共 14 人以上、横跨 8 家单位，正文却以「DiffusionOPSD Team」匿名署名（真实名单只在附录），这类大团队技术报告的工程细节历来难以被外部独立复现。 3. RVM：奖励加权速度匹配替代策略梯度 Scaling Reinforcement Learning for Diffusion Models via Velocity Matching | 佐治亚理工学院、NVIDIA | arXiv:2608.23664 关键词：扩散奖励微调,速度匹配,免轨迹更新,VBench,动态跟踪奖励,NVIDIA 前序问题：奖励微调正在成为把扩散模型对齐到人类偏好与任务目标的主要工具，但现有方法基本是把大语言模型那套策略梯度机制整体继承过来的。问题在于扩散模型不像自回归模型，它对生成样本没有可计算的似然。结果是当前方案只能从随机去噪转移构造轨迹似然，或者用证据下界近似端点似然，两者都引入额外计算与算法复杂度。作者要论证的是一个更激进的判断：这套基于似然的机制对扩散奖励微调根本不是必需的。另外还有个实践层面的坑——标准偏好奖励在视频生成上会偏爱画面干净但几乎静止的输出，等于奖励模型在鼓励模型偷懒。 本文贡献：提出 reward-based velocity matching（RVM），一个直接作用在速度场上的免轨迹更新。流程是：从高斯噪声出发做 16 步 ODE rollout（不用 CFG）得到分组样本，用公开奖励模型加上自研的 dynamic-tracking（DT）运动奖励打分；每个生成样本只加噪一次得到 x_t，其速度目标为 v = ε − x0；然后用奖励加权的速度匹配损失做回归，额外带一个可选的 anchor 项控制相对参考速度场的漂移。方向上它强化高奖励生成对应的速度方向、抑制低奖励方向，不需要沿轨迹反传，也不需要任何似然项。论文进一步指出这是一个通用框架，RAM 与 DiffusionNFT 都可作为特例被恢复。文中还给出了轨迹损失与速度匹配的机制对比：轨迹损失提升的是被采样单步转移的似然，因而朝下一个去噪状态移动，而那个中间状态是随机的、不保证比当前更接近干净端点，目标方向因此含噪。 Overview of RVM. Left: RVM fine-tunes Wan2.1-1.3B with a simple reward-weighted velocity-matching loss. Grouped rollouts are scored using public reward models together with our dynamic-tracking (DT) reward, and each generated sample $\bm{x}^i_0$ is noised once to $\bm{x}^i_t$ and regressed toward its velocity target $\bm{v}^i=\bm{\epsilon}^i-\bm{x}^i_0$, with an optional anchor velocity $\bm{v}_{\mathrm{anc}}$ controlling model drift, avoiding trajectory storage and likelihood estimation. Right: on Wan2.1-1.3B, RVM achieves the best VBench Overall score at a fraction of the training cost of trajectory-based methods. 实验效果：在 Wan2.1-T2V-1.3B 上，RVM 用 525 GPU-h（8×H100，含 rollout、奖励评估、梯度更新三段）完成微调，FlowGRPO 需 1,159 GPU-h（2.2 倍）、DanceGRPO/TaRoS 需 6,171 GPU-h（11.8 倍）；成本最低的同时拿到最高的 VBench Overall 84.13，FlowGRPO 为 75.91。引入 DT 奖励后运动幅度大幅改善，而 VBench 整体表现同时上升，说明「动起来」和「好看」并非必须二选一。另一个实用发现是：速度更新一旦简化，具体用哪种损失变体的影响就小于奖励与 anchor 的设计——这把调参重心从损失工程挪到了奖励工程。少步推理测试中，把训练好的 16 步时间网格子采样到 5 步与 4 步、保持同一 timestep schedule，VBench Total 仍然保持稳健。 GPU-hour cost comparison on Wan2.1-T2V-1.3B. Training time is decomposed into rollout, reward evaluation, and gradient update. % Note that despite being the cheapest, RVM attains the highest VBench Overall ($84.13$ vs. $75.91$ for FlowGRPO). 批判点评：提交件里作者块留的还是 ICLR 会议模板的占位符（Cranberry-Lemon University 那一段），真实作者信息在另一份 tex 文件里，说明投稿版本管理相当仓促，这类细节多少反映了工作的成熟度。「统一了 RAM 与 DiffusionNFT」的说法要打折看——特例关系通常依赖特定的权重函数与 anchor 取值，论文没有给出这些约化成立的严格条件表，缺了它这个 claim 更像叙事包装。VBench Overall 84.13 对 75.91 的差距确实不小，但作者自己就指出 VBench 系偏好奖励会偏爱静态高清画面、并因此专门做了 DT 奖励，那么再把 VBench Overall 当作主指标来宣布胜利，逻辑上有循环论证的味道。GPU-h 对比中 RVM 的 rollout 只用 16 步且不开 CFG，而基线是否在同等 rollout 预算与采样配置下测量没有交代清楚，成本优势里有多少来自算法、多少来自采样设置无法分离。主实验集中在 1.3B 规模，14B 级别模型上速度场回归是否仍然稳定、anchor 项该怎么随规模调整，都还是空白。 4. FireRedAudio：理解与生成各走一条连续表征 FireRedAudio: A General-Purpose Audio Language Model with Decoupled Continuous Representations for Understanding and Generation | 小红书 | arXiv:2608.24168 关键词：音频语言模型,统一理解生成,连续表征解耦,零样本TTS,语音编辑,小红书 前序问题：一个统一的音频模型既要识别和理解语言、副语言（情绪、说话人）与环境信息，又要支持语音合成与编辑。矛盾集中在表征这一层：理解任务偏好紧凑特征，因为长上下文建模吃不下高帧率细节；而语音生成需要可重建的特征，必须保留细粒度声学信息。用一套离散 token 同时服务两端，往往两头都不讨好——压得够紧就重建不回来，留得够细就撑不起一小时长音频的上下文。 本文贡献：FireRedAudio 共享一个 9B 参数的 LLM，但为理解与生成分设两条独立的连续输入表征。待识别或分析的音频走专用 Audio Encoder 加 Adapter；用于生成条件的语音输入走 RedAE 路径——RedAE 本身是个自编码器，把 50Hz 的音频帧压成 25Hz latent，训练时由一个冻结的教师 Audio Encoder 提供高层监督，并通过 iSTFT head 重建波形。LLM 直接输出文本，或者经 Flow Head 去条件一个 flow-matching DiT，产出连续声学 latent 再由 Decoder 还原成波形；DiT 的条件里同时包含历史干净 latent 与当前含噪 latent 以及 LLM 隐状态。经渐进多任务训练后，同一个模型支持 ASR、音频理解（可覆盖长达一小时的录音）、零样本 TTS、Instruct TTS，以及语义级与声学级两类语音编辑。作者称这是首个公开披露的、在单个可训练自回归 LLM 内为理解与生成分别提供连续输入表征的统一音频语言模型，代码已开源。 Overview of FireRedAudio. Decoupled continuous pathways encode inputs for understanding and generation. The shared LLM produces text or conditions a DiT to generate RedAE latents, which are decoded into waveforms. The inset illustrates the DiT conditioning for one audio step. 实验效果：综合评测下，音频理解与多语种 ASR 达到有竞争力或领先的水平；零样本 TTS 在内容准确率与说话人保持两项上都强；Instruct TTS 的指令跟随领先；语义与声学两类语音编辑相比 Ming-UniAudio-Edit 有大幅改善。长音频侧展示了四类能力：结构化组织（把录音解析成带 start/end、说话人、背景音、情绪的时间戳表格，量化的时间定位评测就聚焦这一项，达到秒级时间戳精度）、长文摘要（可按对象聚焦，如「只总结 Guest B」并给出 02:15/14:40/37:05 这类带时间锚点的要点）、时间↔内容双向检索（既能问「12:00 谁在说什么」也能问「定价模型在哪几个时间点被提到」）、以及跨录音证据的全局分析（如「为什么 Guest A 在 24:10 笑」需要串起 03:10 到 24:10 的多个证据节点）。这些结果支撑了一个结论：中等规模模型上，解耦的连续输入表征足以统一音频理解与连续潜空间语音生成。 Four representative long-form audio-understanding capabilities: structured organization, long-form summarization, bidirectional retrieval between time and content, and global analysis over evidence distributed across a recording. Our quantitative temporal-grounding evaluation focuses on structured organization. 批判点评：「首个公开披露」这个 claim 叠了三层限定词——publicly disclosed、within a single trainable autoregressive LLM、separate continuous input representations——本质是在一个足够窄的定义里宣称首创，读者要看清边界再决定这个「首个」值多少。9B LLM 的底座是什么、是否从某个开源模型继续训练，摘要完全没提，而这直接决定了工作量、复现难度与结果的归因。「competitive or leading」是典型的选择性表述，缺少与 Qwen-Audio、Step-Audio、Ming-UniAudio 等同类在主流 benchmark 上的逐项数字，读者无从判断领先幅度。一小时长音频理解的量化评测只覆盖「结构化组织」一项，摘要、双向检索、全局分析三项在图里是能力示意（带具体案例的界面示例）而非量化结果，这三项的真实可靠度目前无法评估。解耦两条表征的代价是推理时要同时维护两套编码器，额外的参数量与显存开销没有交代。语音编辑只对比了 Ming-UniAudio-Edit 一个基线，样本偏少。 5. AffineTok：语义仿射一致把gFID压到1.10 AffineTok: Semantic Affine Consistency for Diffusion-Friendly Visual Tokenizer | 复旦大学、阿里巴巴 Token Hub（Wan 团队） | arXiv:2608.23864 关键词：视觉tokenizer,语义对齐,扩散友好,SAC一致性,gFID,复旦阿里 前序问题：视觉 tokenizer 越来越流行往潜空间注入语义监督，好让下游扩散学得更轻松。但「语义究竟该怎么组织才有利于去噪」这个问题几乎没被认真研究过。现有做法是训一个 projector 直接从含噪 latent 预测语义——作者指出这实际预测的是「干净图语义的平均」，而扩散过程真正做的是先预测后验均值的干净 latent、再从它解码语义，也就是「平均后干净 latent 的语义」。这两者并不等价，把前者当目标去对齐，等于在优化一个错位的量。 本文贡献：论文先把问题形式化，定义语义恢复目标：去噪过程应当从含噪 latent 恢复出干净图的语义内容，好的 tokenizer 应当让这件事更容易。关键结果是一个正交分解——语义恢复误差可以正交拆成「从含噪 latent 直接做最优语义预测的误差」与「上述两种预测之间的误差」。第二项正是被忽略的一致性要求，作者命名为 Semantic Affine Consistency（SAC），并给出 tokenizer 侧的代理指标 M_SAC 用于在不训扩散模型的前提下诊断。方法层面 AffineTok 用两个纯训练期组件促进 SAC：Global Semantic Coordination Token（GSCT）是一个前置的可学习 token，与 patch embedding 一起送进 encoder，用来协调干净 latent 的语义组织、让「语义平均」这个操作仍然有意义，解码前该 token 即被丢弃；Posterior-Mean Semantic Alignment（PMSA）学一个后验均值预测器 G_post，从含噪输入预测后验均值 latent，再用语义投影器监督从中恢复出的语义。语义监督由冻结的 DINO 提供，两个组件推理时都不存在，因此零部署开销。 Overall framework of AffineTok. The input image is processed in parallel by a frozen VFM and a trainable tokenizer. Its encoder jointly maps patch embeddings and a prepended learnable GSCT to a global output and clean patch latents (z_0). After (z_0) is noised into (z_t), the resulting global and noisy patch representations receive semantic supervision; the global output is then discarded, while (z_t) is decoded for reconstruction. Along the PMSA path, (G_post) maps (z_t) to a posterior-mean estimate, and (S_post) maps the estimate to semantics. Only clean patch latents are retained downstream. 实验效果：M_SAC 在所评估的多个 tokenizer 与扩散模型规模上都紧跟生成质量，与 SiT-XL 的 gFID 达到 0.960 的 Pearson 相关，这构成了「用 SAC 指导 tokenizer 训练」的依据。ImageNet 256 上，相比基线在 20 epoch 时 gFID 降低 26%；继续训练后取得新的 SOTA——不用 classifier-free guidance 时 gFID 1.21，用 guidance 时 1.10。针对性语义探针（越低越好）显示：语义轴不一致率上，RecTok 在 θ>30° 为 58.3%，加 GSCT 降到 24.4%（降 58%）；θ>35° 从 29.5% 降到 7.8%（降 73%）；θ>40° 从 12.2% 降到 2.8%（降 77%）。严重失败率（Top-10 语义检索 miss）上，RecTok 在 t=0.7/0.8/0.9 三档为 5.6%/6.4%/15.1%，GSCT+PMSA 后降至 2.3%/3.1%/6.7%（分别降 59%/52%/56%）。 Targeted semantic probes for GSCT and PMSA (lower is better). Left: Cross-split semantic-axis inconsistency rates for RecTok and +GSCT across three angular thresholds. Right: Top-10 semantic retrieval miss rates for RecTok and +GSCT+PMSA under three severe noise levels. 批判点评：0.960 的 Pearson 相关是在有限数量的 tokenizer 与扩散规模上算出来的，样本点少时相关系数极易虚高，论文需要给出参与拟合的点数与置信区间，否则「M_SAC 可以当选型指标用」这个推论支撑不足。正交分解本身是恒等式变形，它严格说明 SAC 是语义恢复误差的一个必要成分，但不等于「提升 SAC 必然提升生成质量」——两者仍可能同源于第三个变量，论文的因果链是靠相关性搭起来的。gFID 1.10/1.21 是「继续训练」后的结果，基线是否在同等训练预算下评测需要核对，否则 SOTA 里混进了算力优势。语义探针的失败率依赖作者自定的角度阈值 θ，θ 从 30° 挪到 40° 时降幅从 58% 变成 77%，挑阈值的空间不小，读者应关注全曲线而非某一点。GSCT 与 PMSA 只在 ImageNet 256 的类条件生成上验证，能否迁移到文生图与视频 tokenizer 完全未知，而后者才是这条技术线的主战场。 6. KATok：按内容丢token压缩率推到252 Keep-or-Drop? Adaptive Tokenizer for Compact Video Representation | Kakao（韩国） | arXiv:2608.24293 关键词：视频tokenizer,自适应压缩,Gumbel-Softmax,时空冗余,潜在扩散,Kakao 前序问题：潜在扩散之所以能做高保真图像与视频合成，靠的是用 VAE 把数据压到紧凑潜空间来省算力。但常规 VAE 对视频并不合适——它采用固定压缩率，无法适配时空内容复杂度的巨大差异。一段几乎静止的镜头和一段剧烈运动的镜头会被压成同样多的 token：前者纯粹浪费，后者细节不够。固定码率这件事在图像上尚可忍受，到了视频这个冗余度极高、且冗余分布极不均匀的模态上就成了明显的浪费。 本文贡献：KATok 是一个基于 transformer 的 VAE，内含与 latent token 联合学习的自适应 token selector。视频先切成时空 patch 编码成连续 latent token；selector 用 Gumbel-Softmax 松弛为每个 token 预测 keep-or-drop 概率，也就是评估该 token 的内容丰富度，产出一份软 token-drop mask；这份 mask 与 decoder 的注意力共享，保证编解码两侧的 token 选择保持一致；decoder 则通过可学习的 granular query token 去注意保留下来的 latent，重建原始输入。直接把自适应 tokenization 接到扩散模型上会出问题——丢 token 会打乱原有的时空结构，导致生成时内容与位置错配。为此论文提出两种位置预测策略：cascaded generation 与 joint generation（内容与位置联合生成），用来保证空间一致性。 Overall architecture of KATok. A video is divided into spatio-temporal patches and encoded into continuous latent tokens. The adaptive token selector predicts per-token keep probabilities via Gumbel–Softmax relaxation, producing a soft token-drop mask shared with the decoder attention for consistent token selection. The decoder reconstructs the input via learnable query tokens by attending to the masked latent tokens, forming an end-to-end differentiable pipeline for adaptive token selection. 实验效果：在 SOTA 级压缩率下同时保持强重建与生成质量。压缩率随输入尺寸单调增长，这是自适应方案相对固定方案的核心优势：256²×16 帧约 133，384²×16 约 159，480²×16 约 183，512²×16 约 191，一路到 512²×32 帧达到 252；对照之下 ElasticTok 在测到的两个尺寸上都固定在约 102，OmniTokenizer 则是一条 96 的水平线。也就是说输入越大、冗余越多，KATok 的收益就越明显。进一步分析表明这个改善主要来自削减时空冗余、移除低信息量 token，定量与定性结果都支持这一点。消融图显示：朴素模型直接生成稀疏 latent 时会出现内容-位置错位（图中红框标出），而 joint content-position 与 cascaded 生成策略能缓解这个问题并提升整体生成质量。 Token scaling with video size. As spatial and temporal resolution increase, our method achieves progressively higher compression ratios, demonstrating efficient scalability across input sizes. In contrast, OmniTokenizer maintains a fixed compression ratio, and ElasticTok remains nearly flat. (Conventions and compression ratio definition follow Table.) 批判点评：「data-dependent 压缩」的另一面是 token 数变成不定长，这会直接冲击批处理效率、显存预算与推理调度。论文只在「空间错位」这一处正面应对（靠两个生成策略补救），完全没有量化不定长带来的吞吐损失——而这恰恰是工业落地时第一个要问的问题。压缩率 252 对 96 的对比要成立，前提是双方重建质量在同一水位，可论文对质量只用了「strong」这样的定性词，缺少同 PSNR/rFID 下的压缩率对照表。图里另一个可疑点是 ElasticTok——它本身就是弹性 token 方案，却几乎持平在 102，与其设计意图不符，很可能是基线配置未针对这些分辨率调优，这类对比对基线不太公平。keep-or-drop 是二元决策的松弛，对于「部分重要」的 token 没有中间档，直觉上不如按重要度分配比特数来得优雅。评测集是 UCF、Kinetics、Sky 一类经典短视频数据集，长视频与高动态场景没有覆盖，而那才是自适应压缩本该发挥最大价值的地方。 7. Luce：单图出可重光照PBR高斯资产 Luce: Relightable Gaussians for 3D Asset Generation | Apple | arXiv:2608.23943 关键词：图生3D,PBR材质,可重光照,高斯splatting,rectified flow,Apple 前序问题：高保真的图生 3D 需要一个同时刻画几何与外观的 3D 表示。而要支持重打光、并且能接进标准渲染管线，这个表示必须包含 PBR 模态——albedo、metallic-roughness 与表面法线。现实是主流生成式 3D 表示往往只产出「把光照烘死在外观里」的结果：单看渲染图挺漂亮，一旦塞进游戏引擎或影视管线换个环境光就露馅，因为模型从未把材质与光照分离。 本文贡献：Luce 把几何与 PBR 材质统一在一个体素化的多模态高斯云里，为每个模态配专属的高斯基元。流程分两段：表示转换阶段，给定一个 3D PBR 资产先渲染多视角图，再在稀疏体素网格上按模态各拟合一套高斯 splat（albedo、metallic-roughness、normals），得到 PBR Gaussians；一个结构化潜空间 VAE（SLatVAE）把这个表示编码成紧凑可扩散的 latent，并能解码回 PBR Gaussians。生成阶段，一个 rectified-flow transformer 从单张图生成该 latent，条件来自预训练图像编码器的多层特征（DINOv2 的 L6/L12/L18/L24），多层同时取用是为了兼顾语义上下文与细空间细节；先过 Sparse Structure Flow 定结构、再过 SLat Flow 出 latent、最后由 SLat Decoder 解成 PBR 高斯。产物可直接用 GS 渲染器配 IBL 环境贴图着色，也可选走 Mesh Decoder 导出带切向空间法线图的纹理网格。 Overview of Luce. (Top) Representation and SLatVAE. Given a 3D PBR asset, here a Toys4K sample, we render multiview images and fit per-modality Gaussian splats (albedo, metallic-roughness, normals) on a sparse voxel grid. A structured latent VAE (SLatVAE) encodes this representation into a compact, diffusible latent and decodes it back to PBR Gaussians. (Bottom) Generation pipeline. Given a single input image, a sparse-structure flow first predicts the sparse voxel layout. Conditioned on multi-layer DINOv2 features, SLatFlow then generates a PBR Gaussian latent at each active voxel. The structured latent decodes into relightable PBR Gaussians and also serves as input to the mesh decoder, which yields textured meshes with tangent-space normal maps and a complete PBR material set. 实验效果：Toys4K 上取得单图生 3D 的 SOTA，FID 相比最强基线改善 28%。论文另建了一个 AI 生成图像构成的 benchmark，在其上 CLIP 图文对齐分从最佳基线的 0.8299 提升到 0.8519。解码出的 PBR 模态可以在新环境贴图下通过标准 PBR 合成直接着色渲染，不需要抽网格、也不需要 UV 展开——这是相对「先出网格再烘材质」流程的实质简化。重光照验证里，论文把自家 deferred PBR 渲染器在高斯拟合上的输出与用 Blender EEVEE 渲染纹理网格的参考并排对照：同一把战锤在户外日光、草地、暮色、studio 点光、室内、拱廊六种环境贴图下，金属面的高光位置、锤头与手柄的整体色温都随环境同步变化，两条渲染路径的结果高度接近。生成资产还能保住文字、logo、铭文这类细节。 PBR shaded rendering. The decoded PBR modalities (albedo, metallic-roughness, normals) enable shaded rendering under novel environment maps via standard PBR compositing (Eq.), without mesh extraction or UV unwrapping. We compare our deferred PBR renderer on the GS fit against the textured mesh rendered with Blender EEVEE as a reference; the environment maps are listed in Appendix. 批判点评：重光照那组图容易被误读，需要说清楚：它比的是「自家 GS 渲染器 vs Blender EEVEE 渲染同一份纹理网格」，验证的是两条渲染路径自洽、材质分解没跑偏，而不是「重光照质量超越其他生成方法」——论文里没有与基线在重光照维度上的对比。FID 改善 28% 的评测集 Toys4K 是玩具类物体，几何规整、材质单纯，能否外推到复杂场景资产或有透射/次表面散射的材质，证据不足。CLIP 分 0.8519 对 0.8299 只差 0.022，落在 CLIP-score 的噪声量级内，属于弱证据；何况这个 benchmark 由作者自建，构成、规模与筛选标准都需要审视。为每个 PBR 模态各配一套高斯基元意味着基元数量成倍增长，训练与推理开销、体素网格分辨率上限论文摘要没有交代，而这决定了方法的实际可用规模。网格导出被标为 optional，说明主路径产物仍是高斯，要进现有 DCC 管线还差一步转换。作者全部来自 Apple，摘要未提代码或模型是否发布，短期内外部复现的可能性偏低。 8. TransPhy：看两张示例学会物理变换规则 TransPhy: Visual In-Context Learning for Physically Grounded Image Editing | 北京大学、商汤科技研究院、浙江大学 | arXiv:2608.24119 关键词：视觉上下文学习,物理接地编辑,MoE-LoRA,规则归纳,BAGEL,北大商汤 前序问题：视觉示例是指定图像变换的天然接口——很多变换用文字穷举描述极其困难，比如「让这块金属锈到这个程度」或者「让布料在这个受力下这样塌陷」。但现有视觉上下文学习（VICL）方法主要处理外观级的关系迁移，对物理接地的变换支持很有限，而后者的结果取决于材质属性、几何、物体交互与环境条件。给定一对 source-target 示例和一张查询图，物理接地的 VICL 要求模型做三件事：推断出被示范的是什么变换、把这个变换的效果适配到查询图特有的场景上下文、同时保住与规则无关的内容不被改动。 本文贡献：先建数据与评测：PhysVICL-74 含 74 条物理接地变换规则、5,240 对 source-target 图像，组合成近 7.5 万个训练与评测上下文；benchmark 划分把「新实例迁移」（同规则换物体）与「未见规则泛化」分开评，避免用同一个总分掩盖两种截然不同的难度。方法上 TransPhy 把任务分解成物理规则归纳与过渡对齐渲染两步：先预测被示范的规则，并生成一段针对查询图的显式目标状态描述（把隐式的视觉示范转成可检查的中间语言表示）；再通过 token 级的混合专家适配合成目标图，专家路由由局部化的过渡线索引导。实现在统一模型 BAGEL 上：理解通路走 Text Encoder 与 ViT Encoder，生成通路走 VAE Encoder，各自经 projector 汇入 MM Attention；Token Level Align 模块用示例对的差分（1-Sim）算出过渡热图，经 Top ρ%、token merging、region refine 得到精炼的过渡证据，以 L_STC 监督对齐 router；MoE-LoRA 的多个专家承担规则渲染，配 router 负载均衡与 token 负载均衡两个约束。 Overview of TransPhy on BAGEL. The understanding and generation pathways encode the exemplar--query context; ViT-derived transition evidence aligns token-level routing, while MoE-LoRA experts render the inferred physical rule. 实验效果：在物理规则遵循度、查询一致性、未见规则泛化三项指标上均优于既有的视觉上下文编辑方法。机制侧的证据来自专家路由可视化：逐层的专家使用热图呈现明显分化（不同 MoE block 偏好不同专家，而非均匀使用），说明路由确实学到了结构而不是退化成平均；把全部 token 硬路由到单个专家时（分别强制走 Expert 0 至 Expert 3），同一张查询图会得到肉眼可辨的不同编辑结果，红框标注处差异最明显——这支持了「不同专家承担了不同的变换成分」这一设计假设，而不是彼此冗余的副本。 Expert routing visualization. Left: layer-wise expert-routing heat map. Right: results obtained by hard-routing all tokens through experts~0--3. 批判点评：74 条规则、5,240 对图像撑起「近 75K 个上下文」，说明上下文是由有限图像对组合放大出来的，这个数字的实际信息量远小于字面，读者不该把它当成 7.5 万个独立样本看。更关键的缺口是：物理接地变换的真值怎么来的——渲染引擎合成、真实拍摄，还是另一个生成模型产出？摘要完全没交代，而这直接决定这个 benchmark 是否真的「物理正确」，如果真值本身来自生成模型，整套评测就退化成模仿另一个模型的偏好。效果全部以定性优势描述（improves adherence / consistency / generalization），没有一个绝对数字，也没有与具体基线的逐项对比表，这在有自建 benchmark 的情况下尤其说不过去。专家路由图分辨率偏低，红框标注的差异需要放大才能辨认，作为核心机制证据偏弱。方法只在 BAGEL 一个统一模型上实现，对底座能力的依赖程度未知。「未见规则泛化」的划分粒度（留出整条规则，还是同族规则的变体）会极大影响难度，摘要没有说明。 9. Game2World：先擦掉HUD再拿游戏视频训世界模型 Game2World Engine: Unlocking In-the-Wild Gameplay Videos for World Model Training | Game2World 团队（通讯作者 Dongping Chen，论文未标注机构归属） | arXiv:2608.24680 关键词：世界模型数据,游戏录屏,HUD移除,数据引擎,视频编辑,AAAI2027 前序问题：电子游戏是视频世界模型训练数据的规模化来源——环境多样、交互复杂、野外录屏在互联网上近乎无限。但原始录屏有个结构性缺陷：它把游戏世界和屏幕空间界面纠缠在一起。血条、小地图、任务提示、按键提示、伤害数字这些 HUD 元素会引入游戏特定的偏置和与世界无关的动态，世界模型会把「UI 的变化」当成「世界的变化」学进去，最终产出的既不是干净的画面也不是可信的动力学。 本文贡献：提出 GameUI-Taxonomy 与 G2WEngine，把「游戏 UI 定位与移除」形式化成一套全栈框架。HUD 资产抽取一路是：质量过滤（303 款游戏共 65.72 小时）→ 关键帧采样（采出 1,010 个不同帧）→ 标签起草 → 人工精修（平均每帧 3.69 个 HUD 部件）→ UI 抽取（把裁剪块转成透明资产）。HUD 覆盖层合成一路是：多样性过滤（去掉近似帧）→ 基于语义的构图布局与资产选择 → 时序动画（区分静态与弹出式资产的轨迹）→ alpha 合成与 bbox 追踪，确保合成出来的 UI 在时间上是连贯的。据此构建 Game2World：96K 合成配对视频（带精确重建目标）+ 来自 303 款游戏的 1,079 段野外片段用于真实评测；资产库含 21 个分类下 5,132 个已验证 UI 元素。最后提出 GameCleaner——一个免 mask 的游戏 UI 移除模型，把多模态语义理解与视频编辑能力结合起来，不依赖预先给定的 mask 就能识别并移除多样 HUD，同时保住底层场景内容与时序动态。 Overview of G2WEngine, a scalable data engine that transforms in-the-wild gameplay videos into world-model-ready data through HUD asset extraction, temporally coherent UI synthesis, and downstream support for HUD understanding, removal, and clean gameplay generation. 实验效果：受控 pilot 实验中，用去 UI 录屏训练的世界模型整体 VideoReward 比用带 UI 数据训练的高 6.83%——这是整篇工作的因果论断落点。UI 移除评测上，GameCleaner 在合成视频上平均 AAR 达 95.36，超过最强的时序 mask 基线 57.3%；野外片段上取得最佳 AAR 80.05，背景保持度 99.8。消融给出两条实用曲线：数据规模方面，野外评测下带参考图的表现从 0.2 规模的约 62 分升到全量的约 79.5 分，且曲线尚未收敛，说明继续加数据仍有空间；参考图 drop ratio 方面，野外表现在 20% 附近最好（约 79.8），过高（50%、80%）反而掉到 56、55 附近，而合成集上的表现则对 drop ratio 几乎不敏感（一直在 93~96）——这个合成/野外的分歧本身就是提示。 Ablation study of data scaling and reference drop ratio during training. We find out that larger and more diverse dataset show generalizable result on in-the-wild evaluation and have not converge yet. 批判点评：6.83% 的 VideoReward 提升来自「受控 pilot」，而模型规模、训练配置、评测 prompt 数量摘要一概没交代。这是全文最关键的因果论断，证据却最薄：去掉 HUD 有益在直觉上显然成立，但提升幅度是否稳定、在多大模型上还成立，目前没有答案。「超过最强时序 mask 基线 57.3%」是相对提升，考虑到基线在合成集上的绝对 AAR 只有 60 出头，相对数字把绝对差距放大了不少。野外 AAR 80.05 与合成 95.36 之间那 15 分的落差是重要信号：它说明合成 UI 与真实 UI 之间仍有明显分布差，而合成数据恰恰是训练主力，这个 gap 才是方法的真实上限所在。1,079 段野外片段作为评测集偏小，303 款游戏的品类分布也未公开，UI 风格的长尾覆盖存疑。1,010 帧的人工精修量对应 5,132 个元素尚算合理，但 21 个分类的边界是否清晰、多标注者一致性如何，都没有报告。最后，arXiv comments 里作者直接留邮箱寻求科研合作与资金支持，正文中也缺失机构归属——这是一支早期自筹阶段的团队，工程可复现性需要谨慎预期。 10. LAION-BVD：1000万小时开源视频数据集 LAION-BVD: A 10-Million-Hour Open Video Dataset for Multimodal Pre-training | 图宾根大学与图宾根 AI 中心、LAION、于利希超算中心（JSC, FZJ）、Wynd Labs、马普智能系统研究所与 ELLIS Institute Tübingen、慕尼黑工业大学 MCML | arXiv:2608.24845 关键词：开源视频数据集,多模态预训练,CommonCrawl,音频文本,ViCLIP,LAION 前序问题：多模态预训练的视频侧长期缺开放的大规模数据。现有开源视频数据集规模有限（InternVid-10M 量级），真正的大数据集掌握在少数机构手里且不公开，社区因此无法在视频与音频模态上独立验证 scaling 结论——图文模态上 LAION-5B、DataComp-1B 已经把这条路打通了，视频侧却一直缺一个对应的公共基础设施。 本文贡献：LAION-BVD 从 CommonCrawl 中筛出 13 亿条平台特定视频 URL（BVD-URLs），用分布式基础设施实际下载了 8,000 万个视频、总时长 1,000 万小时（BVD-RAW），面向视频、音频、图像三种模态的预训练设计。数据管线用内容感知的场景检测切出片段，并为片段合成生成视频 caption 与音频 caption。派生子集包括：从 240 万视频按 10 秒到 30 分钟过滤并切片得到的 BVD-V-55M（5,500 万片段），再采样出 BVD-V-10M 与 BVD-V-50M；按 2 到 30 秒过滤得到的 BVD-A-1.7M 与 BVD-A-10M 音频片段；以及采样并筛选场景切换帧得到的 BVD-I-300M（3 亿张图像）。最后一条是个有意思的角度——把视频帧当作图文数据的替代来源，因为场景切换帧的视觉分布与常规网页图库明显不同。全量数据集已向研究社区发布。 LAION-BVD data curation pipeline. We source data from CommonCrawl and filter for platform-specific video URLs, resulting in 1.3B high-quality video candidates. Out of these, we successfully downloaded 10M video hours using a distributed infrastructure from which we create the BVD-* subsets. 实验效果：在这些数据上训练的模型在标准 video-text 与 audio-text benchmark 上具备竞争力，且随训练量或模型规模增长持续改善。ViCLIP 上，BVD-V-10M 与 BVD-V-50M 的平均检索约为 56.3 与 56.9、平均分类约为 68.2 与 68.4，两项都高于 DataComp-1B（约 45.0 与 62.6）与 InternVid-10M（约 52.8 与 67.6）。CLAP 音频文本上，BVD-A-10M 的曲线整体位于 Laion-Audio 之上，且随模型规模增长的斜率更陡，从约 42.9 升到约 46.8，而 Laion-Audio 同区间为 42.1 到 44.8。用场景切换帧训练的模型取得了强图文检索表现——这印证了「视频帧可作为图文数据替代源」的判断；但同一组实验也诚实报告了反面：LAION-BVD 的 ImageNet 零样本分类仍弱于网页 alt-text 基线。 LAION-BVD is an open web video dataset at unprecedented scale. It facilitates strong downstream performance for multimodal pretraining. Left: dataset scale in comparison with existing video datasets. Right: average downstream performance of ViCLIP (video-text, tab:exp_results_wise_ft) and scaling-trends of CLAP (audio-text, tab:exp_results_clap_pure) on standard benchmarks. These results demonstrate that LAION-BVD serves as valuable training data across both video and audio modalities. 批判点评：caption 是「synthetically generate」的，也就是模型产出的伪标签。这决定了数据集的语义上限，也会把 captioner 的偏置固化进所有下游模型，而摘要没说用的是哪个 captioner、也没做 caption 质量的人工抽检——对一个定位为公共基础设施的数据集来说，这是最该交代清楚的一项。1,000 万小时是「下载到的原始时长」，真正进入训练的是切片后的子集（如 BVD-V-50M），两个量级不能混着读，标题里的数字带有一定的宣传性质。ImageNet 零样本弱于 alt-text 基线是个诚实且重要的负面结果：它说明视频帧的分布优势偏检索、不利分类，但作者点出后没给成因分析，读者拿不到「什么时候该用这份数据」的判断依据。开源发布的到底是 URL 列表还是视频本体，极大影响长期可用性——CommonCrawl 系数据集普遍存在链接腐烂，几年后的实际复现率会显著下降。版权授权状态与内容安全过滤强度未在摘要交代，这类超大规模网络采集数据集的合规风险不容忽视。评测骨干只有 ViCLIP 与 CLAP 这类相对轻量的判别式模型，这份数据能否直接用于生成式视频预训练（也就是社区最想要的用法）完全没有验证。 趋势观察 扩散后训练同一天冒出两条「去似然化」路线，方向出奇一致 — 今天最值得放在一起读的是 DiffusionOPSD（字节 Seed）和 RVM（NVIDIA + Georgia Tech）。两篇互不引用、机构毫无交集，却在同一个判断上撞车：把大语言模型那套策略梯度机制搬到扩散模型上，是一条走歪了的路。原因很朴素——自回归模型有可解析的样本似然，扩散模型没有。为了凑出一个「似然」，现有方法要么从随机去噪转移拼轨迹似然，要么用 ELBO 近似端点似然，代价是额外计算与算法复杂度，而换来的信号依然只挂在端点上。两篇的解法各走一边：DiffusionOPSD 往「中间监督」走，用 reward 梯度在冻结 behavior policy 提供的 anchor 周围直接构造出有界的正负目标，让每一步的 clean-output 预测都有明确的去处；RVM 往「原生表示」走，干脆不要轨迹、不要似然，直接在速度场上做 reward 加权回归，并顺手把 RAM 与 DiffusionNFT 收成特例。省下来的算力是实打实的：DiffusionOPSD 相比 DiffusionNFT 减 40%~63% GPU-hours，RVM 在 Wan2.1-1.3B 上 525 GPU-h 就跑完，DanceGRPO/TaRoS 要 6,171。更值得留意的是 DiffusionOPSD 那个负面发现——目标构造增益更大，不代表一次拟合后的实现增益更大，HPSv2.1 的目标序在 62.3% 的 prompt 上会反转。这提示扩散 RL 的下一个瓶颈可能不在「怎么定目标」，而在「一步优化能吃进去多少」。 少步蒸馏已经不单独交付了，它和推理工程栈捆成了一个整体 — TurboT2VA 的数字拆解值得逐段看：LTX-2 19B 音视频联合模型，1024×1792、121 帧、单卡 NVIDIA H20 上，40 步教师 318.74 秒。先上 guarded W8A8 加算子融合，拿到 1.37×，降到 233.34 秒；再换成 4 步蒸馏学生，19.18×，降到 12.16 秒；最后叠一层模态感知稀疏注意力（SageSLA，ρ=0.3），再 2.08×，落到 5.83 秒。整体 54.67×。这条链条说明了一件事：单看蒸馏是 19.18×，单看工程栈是 1.37×2.08≈2.85×，但它们乘起来才是那个吓人的数字，任何一环单独宣传都会失真。另一个细节是稀疏化的边界——作者明确保留了跨模态与文本条件的 dense 路径，只对模态内注意力做稀疏。这不是保守，而是承认音画同步这件事经不起近似。反过来看 RVM 那篇也印证了同一件事：它测了从 16 步网格子采样到 5 步、4 步的鲁棒性，说明「少步」已经从加速技巧变成了模型必须自带的属性，而不是发布后再补的一层优化。 视觉 tokenizer 的竞争焦点，从「压得多」挪到了「压得让下游好学」 — AffineTok（复旦 + 阿里 Token Hub）和 KATok（Kakao）走的是同一个方向的两条腿。AffineTok 问的是语义该怎么组织：现有做法训一个 projector 从含噪 latent 直接预测语义，作者指出这预测的是「干净图语义的平均」，而扩散真正需要对齐的是「平均后干净 latent 的语义」——这两个东西不是一回事。他们把语义恢复误差做正交分解，识别出被忽略的一致性要求（Semantic Affine Consistency），并给出 tokenizer 侧代理指标 M_SAC，报告它与 SiT-XL 的 gFID 有 0.960 的 Pearson 相关。KATok 问的是比特该怎么分配：常规 VAE 用固定压缩率，静止镜头和剧烈运动被压成同样多的 token，前者浪费后者不够；它用 Gumbel-Softmax 给每个 token 学一个 keep-or-drop 概率，压缩率从 256²×16 帧的 133 一路涨到 512²×32 帧的 252，而 ElasticTok 固定在 102、OmniTokenizer 固定 96。一个管「语义排布」，一个管「码率分配」，共同点是都不再把 tokenizer 当成一个可以离线调好然后冻住的前置模块，而是当成对下游生成质量负直接责任的一环。AffineTok 的 GSCT 与 PMSA 都只在训练期存在、推理时丢弃，这个设计取向也很能说明问题——愿意为下游多付训练成本，但不肯多付一分部署开销。 世界模型的瓶颈正在从「模型」挪到「数据能不能直接用」 — Game2World 和 LAION-BVD 是今天的数据侧双响。前者盯的是一个很具体的脏活：游戏录屏是世界模型训练数据的规模化来源，但血条、小地图、任务提示这些 HUD 元素把游戏世界和屏幕空间界面纠缠在一起，模型会把 UI 的动态当成世界的动态学进去。G2WEngine 把这件事形式化成全栈流程——从 303 款游戏、65.72 小时录屏里抽出 5,132 个已验证 UI 元素（21 个分类），再把时序一致的 UI 覆盖层合成回干净录屏，造出 96K 配对视频用于训练、1,079 段野外片段用于评测，最后训一个免 mask 的 GameCleaner 擦干净。受控实验里，用去 UI 数据训练的世界模型整体 VideoReward 高 6.83%。后者走的是另一个极端：LAION-BVD 从 CommonCrawl 捞了 13 亿条视频 URL，下载 8,000 万个视频共 1,000 万小时，切片后派生出 BVD-V-55M、BVD-I-300M、BVD-A-10M 等一系列子集，ViCLIP 上 BVD-V-50M 的平均检索约 56.9、平均分类约 68.4，都高过 DataComp-1B 与 InternVid-10M。两篇合起来的信号是：视频生成这条线上，「有没有数据」的问题正在被「数据里有多少是能直接喂的」取代。也要留一句冷水——LAION-BVD 的 caption 是模型合成的伪标签，它的天花板就是那个 captioner 的天花板；而它诚实地报告了 ImageNet 零样本分类仍弱于网页 alt-text 基线，说明视频帧的分布优势偏检索、不利分类。 人工智能炼丹君 整理 | 2026-08-27 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-08-26|京东开源世界模型边走边生720p视听EchoWM 今日 AIGC 论文速览 今日共 10 篇 · 交互式世界模型 1 篇 · 视频生成与编辑统一 2 篇 · 3D 渲染修复与新视角合成 2 篇 · 生成理解一体化 1 篇 · 图像编辑与强化学习 1 篇 · 数字人压缩 1 篇 · 生成评测与审计 2 篇 重点论文标题列表 EchoWM（京东 Joy Future Academy、港科大、北大、清华、港大、中科大、复旦、北航、斯坦福大学）：导航即生成的720p视听世界模型 EditStream（Adobe Research、罗切斯特大学）：六任务一模型的少步流式视频编辑 FixAnything（卡内基梅隆大学 (CMU)）：一个视频先验修四种3D表示 Loopy（天津大学、香港理工大学、腾讯）：锚定层位置编码把时间轴掰成圆 Object-Uni（中科院自动化所、国科大、清华大学、蚂蚁集团）：物体位姿当显式变量贯通理解生成 今日论文速览 1. EchoWM：导航即生成的720p视听世界模型 EchoWM: Open and Enterable Omnimodal World Models | 京东 Joy Future Academy、港科大、北大、清华、港大、中科大、复旦、北航、斯坦福大学 | arXiv:2608.23189 关键词：世界模型,全模态生成,相机意图,6-DoF轨迹控制,音视频同步,自回归后训练,京东 前序问题：现有的世界模型基本都停在「视频生成器 + 一个控制信号」的形态上，有三处结构性缺口。第一是模态不全：绝大多数只出画面，声音要么完全没有，要么靠后期单独配一条音轨，长时程下环境声、音乐、语音与画面的同步无从保证。第二是控制接口碎片化：第一人称场景（相机就是观察者）和第三人称场景（相机与角色各动一套）通常需要各训一个视角专用控制器，两套接口在数据、训练和推理上都无法复用，用户切换视角等于换一个模型。第三是运动幅度不可比：不同来源的数据（游戏录屏、第一人称采集、影视素材）标注的相机运动尺度天差地别，直接混训会让模型学到一个平均化、无物理尺度的运动先验，用户按同样的键在不同场景里位移距离完全不一致。这些问题合起来的后果是：模型能生成好看的片段，但不能被「进入」和持续操作。 本文贡献：EchoWM 把交互统一组织在「相机意图」这一个抽象上——第一人称下相机意图就是观察者运动，第三人称下相机与角色的动力学耦合直接从数据里学出来，不再为每种视角单独设计控制器，两类交互共享同一个接口。离散按键命令和连续位姿都被映射到同一个带公制尺度的相对 6-DoF 轨迹表示上，再做数据集级校准，使异构数据源之间的运动幅度保持一致，这是让「按同样的键走同样远」成立的前提。生成侧是联合音视频骨干：视频流与音频流各有自注意力，轨迹只在交叉注意力之前注入视频流（音频流不做轨迹注入），再经 AV 交叉注意力耦合，从而在一个前向里同时产出 720p 视频与环境声/音乐/语音。轨迹注入用的是相对 UCPE 分支（QKV 投影 + ray-local UCPE + 零初始化输出投影），零初始化保证接入时不破坏预训练骨干。训练分四阶段渐进：AV 持续预训练 → 冻结骨干只训动作 → 联合微调 → 自回归后训练（teacher forcing + SGF + 因果续写），最后一阶段是长时程能力的来源；多轮推理时用尾窗条件化下一轮，实现可持续导航。代码与模型已在 jd-opensource/JoyAI-Echo 开源。 Overview of EchoWM. Media context, structured text, and user controls share a unified camera-intent interface. Discrete controls or metric poses are converted into globally calibrated relative 6-DoF trajectories and serialized as an event stream. A relative UCPE branch injects this trajectory into video self-attention before audio--visual cross-attention, while the audio stream receives no direct trajectory condition. Four progressive training stages yield synchronized audio--visual generation and support multi-turn inference through synchronized tail-window conditioning. 实验效果：在公开世界模型基准上，EchoWM 同时取得了强轨迹跟随与高视觉质量，第一人称与第三人称交互都支持，且长时程生成中环境声与语音保持同步。固定全局平移尺度带来的收益在与 LingBot-World-v2 的成对对比里最直观：两者接收完全相同的参考观测与导航条件，当相机朝前景角色或场景结构推近时，LingBot-World-v2 的主体表观尺度变化过大、位移响应难以预测——补光灯场景直接从人像冲到相机机身特写，游戏门框场景推近到结构解体，烛光工坊场景越过工作台变成齿轮特写，越野场景则冲过摩托只剩落日空景；EchoWM 在同样的轨迹上呈现的是渐进、可预期的尺度变化，主体始终留在画面里。这条定性证据与论文的公制尺度、速度响应消融互为补充：固定全局平移尺度让不同片段之间「请求的位移幅度」可比，推近行为因此变得可控。推理侧的赛车导航序列也显示，同一条弯道在连续推进中赛道几何、栅栏与草地纹理保持稳定。 Qualitative scale-control comparison. LingBot-World-v2 and EchoWM receive matched reference observations and navigation conditions. When the camera approaches a foreground character or scene structure, LingBot-World-v2 exhibits larger changes in apparent subject scale and less predictable displacement response, whereas EchoWM preserves a more gradual scale change across the trajectory. This qualitative comparison complements the metric-scale and speed-response ablations: a fixed global translation scale keeps requested displacement amplitudes comparable across clips and makes approach behavior more controllable. 批判点评：最需要打折扣的是「open」这个词的适用范围——论文声称开源，但摘要与图表里没有交代模型参数量、训练数据总时长，也没给出可复现的训练配方细节，公开的更可能是推理权重而非完整训练链路。轨迹跟随的量化结果只以「strong」概括，缺少与 Genie 类闭源系统的直接数字对比，而后者恰恰是读者最想知道的参照。音频侧的评估同样偏薄：说「保持同步」，但没有报告音画同步的客观指标（如 AV-Sync offset 分布），环境声/音乐/语音三类音频各自的质量也没有拆开评。第三人称下「相机-角色耦合从数据里学」是个漂亮的设计，但代价是可控性变弱——用户无法像显式相机装配那样精确指定构图，论文没有讨论这个权衡。此外 LingBot-World-v2 是唯一的定性基线，且这组对比只针对尺度/位移响应这一个维度，画面里基线失控得相当彻底（推近直接越过主体），让人怀疑两者是否在同等推理预算下运行，论文没有给出步数与分辨率的对齐说明；真正需要的长时程身份一致性、音画同步等维度都没有配对应的定性证据。最后，作者列表横跨 8 家单位、共同一作 5 人，这类大团队技术报告的工程细节往往难以被外部独立复现。 2. EditStream：六任务一模型的少步流式视频编辑 EditStream: A Unified Autoregressive Framework for Interactive Video Generation and Editing | Adobe Research、罗切斯特大学 | arXiv:2608.21424 关键词：统一视频编辑,自回归少步生成,速度矩匹配VMM,自回归unrolling,KV-cache,交互式创作,Adobe 前序问题：交互式视频创作在工程上一直被两层割裂卡住。第一层是任务割裂：文生视频、图生视频、视频转视频、编辑传播、参考图引导编辑、相机位姿变更这六件事，各家通常各训一个模型或各挂一套适配器，创作工具里要串起来意味着维护六套权重与六套推理路径。第二层是速度割裂：高质量的扩散视频模型要几十步采样，根本进不了交互式工作流；而把它蒸馏成少步自回归模型时，已知的 Self-Forcing 类做法会带来一串顽疾——过饱和、运动退化（画面几乎静止）、时序不稳定，以及训练流程本身很复杂。运动退化尤其致命：交互式编辑的用户改的往往就是运动，如果蒸馏后的模型只会输出近似静止的画面，统一带来的便利就毫无意义了。 本文贡献：EditStream 的第一步是把六种任务折进单个 DiT：通过通道拼接把 mask token、条件视频 VAE token 与输出视频 VAE token 拼在一起，用一个 Conv3D 把新增通道并进原有通道（C_new = C_old + C_cond），不同任务只是这套拼接模式的不同配置——文生视频只留输出分支，编辑传播额外接条件视频，参考图引导编辑再拼一路参考帧，显式相机控制则加入学习到的降采样 mask。第二步是两阶段蒸馏，核心是 Velocity Moment Matching：与 Self-Forcing 在教师轨迹上做整段视频级 DMD 匹配不同，VMM 在「学生自己走到的中间状态」上采样一次局部转移，用教师速度与辅助网络速度的残差（v_T − v_A）作为监督信号，逐块（block-wise）沿因果 KV-cache 展开；首块单独做 VMM 更新，后续块通过 unrolling loss mask 只在展开步上更新。这样做的直觉是：学生的误差分布只有在学生自己的状态上才能被正确纠正，而在教师轨迹上匹配等于永远在纠正一个不会遇到的分布。 Overview of VMM-forcing unrolling. During training, we fully unroll streaming inference: the causal student generates each temporal block from noise with the target few-step schedule, commits the denoised block to the KV cache as history, and proceeds to the next block. At a sampled local transition for each selected block/rollout, we query the bidirectional teacher and auxiliary model at the student-induced states, and supervise the student by matching the teacher--auxiliary residual velocity moments under the same autoregressive context. The student-generated first-block condition is also fed into the teacher and auxiliary model. 实验效果：从文生视频对比图可以直接读出蒸馏质量的差距。Self-forcing 版本在四组场景里几乎全部退化成静止：三只金毛四帧内姿态几乎不变、狼群原地踏步、龙灯只有轻微摆动、沙漠中两人搬椅子的动作停在同一姿态。VMM-forcing 版本则有真实的位移与形变——金毛从雪堆里跑出并跨出画面、狼群沿小径实际前进、龙灯完成翻卷、沙漠场景里沙子被扬起并落下。首帧编辑 + HOI（手物交互）消融显示，不加 HOI 训练时锅盖编辑在后续帧丢失、遮阳帽戴不到头上；加了之后锅盖被手放到锅上、帽子正确落到头顶并随手部动作保持贴合。论文将这些归因于 VMM 与 unrolling 共同缓解了过饱和、运动退化与时序不稳定三类问题。 Qualitative Text-to-Video (T2V) results on frequent user prompts. We compare the Self-forcing conversion and the proposed VMM-forcing pipeline. VMM-forcing produces richer motion dynamics and scene evolution while maintaining texture realism and temporal coherence, whereas Self-forcing often yields over-sharpened, plastic-like appearances and reduced temporal diversity. 批判点评：这是一篇 report 而非常规论文，量化结果的呈现相当克制——摘要里没有给出任何具体的 FVD/VBench 数字，也没有报告蒸馏后的步数与实测帧率，而「fast, few-step」和「efficient streaming」正是它的核心卖点，缺少数字就很难判断它离真正的交互式实时还有多远。六项任务统一后，每项任务相对各自的专用 SOTA 是否有质量损失也未见系统对比，统一的代价没有被量化。VMM 引入了一个辅助网络 A，训练成本相对 Self-Forcing 增加多少、辅助网络如何初始化与更新，摘要层面没有交代。定性图上还有一个诚实的观察：VMM-forcing 的金毛在第三、四帧出现了明显的运动模糊与主体截断，说明追求运动幅度的同时清晰度是有让步的，论文没有讨论这个权衡。最后，Adobe 内部数据与训练栈的依赖较重（数据一节单列），外部复现难度不小。 3. FixAnything：一个视频先验修四种3D表示 FixAnything: 3D-Consistent Rendering Refinement via Video Generative Priors | 卡内基梅隆大学 (CMU) | arXiv:2608.23549 关键词：渲染伪影修复,视频生成先验,3DGS,NeRF,几何感知DPO,视频到视频翻译,ECCV 2026 前序问题：3DGS、NeRF、网格甚至点云在输入视角稀疏、或目标视角离输入较远时都会渲染出伪影，这是三维重建落地的通用痛点。已有工作确实在用扩散生成先验来修，但几乎都是「一种表示一套方案」：给 3DGS 修伪影的模型改用到 NeRF 上要重设计架构，点云的稀疏空洞和网格的几何错误又是另外两类退化模式。结果是工程上要维护多条专用修复管线，每条都要单独设计架构并大规模重训。更深一层的问题是，多数修复方法逐帧独立处理，修出来的结果虽然单帧好看，但跨帧不一致，无法反过来喂给下游重建——这就失去了「修复」最重要的用途。 本文贡献：FixAnything 的关键洞察很朴素：即使是噪声很大的渲染序列，也仍然保留了相机运动与粗略场景结构，因此清理伪影可以被直接表述成「视频到视频翻译」，从而复用预训练视频生成模型隐含的多视角先验，只需极少改动与轻量微调。落地是两阶段。Stage I 监督微调：输入退化视频经冻结的 VAE 编码器得到条件 latent，与噪声、以及一张标记「哪些像素是干净的」的二值 mask 一起送入冻结的 DiT，只训练 LoRA，再由冻结 VAE 解码器出目标视频。这张 binary mask 是可控性的来源——它让模型把输出锚定在高质量输入（例如训练视角）上，只精修其余部分，而不是把整段视频重画一遍。Stage II 几何感知偏好优化：用同一条输入视频跑多个随机种子的 rollout，把每次输出送进 structure-from-motion 恢复相机位姿，与 GT 位姿比较，位姿误差大的判为负样本、误差小的判为正样本，用 DPO 更新 LoRA。换言之，它把「几何一致性」这个原本难以微分的目标转成了可直接优化的偏好信号，而不是再加一堆手工正则。 实验效果：跨四种不同的 3D 表示，FixAnything 都用轻量微调稳定提升了渲染质量，证明单个通用视频先验可以替代多条专用精修管线。最直观的是点云与稀疏输入的修复结果：游乐场攀爬架序列中，输入的中间三帧几乎只剩黑底上的散点（点云稀疏到看不出结构），输出恢复出完整的金属管架、地面绿漆与远景树木，与 GT 高度接近；亭子序列里输入帧被大面积黑洞和撕裂纹理占据，输出补出了完整的木构屋檐、栏杆、石阶与背景树林，逆光帧的光晕也被合理重建。mask 感知条件的消融显示，不加 mask 时干净的训练视角也会被模型重画而丢失细节。框架的简洁性还带来一个附加好处：将来出现更强的视频模型可以直接换上，不需要重新设计架构。 FixAnything generalizes across input representations. The same model cleans up sparse COLMAP point clouds (top) and meshes (bottom), producing photorealistic output despite minimal visual input except for the clean first and last views. 批判点评：摘要通篇用「consistently improves」描述结果，没有给出任何 PSNR/LPIPS 的具体数字，也没说明四种表示各自提升了多少，这在一篇已被 ECCV 2026 接收的论文里显得异常保守，读者无法判断增益是显著还是边际。用 SfM 恢复的位姿精度当 DPO 奖励是个聪明设计，但 SfM 本身在纹理稀疏或强逆光场景就会失败，此时奖励信号的可靠性存疑，论文没有讨论这个失效模式。定性结果里输出与 GT 存在明显的「生成味」——亭子序列中输出的树木纹理和光晕分布与 GT 并不一致，说明模型在补全时引入了幻觉内容；对于测绘、数字孪生这类要求忠实度的场景，这种「好看但不忠实」的修复是风险而非收益，而位姿一致性奖励只约束几何、约束不到外观真实性。此外全部实验用的都是同一个预训练视频骨干，「通用性」的结论究竟来自方法还是来自这个特定骨干的能力，缺少交叉验证。 4. Loopy：锚定层位置编码把时间轴掰成圆 Loopy: Seamless Video Loop Generation via Anchored Looping Shift of Positional Embedding | 天津大学、香港理工大学、腾讯 | arXiv:2608.23090 关键词：循环视频生成,RoPE位置编码,分层时序控制,锚定层,免训练,RGBA视频,ACM TOG 前序问题：循环视频在网页动效、游戏素材和社交媒体里需求很实在，但现有做法质量普遍不行，根因在于大家都绕过了一个基础问题：视频生成模型究竟如何感知时间顺序，这种感知又如何决定首尾能否接得上。常见的两条路各有硬伤——直接在提示词里写「scene looping seamlessly」，模型基本不理解，生成出来的首尾差异巨大（鲨鱼从侧身游到正面怼镜头，根本接不上）；用首尾帧到视频（FLF2V）把首帧复制给尾帧作为参考，虽然强制首尾一致了，但模型为了同时满足两端约束会把中间的运动压得几乎静止，得到的是「能循环但不动」的伪循环。两条路都没有触及 DiT 内部时序表示这一层。 本文贡献：论文首次揭示：DiT 内不同注意力层的位置编码对时序顺序的控制强度差异很大，其中最强的那一层可以视为「锚点」。他们把这个锚定层设为循环视频的参考点，为其余层提供强上下文先验。基于此提出锚定位置编码偏移策略——按每层实际的时序控制效应给出层特定的偏移长度，把 DiT 对时间的感知从「一条直线」变成「一个圆」。实现上极简：在每个 DiT block 的自注意力里，Q/K 除了原始 RoPE R_{t,h,w}，再并行算一份偏移后的 RoPE，偏移量为 (t − δ_l) mod T'，其中 δ_l 是第 l 层的时间偏移，两者按层组合后再进 attention 与交叉注意力+FFN。整个过程不改权重、不需重训，是纯推理期干预，因此可以直接挂在 Wan2.1/2.2、HunyuanVideo 1.5 等现成基座上，并同时支持 RGB 与 RGBA 视频，还能叠加身份控制与风格迁移这类 AIGC 能力。 Comparison of Wan2.2 14B and HunyuanVideo 1.5 outputs when shifting RoPE at the layers with the first- and second-largest $\alpha_l$, relative to the original generated videos. 实验效果：逐层分析图给出了机制的直接证据：Wan2.2 14B 的 α_l 曲线在第 0 层达到峰值约 0.31、第 1 层约 0.22，之后迅速衰减到 0.05~0.15 区间；HunyuanVideo 1.5 的峰值落在第 2 层（约 0.31）与第 6 层（约 0.21）。在 α_l 最高的层做偏移会破坏内容（墨滴场景出现整帧粉紫色偏色与结构错乱），在次高层偏移则能保持内容正确并实现循环，这正是「按层给不同偏移量」这一设计的来源。定性对比中，T2V 基线生成的鲨鱼首尾姿态完全不同、无法循环；FLF2V 虽首尾一致但四帧几乎静止；Loopy 既保持首尾可接，中间又有真实的尾部摆动与身体位移。论文报告循环视频的时序一致性与视觉保真度都有显著提升，用户研究在运动连贯性等维度上给出更高评分，模型已在项目主页发布。 Comparison with Wan2.2 in text-to-video (T2V) and first-last-frame-to-video (FLF2V) modes. FLF2V and our method use the same prompt. Although the prompt explicitly requests a looping scene, T2V fails to produce a seamless loop, while FLF2V degenerates to a nearly static video. Neither mode generates a looping video with vivid motion. 批判点评：最实际的限制是这套策略与基座强绑定：α_l 的峰值层因模型而异（Wan2.2 在第 0/1 层、HunyuanVideo 1.5 在第 2/6 层），换一个基座就要重新做逐层扫描来定位锚点和标定每层偏移量 δ_l，论文没有给出自动化的标定流程，这在工程上是一笔隐性成本。δ_l 的具体取法只描述为「按每层时序控制效应」，缺少可复用的公式或搜索预算说明。效果侧全部以「significantly improves」和用户研究箱线图呈现，没有报告循环质量的客观指标（例如首尾帧感知距离），而这恰恰是最容易量化的一项。另外从 α_l 曲线看，中后层存在若干局部尖峰（Wan2.2 在 20~30 层、HunyuanVideo 在 30~40 层附近），论文只利用了全局最强的一两层，这些次级峰是否也参与时序控制、忽略它们是否留下了改进空间，没有讨论。最后，能循环的内容类型边界不清——鲨鱼游动、墨滴扩散这类准周期运动天然适合循环，而有明确起止语义的动作（如开门、倒水）能否成立，未见说明。 5. Object-Uni：物体位姿当显式变量贯通理解生成 Object-Uni: A Unified Model for Object-Centric Spatial Understanding and Controllable Generation | 中科院自动化所、国科大、清华大学、蚂蚁集团 | arXiv:2608.22757 关键词：统一多模态模型,物体位姿,视角化朝向抽象,可控生成,新视角合成,UniSpatial-80K,蚂蚁集团 前序问题：统一理解与生成的模型这两年进展很快，但有一项能力始终缺位：理解并操纵物体实例的空间状态。现有模型能用自然语言把物体描述得很好（「一把红色的椅子在桌子旁边」），却做不到两件事——精确表示连续的物体位姿，以及在指定目标视角下生成几何一致的图像。根子上的原因是位姿在现有工作里的地位错了：要么被当成一个待预测的标签（理解侧的输出），要么被当成一个外部控制信号（生成侧的输入），两侧各用一套表示、互不相通。而多模态大语言模型天然处理离散 token，连续的旋转矩阵/四元数很难直接塞进语言空间并保持可推理性，这是把位姿变成「理解与生成共享变量」的主要技术障碍。 本文贡献：Object-Uni 把物体级空间智能重新表述成一个统一问题，把位姿感知、空间推理、位姿条件生成、物体级新视角合成四件事连起来，并把物体位姿当作理解与生成共享的显式几何变量。为了让 MLLM 能真正用上位姿，他们提出视角化朝向抽象：把朝向映射为结构化的视角描述（便于语言模型推理），同时保留连续的几何监督（不丢精度）。架构上，理解分支里输入图像经视觉编码器、文本经 tokenizer、物体裁剪图额外经 DINO 编码器进入冻结的 MLLM，MoE 中激活一组可训练 expert，输出侧除常规 NTP loss 外加一路 orient head 承担 orientation loss；生成分支复用同一 MLLM（此处 expert 冻结），用可学习 query 经 connector 送入可训练的 Diffusion Transformer，与图像 latent、目标位姿 latent 一同去噪。此外构建了物体级空间基准 UniSpatial-80K，并用「物体 token 锚定的位姿锚」把每个实例与其位姿状态绑定，避免多物体场景下位姿串位。 Overview of Object-Uni. Our model unifies object-centric spatial understanding and orientation-controllable generation. The dotted modules denote object-centric novel view synthesis. 实验效果：实验显示物体级位姿理解与位姿可控生成都有提升，把统一模型从「描述物体」推进到「操纵空间状态」。定性对比中，单物体位姿控制上 Object-Uni 能在保持参考物体外观身份的同时把收割机、叉车、板车、越野摩托转到目标视角，而对照的 SceneDesigner 虽然也换了视角但常常改掉物体本身（收割机换成另一款红色机型、叉车变成挖掘机、板车上多出一个南瓜）。多物体场景下差距更明显：书本、相机、沙发、鞋子四组里 Object-Uni 保持了实例数量与相对布置（两本书叠放、两台相机并排、鞋子一双朝向一致），SceneDesigner 则出现物体简化、颜色改变与朝向不一致。 Evaluation of pose-controllable generation in single- and multi-object scenarios. The reference image in the first row serves as the source for the input text and 9D pose annotations. Object-Uni shows better text alignment and pose consistency under diverse pose conditions. 批判点评：「视角化朝向抽象」在把连续朝向离散成结构化视角描述时必然有精度损失，论文没有报告这个抽象带来的角度误差上界，而它直接决定了这套表示能支撑多细的位姿控制——如果分辨率只到「高角度视角/侧视」这一级，就谈不上真正的连续位姿操纵。效果全部以「improves」概括，摘要层面没有一个具体数字（角度误差、位姿准确率、生成一致性指标均缺），UniSpatial-80K 上与其他统一模型的横向对比也未见。基准由作者自建、模型也在其上训练与评测，存在自证循环的风险，缺少在第三方物体位姿数据集上的迁移验证。架构上依赖冻结 MLLM + MoE expert + DINO 编码器 + 可训练 DiT 四个部件，训练与推理开销显著高于纯 MLLM 方案，论文未给出代价核算。定性对比只选了 SceneDesigner 一个基线，说服力有限。最后，从生成结果看 Object-Uni 输出的图像在背景与光照上与参考图差异较大（收割机的麦田、摩托的赛道都被重画），说明「保持物体身份」是靠牺牲场景一致性换来的。 6. Next-Scale NVS：下一尺度自回归单次出多视角人脸 Photorealistic Novel View Synthesis of Human Faces using Next-Scale Transformers | 洛桑联邦理工 (EPFL)、Meta | arXiv:2608.23410 关键词：新视角合成,下一尺度自回归,多尺度VQVAE,跨视角一致性,GS-LRM,合成数据训练,Meta 前序问题：人物的照片级新视角合成在高分辨率、多目标相机的设定下仍然很难：既要保住身份，又要保住细微的外观细节（皮肤纹理、发丝、衣物褶皱），还要让多个视角之间几何自洽。主流做法是扩散模型，但它有两处结构性代价。一是必须依赖大规模 2D 预训练才能有可用的先验，这决定了它对数据量的胃口。二是多视角一般靠逐视角独立采样再想办法约束一致性，跨视角自洽是「事后补」而非「内生」，分辨率越高、目标相机越多，不一致就越明显。对于真人数据难以大规模合法采集的人脸场景，「必须靠海量任务数据才能收敛」本身就是一个卡点。 本文贡献：作者不走扩散，而是把下一尺度自回归（next-scale autoregressive）范式适配到以人为中心的视角合成上，使其支持更高分辨率、多视角输出与更强的跨视角一致性，且全部在单次前向里完成。管线是：N 张 512×512 输入图经多尺度 VQVAE 编码器得到逐尺度 token（i_1 为 N×1×32、i_2 为 N×4×32、i_3 为 N×9×32，依次加密），与 CLIP 特征、目标相机外参 (R_1,T_1)…(R_M,T_M) 组成的全局条件一同经 word embedding 进入 Causal Next-Scale Transformer，自回归产出 M 组目标视角的逐尺度 token r_1/r_2/r_3，再由多尺度 VQVAE 解码器一次性解出 M 张 512×512 视角；训练时目标视角走 teacher forcing。这个范式的关键红利是训练数据经济性：不需要 2D 预训练，且低分辨率、通用的预训练可以直接复用，只在最后几个训练阶段才用到全尺寸的任务专用图像，因此用一个更小但更真实的数据集就能收敛。他们在覆盖多样身份与服饰的合成人脸数据集上训练，并把输出接到已有的 GS-LRM 上做像素对齐的 3D 高斯提升，最终得到人脸的 3D 模型。 Our architecture: input images are encoded into multi-scale features by the VQ-VAE encoder and used as inputs for the transformer. They are also embedded into a global conditioning along with the camera-pose RT matrix, used both in the AdaLN layers and the SOS tokens. The transformer outputs one scale at a time for every output view simultaneously, up to the final scale. The output features are decoded by the VQ-VAE decoder to produce the final RGB images, which can be lifted to 3D gaussians by an off-the-shelf GS-LRM model. During training, previous scales are teacher-forced, while during inference the model is auto-regressive. The architecture is the same for all our models, with the only difference being the number of input and output views. 实验效果：模型输出锐利且真实的视角图，并可选择同时合成多个新视角以提升视角间的一致性。论文报告在人物主体上感知保真度与跨视角连贯性均有增益，说明下一尺度自回归可以作为可扩展、多输出的人物视角合成骨干。与 FaceLift 的六视角对照能看出差距落在身份保持上：FaceLift 把发色提亮成偏灰金、发型改成盖头式，侧脸轮廓被压扁、后脑呈现出与真值完全不同的整齐发块，肤色整体偏白；本文方法在六个视角上的脸型、下颌线、肤色与颈部阴影都贴近真值，仅在后脑一列把稀疏的头发画得略密。与 GS-LRM 串联后，从多视角人脸输入可得到准确且照片级的三维人脸模型，完成了「多视角生成 → 3D 高斯提升 → 渲染」的闭环。多尺度 VQVAE 的微调与不同 patch 划分方式的消融（256/512 分辨率、normal 与 diff patchify）表明适配到 512 分辨率时 VQVAE 微调是必要的。 批判点评：最大的问题是训练数据全部为合成人脸，论文自己也强调「a smaller but more realistic training dataset」，但合成到真实的域差距未见量化评估，模型在真实拍摄人脸上的表现是空白，而这才是实际用途所在。量化结果同样只以「we observe gains」表述，没有 PSNR/LPIPS/身份相似度的具体数字，也没和 FaceLift、Splatter-Image 这些明确出现在其定性对比目录里的基线给出表格化比较。分辨率停在 512×512，对影视级人脸资产而言偏低，而下一尺度自回归的 token 数随尺度平方增长，往 1024 走的代价论文没有交代。第一作者的贡献声明为「在 Meta Reality Labs 实习期间完成」，且 LaTeX 源里仍留有多处 TODO FINAL: Replace with your institution list 未清理的模板注释，说明这是一版尚未定稿的投稿，结论宜谨慎引用。此外整套流程依赖外部 GS-LRM 做 3D 提升，端到端的几何误差如何在两个模型之间分摊也没有分析。 7. Lever-Edit：不用编辑奖励也能做编辑在线RL Can We Perform Online RL for Image Editing without Editing Rewards? | 北京大学 | arXiv:2608.22780 关键词：图像编辑,在线强化学习,T2I奖励迁移,反事实目标描述,奖励对齐caption,北京大学 前序问题：用强化学习直接优化图像编辑的人类偏好，前提是有可用的编辑专用奖励模型，而这一块恰恰很薄——训练编辑奖励需要昂贵的三元组监督（原图、指令、编辑结果），还要按任务做复杂的标定。反观文生图（T2I）这一侧，奖励生态已经相当成熟且多样：语义对齐、美学、真实性、字形形状等各类视觉偏好都有现成模型。把这套生态迁移到编辑上，能大幅拓宽 RL 可优化的偏好维度。但迁移有一个本质错配：编辑指令描述的是「相对变化」（把狗变成大理石雕像），而 T2I 奖励要求的是「自包含的目标描述」（一只大理石雕像的狗，立在基座上）。而且通用视觉语言模型给出的 caption 虽然语义正确，却可能与被冻结的奖励模型不兼容——奖励模型对措辞、句式有自己的偏好，语义对但表述不对，打出来的分就是噪声。 本文贡献：作者先论证标准的图像编辑维度是可以映射到 T2I 奖励空间的：图像质量可以直接迁移；提示遵循可以通过「对期望视觉状态的描述」来对齐；参考一致性则可以通过把需保留的源内容编码进描述里做粗粒度语义转换。在此基础上提出 Lever-Edit 两阶段框架。Stage 1 是 T2I query 对齐：训练一个奖励对齐的 captioner，它接收系统提示与编辑指令（各有可学习的 embedding 权重），经 VLM 解码出「反事实目标描述」——即编辑成功后画面应该是什么样的自包含描述；训练时 VLM 冻结、只学 reward-aligned query embedding，用聚合的多个 T2I 奖励作为信号，让 captioner 学会说奖励模型「听得懂」的话。Stage 2 是奖励对齐微调：把 captioner 冻结，只用迁移来的 T2I 奖励优化编辑策略本身（此时编辑骨干解冻、query embedding 冻结）。两阶段的冻结/解冻是交替的，这个设计避免了 captioner 与策略互相追逐导致的奖励崩塌。 Overall two-stage T2I reward transfer pipeline in Lever-Edit. 实验效果：实验显示 Lever-Edit 在编辑对齐度与源内容保持上都能与基于编辑奖励微调的方法竞争，同时明显优于几种直观的迁移基线。定性对比按提示遵循、美学、一致性、自然度四组维度组织，八个编辑任务里可以看到：不做对齐（w/o Alignment）时「把狗变成大理石雕像」只是把狗漂白、「换成极简白背景」直接把人像退化成线稿；Lever Pure Edit 与 Lever Pure VLM 各有偏差（前者美学不足，后者出现主体改变，如冲浪板换成桨板时人物姿态被重画）；Lever Offline SOTA 在自然度上仍有塑料感；完整的 Lever-Edit 在四组维度上综合最好——大理石雕像有正确的石材质感与基座、红色跑车放到建筑前方且透视正确、热气球加入天空且尺度合理、白色背景替换保留了人物细节。 Qualitative analysis of different methods. Lever-Edit successfully edits the images with strong prompt following and high aesthetics, while maintaining both semantic and source consistency with naturalness. Zoom in for better visualizations. 批判点评：「competitive against editing-reward-based fine-tuning」这个表述值得留意——它说明本方法并未超越用真正编辑奖励训练的上界，价值在于省掉三元组标注成本，而不是效果更好；如果编辑奖励模型未来变得容易获得，这条路径的必要性会下降。摘要没有给出任何数字（编辑对齐、源保持的具体指标与基线差距均缺），也没说明用了哪几个 T2I 奖励模型及其聚合权重，而这直接决定结果可复现性。方法引入的 captioner 是新的失效点：反事实目标描述如果写错（把「移除」理解成「替换」），策略就会被系统性地引向错误方向，论文未讨论 caption 错误率及其对训练的影响。「参考一致性靠粗粒度语义转换」是全流程最薄弱的一环——T2I 奖励天生不看源图，无法真正惩罚身份改变，从定性图里也能看到 Lever Pure VLM 出现主体被重画的情况；这类结构性缺陷不是靠 captioner 能补齐的。另外两阶段交替冻结的训练配方对超参可能较敏感，稳定性未见报告。 8. SACHA：2.23MB存下动态高斯头像 SACHA: Semantic-Aware Compression for 3D Gaussian Head Avatars | 香港城市大学、阿里巴巴达摩院 | arXiv:2608.23133 关键词：3D高斯头像,语义感知密度控制,外观-运动解耦压缩,率失真优化,头部先验参数,阿里达摩院 前序问题：可驱动的 3D 高斯头像渲染质量高、控制灵活，但高斯基元数量庞大，存储和传输成本都很重，这是它进入视频会议、VR 社交、移动端这些实际场景的主要障碍。现有的高斯头像方法有两处共同盲区。第一，忽视了头部不同语义区域的视觉显著性差异——眼睛、嘴唇这些高频且被注意力集中的区域和后脑、脖颈这类低频区域，如果按同样的密度分配高斯基元，就是把预算浪费在看不出差别的地方。第二，几乎没人做训练完成后的头像序列压缩：一段动态头像在时间维度上高度冗余（外观基本不变、只有表情和姿态在动），但主流做法仍然逐帧存储完整的高斯参数。 本文贡献：SACHA 把两件事合起来做。语义感知密度控制在训练阶段按头部区域自适应分配高斯基元，做区域自适应的稠密化与剪枝，把预算集中到显著区域；配套的语义感知标准高斯训练管线负责产出这个紧凑的标准（canonical）表示。外观-运动解耦压缩针对序列冗余：编码端对每一帧先用头部先验模型提取形状 β、表情 ψ_t、姿态 θ_t 三组头部先验参数，单独编成参数码流；高斯本体则拆成绑定索引 {b_i} 与标准高斯 {g_i}，各经坐标排序后编成索引码流与高斯码流。解码端拿到三路码流后，由头部先验模型驱动「头部先验引导的形变」，把标准高斯变形到当前帧。关键在于：外观（标准高斯 + 绑定索引）只需传一次，运动只传头部先验参数——参数量比逐帧全量高斯小几个数量级，这就是时间冗余被吃掉的地方。 Overview of the proposed appearance-motion decomposed compression framework for 3D Gaussian head avatars. 实验效果：率失真性能优于现有的高斯头像表示与压缩方法，同时保持高质量的新视角与新表情渲染。单被试（Subject 264）的主观对比给出了很具体的数字：SACHA 只用 2.23 MB 就达到 PSNR 29.9984 dB，而 G-PCC 需要 10.50 MB 才拿到 29.9856 dB（约 4.7 倍体积换来几乎相同的质量）；TGA 用 20.69 MB 只有 28.7186 dB，SACHA 在体积小约 9 倍的同时质量还更高。质量更高的两个基线代价极大——SVG-Head 84.12 MB / 31.2910 dB、TexAvatars 69.67 MB / 31.0862 dB，都比 SACHA 大 30 倍以上。HEVC 在 21.49 MB 下只有 21.49 dB 级别的可见退化（脸部结构明显扭曲）。新视角合成的 RD 曲线（PSNR/SSIM/LPIPS 三张图，横轴为对数尺度的 MB）显示 SACHA 的绿色曲线整体位于 1.5~3 MB 区间，而全部基线分布在 10~105 MB。 Subjective comparisons with G-PCC, HEVC, CompactSTG, GA, SVG-Head, TexAvatars, and TGA on subjects 074 and 264 from the NeRSemble dataset. 批判点评：从 RD 曲线看结论要更克制一些：SACHA 在自己的码率区间内 PSNR 大致在 28.8 dB 附近，明显低于 SVG-Head 的约 29.95 dB 与 TexAvatars 的约 29.85 dB，也就是说它换来极小体积的代价是质量上限被压低了——单被试上 29.9984 dB 的漂亮数字并不代表平均水平。LPIPS 一栏尤其值得注意：SVG-Head 约 0.045、TexAvatars 约 0.048，而 SACHA 约 0.11~0.12，感知质量差距比 PSNR 体现的更大，对于强调面部细节的应用未必可接受。方法整体强依赖头部先验模型（形状/表情/姿态参数化），先验拟合失败的情况（夸张表情、被遮挡、佩戴眼镜或头发遮挡面部）会直接让形变解码出错，论文没有报告这类失效。语义分区如何获得、分区错误的鲁棒性也未见交代。此外全部实验只在头部这一类目标上，方法名里的语义感知密度控制是否能推广到全身或一般物体，缺少验证。 9. DefaultShift：加速后颜色默认最多漂移0.303 DefaultShift: Auditing Semantic Default Shift in Accelerated Text-to-Image Models | 悉尼大学 | arXiv:2608.21784 关键词：少步加速模型,语义默认漂移,成对审计,VLM评估,离线校准,分布偏移,推理加速代价 前序问题：少步文生图模型正在大规模替换慢速生成器，但加速可能悄悄改变那些提示里没有指定的属性的分布——每一张输出看起来都合理、也都与提示对齐，可整体分布已经变了。作者把这类分布称为语义默认（semantic defaults），把替换导致的变化称为语义默认漂移。问题在于现有评测完全测不出它：质量指标只看单图好坏，偏好指标只看人更喜欢哪张，多样性指标只看整体是否单调，三者都不检验「替换模型是否保留了参考模型的语义默认」。后果是实践中的隐性风险——用少步模型批量生成训练数据时，颜色、背景、光照、视角的默认分布已经偏移，下游模型会继承这个偏差，而流水线里没有任何一环会报警。 本文贡献：DefaultShift 是一套成对审计流程。上半部分 Default Shift-Audit 分三段：成对采样阶段，对同一提示（如「a photo of a helicopter」）分别用参考模型 T（多步扩散）和加速替换模型 S 各生成一批图；语义默认阶段，用 VLM 评估器按封闭语义词表（颜色、背景、光照、视角等，每类若干离散取值）给每张图打标，得到两个直方图；漂移审计阶段，用 TV 距离等指标算概率质量的移动，并做教师自举校正（TV_adj = TV(T,S) − η_T）以剔除参考模型自身的采样噪声，再经 q=32 筛查、q=64 确认两级预算与 cell-level bootstrap，输出按配方排序的结果和方向性签名（偏暖还是偏灰）。下半部分 Default Shift-Select 是离线校准：给定参考直方图模板与 CLIP 质量下限，从 M=128 的候选池里做分布匹配（min TV），挑出 N=32 张既满足质量门槛、又让语义分布贴近参考模型的图。方法把「解释性排序」与「确证性的 cross-fit 推断」分开，避免用同一批数据既选又证。 Overview of DefaultShift. The audit generates matched samples from a declared reference and accelerated replacement, maps each image to a closed semantic vocabulary, and compares their conditional distributions. Cell-level discrepancies are aggregated for recipe ranking and directional analysis. DefaultShift-Select uses reference statistics and a quality-filtered replacement pool to construct a distribution-matched offline subset. 实验效果：在 14 组参考/替换配对上，调整后的颜色差异从 0.054 到 0.303，且方向随加速配方而异。统一 q=64 审计的排序里 NitroFusion-4 最严重（约 0.30），Turbo 约 0.25、DMD2 约 0.23、NitroFusion-1 约 0.23、FLUX-schnell 约 0.20，而 LCM 与 Lightning 最轻（约 0.05）。多属性画像显示颜色是最大的漂移源（0.20~0.30），背景 0.06~0.12、光照 0.05~0.09、视角仅 0.01~0.03。方向性指纹图给出定性结论：DMD2、Turbo、Lightning、LCM 都朝「暖色质量增加」方向移动（DMD2 的 Δ暖色质量约 +0.16 最显著），FLUX 则相反，朝灰色方向漂移（Δ暖色质量约 −0.07）。1000 张图的人工审计复现了同样的排序。DefaultShift-Select 在 Turbo、DMD2、FLUX 上把人工测得的漂移降低了 10.3% 到 35.1%，且没有实质的质量损失；在均衡评测下，经校准的数据相比未校准的替换数据恢复了 4.3 个准确率点和 7.5 个最差组点。 Acceleration recipes differ in magnitude, attribute, and direction. a The unified $q=64$ audit covers all 14 replacement pairs. Lines are 95% object-cluster intervals. b Color dominates the four-attribute profile, while viewpoint shifts are small. c Replacement-minus-reference changes in gray and warm mass reveal opposing recipe fingerprints. 批判点评：整套审计建立在 VLM 评估器加封闭语义词表之上，两处都会引入偏差：VLM 自身对颜色、光照的判断有系统性倾向，论文虽给出了人类与 VLM 的混淆矩阵，但那只覆盖「clear case」，模糊样本上的一致性未知；封闭词表则把连续属性强行离散化，词表粒度直接决定测出多大的 TV 距离，换一套词表数值不可比。「颜色差异 0.054 到 0.303」是 TV 距离而非人眼可感差异，缺少感知尺度上的锚定，读者很难判断 0.2 究竟意味着轻微偏暖还是明显变色。DefaultShift-Select 只是事后筛选，本质是丢弃不合分布的样本来贴近参考分布，代价是有效产出下降（128 选 32，即弃掉 75%），这个吞吐损失论文没有和「干脆用慢速模型」做成本对比。审计限定在提示未指定的属性上，但「未指定」的边界本身依赖提示写法，作者用的是「a photo of a {object}」这类极简模板，真实业务里的长提示会指定更多属性，结论的外推性有限。最后，下游 4.3/7.5 点的增益只在其自建的均衡评测设定下成立，任务范围较窄。 10. FIRM-Video：先核查再打分的8B视频奖励模型 FIRM-Video: Check Before You Score for Reliable Text-to-Video Reward Modeling | 上海交通大学、腾讯优图实验室、同济大学 | arXiv:2608.21839 关键词：视频奖励模型,清单驱动,先核查再打分,指令遵循,世界一致性,感知质量,腾讯优图 前序问题：可靠的奖励模型是文生视频评测与对齐的基础，但评测准确性与推理效率之间的权衡，把压力全压回了训练监督的质量上。现有做法分两类，各有各的毛病。一类是固定评分细则的整体式评判：一个提示进来，模型按几条固定维度直接给总分，检查必然不完整——提示里明确要求的细节（红色狐狸、镜头右摇、雪地森林）不会被逐条核对。另一类是开放式推理：让模型自由生成一段分析再打分，问题是理由与分数经常不一致（unfaithful justification），而且多个维度的归因彼此纠缠（entangled attribution），分低了到底是因为没跟指令、还是因为画面糊，说不清。归因不清的奖励用来做 RLHF 或 Best-of-N，优化方向就是模糊的。 本文贡献：FIRM-Video 提出统一的清单驱动数据构造框架，核心是「先核查再打分」原则：构造维度专属清单 → 逐条对着时序视觉证据核验 → 只聚合被验证过的判断。三个维度各有各的清单构造方式。指令遵循（IF）把提示拆成带权重的原子需求（「红狐是否在场」「狐狸是否跃过木头」「场景是否下雪」「镜头是否右摇」），逐条验证满足与否，按权重加权求和得 1~5 分。世界一致性（WC）构造经提示校准的、针对具体目标的检查项，锚定在可见实体与动作上（「狐狸身份是否稳定」「解剖结构是否合理」「落地是否符合物理」），只对检测到违反的项计分。感知质量（PQ）用一套通用视觉缺陷分类（清晰度、模糊、色彩稳定性、闪烁、压缩伪影、局部畸变）做缺陷验证。三路验证过的判据与分数再被转成自然语言分析，用于端到端奖励建模的理由综合。数据上构造了 FIRM-Video-90K（29,348 个视频、3,012 个提示、3 个维度、88,044 条维度专属实例），并发布 FIRM-Video-Bench（250 个视频、750 条点式人工标注）。 Overview of the FIRM-Video data construction framework and reward model training. Given a prompt and its generated video, FIRM-Video applies a unified check-before-score pipeline to construct fine-grained supervision for instruction following, world coherence, and perceptual quality. The resulting dimension-specific analyses and scores form FIRM-Video-90K, which is then used to train the FIRM-Video-8B reward model. 实验效果：基于 Qwen3-VL 的 FIRM-Video-8B 在 FIRM-Video-Bench 上取得最优的总体 MAE，同时在三个视频生成器上的 Best-of-8 采样中稳定给出最高的 VBench Total、Quality 与 Semantic 分数。teaser 的案例很有说服力：一段工业车间里工人挥锤的视频存在三处问题（手柄颜色不对——提示要求纯黑却是浅棕、手柄形变、手柄畸形），人工标注给出 IF 3 / WC 2 / PQ 5；GPT-5 给 4/5/5、Qwen3-VL-8B 给 5/5/5，都严重高估了世界一致性；只有 FIRM-Video-8B 给出 3/2/5，与人工完全一致。模型输出的理由也指向了正确位置（「锤柄是浅棕而非指定的纯黑」「严重的解剖形变与锤柄融合」）。 Qualitative evaluation case of FIRM-Video-8B, illustrating its improved alignment with human judgments. 批判点评：清单本身是用 LLM 从提示里自动拆出来的，这就把可靠性问题往上游推了一层——如果原子需求拆错或漏拆（比如把「镜头右摇」漏掉），下游再严格的核验也补不回来，论文没有报告清单构造的召回率与准确率。权重同样如此：IF 分数是原子需求的加权和，权重怎么定、对结果多敏感，摘要层面没有交代。核验环节仍然由 MLLM 执行，「对着时序视觉证据核查」只是把一次大判断拆成多次小判断，单次判断的错误率并未消除，只是被平均了；对细粒度物理违例（手柄形变这类）MLLM 的检测能力本身就是瓶颈。FIRM-Video-Bench 由作者构建、模型也在同源数据上训练，报「最优 MAE」存在数据分布同源的优势，跨基准（如 VideoScore、VBench-Reward）的迁移结果缺失。Best-of-8 只测了三个生成器，且未说明是哪三个、覆盖是否有代表性。另外三个维度分别打分虽然解开了归因纠缠，但如何聚合成单一奖励用于 RL 训练，论文未给出方案，这一步没有解决的话，可靠归因的价值就还停留在评测阶段。 趋势观察 世界模型的竞争焦点从「画面好不好」转向「进得去、走得动、听得见」 — 今天最值得注意的信号是京东 Joy Future Academy 开源了 EchoWM，它把三件此前分开做的事塞进了一个模型：连续导航响应、720p 视频生成、以及环境音/音乐/语音的同步生成。过去一年世界模型的论文大多在比 FVD 和画面保真度，控制接口则各家各造——第一人称用一套相机控制器，第三人称再单独训一个角色控制器。EchoWM 的做法是把「相机意图」抽象成唯一接口：第一人称下它就是观察者运动，第三人称下相机与角色的耦合关系直接从数据里学，不额外设计视角专用控制器。离散按键和连续位姿统一映射到带公制尺度的相对 6-DoF 轨迹，再做数据集级校准，让不同来源的数据保持一致的运动幅度。这套设计的价值在于它承认了一个现实：世界模型最终要交到用户手上被「玩」，而不是被离线打分。同一天他们还放出了姊妹工作 JoyAI-Echo-1.5（arXiv:2608.23383），专攻跨镜头记忆的长视频叙事，两篇合起来是一次完整的系统级发布。值得留意的是「音频」这一路终于被当成一等公民而非后期配音——长时程下环境声与语音能否保持同步，正在成为区分「视频生成器」和「世界模型」的一条硬指标。 少步蒸馏正在从「加速技巧」长成「交互能力的前提条件」 — Adobe 的 EditStream 把这个转变说得很清楚：它先用灵活的任务条件把文生视频、图生视频、视频转视频、编辑传播、参考图引导编辑、相机位姿变更六件事统一到一个 DiT 里，然后才做少步自回归蒸馏——因为不做蒸馏，这个统一模型就没法用于交互式创作。他们提出的 Velocity Moment Matching 值得关注：不是在教师的采样轨迹上做匹配，而是在学生自己走到的中间状态上匹配条件速度矩，再叠加自回归 unrolling 让学生暴露在自己的预测误差里。从 T2V 的对比图能直接读出差异——Self-forcing 版本几乎是把首帧复制了四遍（狗和狼都原地不动、龙灯几乎静止），VMM-forcing 才有真实的位移和形变。这条线索和 Loopy 是呼应的：Loopy 发现 DiT 内不同注意力层的位置编码对时序顺序的控制力差异极大，最强的那层可以当锚点，按层给不同的偏移量就能把「直线」时间感知掰成「圆」，从而无需训练地生成无缝循环。两篇一起看，说明视频 DiT 的时序机制还有相当多可被显式操纵的结构，不必事事回到重训。 评测这一侧开始追问「加速和对齐到底悄悄改掉了什么」 — DefaultShift 提了一个此前几乎没人测的问题：少步模型替换慢速模型时，那些提示里没指定的属性（颜色、背景、光照、视角）的分布会不会被悄悄改掉？他们把这个现象命名为语义默认漂移，并给出成对审计流程。结果相当刺眼——14 组参考/替换配对里，调整后的颜色差异从 0.054 到 0.303，且方向因加速配方而异：DMD2、Turbo、Lightning 整体偏暖，FLUX-schnell 反而偏灰。1000 张图的人工审计复现了同样的排序。这提示一个容易被忽略的成本：蒸馏的代价不止是画质，还有分布层面的偏移，而现有的质量/偏好/多样性指标都测不出来。FIRM-Video 则从奖励模型一侧收紧标准，用「先核查再打分」替代整体式打分——先把提示拆成带权重的原子需求，逐条对着时序视觉证据核验，只聚合被验证过的判断。它的 teaser 很有说服力：同一段有明显手柄形变的视频，GPT-5 给 4/5/5、Qwen3-VL-8B 给 5/5/5，人工标注是 3/2/5，只有 FIRM-Video-8B 对上了。当生成能力持续走高，能否可靠地「说出哪里错了」正在成为比刷分更稀缺的能力。 人工智能炼丹君 整理 | 2026-08-26 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-08-25|Meta让15B DiT优化器时间砍半Muon-DiT 今日 AIGC 论文速览 今日共 10 篇 · 训练与推理效率 3 篇 · 视频编辑与视角转换 2 篇 · 生成理解一体化 1 篇 · 3D 与数字人生成 2 篇 · 可控图像生成 1 篇 · 生成评测 1 篇 重点论文标题列表 Muon-DiT（Meta、南加州大学 (USC)）：优化器时间砍掉一半的15B DiT InfinityEdit（浙江大学、阿里巴巴集团）：编辑指令跟着直播流无限延伸 TextAnchor（哈尔滨工业大学、可灵 KlingAI Research）：十张参考图编辑提速5.47倍 Grounded-Exo2Ego（NVIDIA）：第三视角视频翻成第一视角 Libra（中科院自动化所 MAIS、中国科学院大学、鹏城实验室）：视觉与语言各走各的路再架桥 今日论文速览 1. Muon-DiT：优化器时间砍掉一半的15B DiT Scaling Muon for Diffusion Transformers | Meta、南加州大学 (USC) | arXiv:2608.20818 关键词：Muon优化器,DiT训练,Scaling Law,Newton-Schulz,通信优化,Meta 前序问题：Muon 是一个矩阵感知的优化器，它通过在奇异方向之间平衡更新来改善大模型训练，在语言模型上已有不少正面报告。但它在扩散 Transformer 上到底有没有用、有用的话优势会不会随规模衰减，一直没有系统答案——扩散模型的训练目标（去噪回归）与语言模型的下一 token 预测差异很大，参数矩阵的谱结构也不同，语言模型上的结论没有理由直接迁移。更棘手的是端到端效率：Muon 的核心是每一个优化步都要做 5 步 Newton-Schulz 迭代（NS5）来正交化更新方向，再加上需要把动量完整物化出来，这两项在大规模分布式训练下会引入可观的计算与通信开销。理论上 Muon 用更少的步数达到同样质量，但如果每一步都更贵，省下的步数优势就被抵消了，实际墙钟时间可能反而更长。 本文贡献：作者先把 Muon 在 1.3B 到 15B 参数的 DiT 上的 scaling 行为建立起来，确认其相对 AdamW 的优化与生成质量优势跨越各个规模都存在。然后针对上述开销问题提出 Periodic Row-wise Muon：完整的 NS5 谱更新每 K 步才做一次，其余步骤基于当前动量做一个计算与通信开销都很低的行约束（row-wise constrained）更新。这个设计的直觉是谱正交化的收益具有一定的时间持久性，不需要每步重做；行归一化则以极低成本维持更新方向的量级平衡。配套的分布式实现是关键的另一半——非刷新步直接在分片后的动量上操作，避免全量物化；谱刷新步则通过分桶 all-gather 与通信-计算重叠来加速。方法层面与实现层面是协同设计的，不是先有算法再套一个工程实现。 实验效果：跨全部规模，Muon 相对 AdamW 把观察到的最佳生成质量提升了 12.9%~19.1%。相比原版 Muon，Periodic Row-wise Muon 在 1.3B~4B 上最佳生成质量的差距保持在 0.5% 以内，在 9B 上反而提升了 4.5%。效率侧：优化器时间减少 46.9%~54.3%，端到端单步时间减少 15.7%~24.3%，逻辑通信量降低 66.7%，达到各自最佳生成质量所需的有效训练时间减少 33.7%~64.8%。9B 模型的 profiler 时序图直观展示了这个差异：原版 Muon 每一步的 CPU 阶段都被红色的 NS5 块占据，归一化总时间 12.47；Periodic Row-wise Muon 只在第一步做紫色的周期性刷新，后两步是很窄的绿色行归一化块，总时间降到 10.26。 Generation quality for AdamW and Periodic Row-wise Muon. 批判点评：评价指标只用了 FD-DINO 这一项。它作为生成质量代理是合理的，但单一指标很难覆盖扩散模型关心的全部维度——文本对齐、多样性、失效模式都没有报告，「生成质量提升 12.9%~19.1%」这个数字的解释空间因此受限。周期 K 的选择论文中没有在摘要层面给出选取准则，而这是一个直接影响质量-效率权衡的超参，实际使用时需要重新搜索。另外 9B 上 Periodic 版本反而比 vanilla Muon 好 4.5% 这个结果有点反直觉（近似方法优于精确方法），论文归因不明，更可能是训练噪声或正则化副作用，而不是周期化本身带来的收益——15B 上并没有复现出同样的优势。最后，全部实验在 Meta 内部的训练栈上完成，通信优化的收益与具体的集群拓扑强相关，换一套硬件环境未必能复现 66.7% 的通信量下降对应的实际时间收益。 2. InfinityEdit：编辑指令跟着直播流无限延伸 InfinityEdit: Infinite Video Editing with a Lightweight Edit-Ignition Adapter | 浙江大学、阿里巴巴集团 | arXiv:2608.20910 关键词：无限视频编辑,流式生成,轻量适配器,因果注意力,阿里 前序问题：指令式视频编辑这两年靠大预训练模型已经做得不错，但绝大多数方法都建立在一个默认假设上：原地编辑。给定一段固定时长的源视频片段，把编辑后的视频与它逐帧对齐。这个模式在开放式的视频流面前直接失效——比如给一场正在进行的游戏直播换风格，或者给一个还在拍摄的镜头加一段运镜，编辑必须作用在陆续到来的未来帧上，而不是一个静态的输入片段。这个设定带来两个新困难：编辑必须是对流的忠实延续而不是逐帧重写，以及当编辑指令一条接一条累积时，生成质量不能持续退化。 本文贡献：作者先把这个任务形式化命名为无限视频编辑（infinite video editing）——给定前序片段和一条编辑请求，模型要生成延续这个流并施加该编辑的下一个片段，整个过程随无界的指令序列反复进行。为此他们设计了配套的数据收集管线，并在此基础上提出 InfinityEdit：一个给流式视频生成器加装无界编辑能力的轻量编辑适配器。适配器里有三个注意力模块，分工明确——历史交叉注意力用输入帧引导当前去噪帧，时序因果自注意力保证时间信息只从早期帧流向后期帧，编辑交叉注意力把编辑请求注入生成过程。推理时的调度是这个方法的巧妙之处：适配器只在编辑请求到达的那个 chunk 被激活（作者称之为 ignition chunk），后续 chunk 交还给原模型、用重置的锚定帧继续生成。这样既施加了编辑，又完整保留了原模型的无限生成能力，不会因为适配器一直在线而累积漂移。 Our adapter's architecture. It is composed of three attention modules. 实验效果：实验显示 InfinityEdit 在每条编辑下都能忠实延续视频流，并在无界编辑序列上保持稳定。定性对比最能说明问题：以一段山峰风景视频为源，连续施加「向上移动镜头」「拉远」「美式漫画风格」三条指令，Helios-Base 在第一条指令后就基本没有响应运镜；Anchor-Forcing 和 Infinity-RoPE 从第一轮开始画面就被云雾吞掉、山体结构丢失；SANA-Streaming 在第三轮的漫画风格化中把山体涂成了大片紫黄色块。InfinityEdit 三轮下来山峰主体的结构始终清晰可辨，运镜幅度与指令对应，漫画化时也保留了山形轮廓。长视频实验把每个编辑片段拉长到全序列超过 1000 帧，方法依然视觉稳定且持续实现每条指令。 Qualitative comparison with various methods on the streaming video editing task, where a sequence of editing instructions (here camera-movement and style edits) is applied continuously to a scenery source video. All methods share the same source video and editing instructions. Methods marked with $\dagger$ take no source video as input, while all other conditions are kept identical for fairness. 批判点评：18 页的篇幅对一个新任务定义加方法加数据管线来说偏紧，摘要里的实验结论全是定性表述（「忠实延续」「保持稳定」），没有给出量化的编辑成功率或与基线的数值差距，只能等正文核实。更值得追问的是评测本身——无限视频编辑这个任务是他们自己定义的，数据管线也是自建的，对比的基线（Helios-Base、Anchor-Forcing、Infinity-RoPE、Lucy-Edit、SANA-Streaming）都不是为这个设定设计的，在这种「主场作战」的比较里领先幅度容易被高估。推理时适配器只在 ignition chunk 激活、后续交回原模型这个调度虽然保护了无限生成能力，但也意味着编辑效果的持续性完全依赖锚定帧的传递，如果某条编辑的语义需要长时间维持（比如把整个场景换季），单 chunk 的激活是否够用是个未验证的问题。 3. TextAnchor：十张参考图编辑提速5.47倍 Anchoring Instruction Outside Mask: Exact Reference Caching for Efficient In-Context Diffusion Transformers | 哈尔滨工业大学、可灵 KlingAI Research | arXiv:2608.21229 关键词：参考图缓存,注意力掩码,on-policy蒸馏,多图编辑,可灵 前序问题：全模态生成里，上下文条件是核心机制——让扩散 Transformer 在同一条注意力序列里同时处理文本指令和视觉参考。问题是每张参考图会引入数千个 token，算力随参考图数量快速增长。现有的省法是结构化稀疏注意力，通过限制参考 token 与目标 token 之间的交互来砍计算。这个结构有个附带好处：参考图的 K 和 V 与去噪目标无关，因此可以算一次、跨所有去噪步复用。但代价同样明显——它把视觉参考与文本指令之间的通路也一并切断了，参考图「看不到」用户的指令，多参考图编辑里的指令跟随和参考保真度显著下滑。这是一个结构性的两难：要缓存就得解耦，一解耦指令就传不进去。 本文贡献：作者的破局点是同时重新设计 token 序列与注意力掩码，而不是在两难中做取舍。他们的 beyond-mask 设计引入静态文本锚点（时间步固定在 t=0 的文本 token），把指令连接到参考分支上，同时严格保持 K/V 精确复用的前提，且不增加任何参数。但这种直接的架构改造会掉生成质量，他们用两阶段的方式恢复：第一阶段是教师强制的速度蒸馏，在数据派生的插值点上查询教师；第二阶段是一段短的 on-policy 阶段，让教师在学生实际访问到的状态上做监督、修正沿轨迹的残余误差。作者称据其所知这是扩散模型中第一次用 on-policy 蒸馏来做架构恢复——这个组合思路（先改架构拿效率，再用蒸馏把质量补回来）本身比具体的加速数字更有普适价值。 Overview of instruction-aware exact caching. Top: Static text anchors condition the reference branch once during cache construction. Only the resulting reference K and V are retained and reused across denoising steps. Bottom: Comparison of attention structures, where rows denote queries and columns denote keys and values. 实验效果：在三个图像编辑基准上，方法与全注意力生成的质量持平。5 张参考图时把完整的 40 步去噪流程加速 3.92 倍，静态文本锚点带来的运行时开销可忽略；scaling 研究中 10 张参考图时加速比达到 5.47 倍。参考图数量与加速比的关系曲线很清晰：1 张时仅 1.82 倍，2 张 2.45 倍，5 张 3.86 倍，之后逐步爬升到 10 张时的 5.47 倍——全注意力的延迟从 1 张的约 40 秒涨到 10 张的约 970 秒，而本方法只从约 40 秒涨到约 175 秒，两条曲线的斜率差就是这套缓存机制的价值。定性对比中，隔离缓存（isolated condition）经常跟不上指令（图中红框标出的错误区域），而文本锚点版本的输出与 Qwen-Image-Edit-2511 的全注意力结果接近。 批判点评：加速比对参考图数量的强依赖需要被正确理解：单张参考图时只有 1.82 倍，这是绝大多数实际编辑场景的常态；5.47 倍要 10 张参考图才能拿到，而十图编辑是相当边缘的用例。也就是说这套方法的收益曲线与真实需求分布未必对齐。质量方面论文的说法是「matches full-attention generation quality」——匹配而非超越，考虑到还额外付出了两阶段蒸馏的训练成本，这个权衡是否划算取决于部署场景的推理量。on-policy 蒸馏作为架构恢复手段是个有意思的贡献，但论文没有报告这个恢复过程本身的成本（需要多少数据、多少 GPU 时），而这直接决定了该方法能否被复用到其他架构改造上。另外静态文本锚点把文本时间步固定在 t=0，这对训练时见过的时间步分布是一个分布外的用法，长期稳定性需要更多验证。 4. Grounded-Exo2Ego：第三视角视频翻成第一视角 Grounded-Exo2Ego: Structured Semantic Grounding for Robust Exocentric-to-Egocentric Video Generation | NVIDIA | arXiv:2608.20534 关键词：第一视角生成,视角转换,语义锚定,3D重建,NVIDIA 前序问题：从一段第三人称（exocentric）视频生成对应的第一人称（egocentric）视频，对 AR/VR 与具身智能都很关键——第一视角数据的采集成本远高于架好机位拍摄。但这个任务比常规的新视角合成难得多：视角变化极端，标准的几何条件（把场景重建成 3D 再从目标位姿渲染）在这种大跨度下变得高度不可靠，而且会出现大量在源视频里根本没被观察到的区域，几何重建对这些地方无能为力——渲染出来就是一片空洞。 本文贡献：作者在架构和数据两个层面同时下手。架构上是一个双分支的视频扩散模型：几何锚定分支把第三视角的颜色和深度抬升成 3D 重建、在目标 ego 位姿下渲染，用这个渲染结果条件化生成；语义锚定分支则跳出了主流的纯几何路线——用 captioning 提取逐物体的短语，经 LLM 转成物体 token，配合可学习的 register，通过带掩码的交叉注意力注入，让模型基于物体级上下文来合成那些几何搞不定的困难区域。另一个被忽视但影响巨大的发现是相机-重建失配问题：重建出的 3D 与相机位姿之间存在系统性错位，会严重拖累 exo-to-ego 的学习，他们为此设计了一个相机重定位算法，修正后全部指标都有实质提升。数据层面则做了一个全自动的合成数据引擎，在程序化生成的环境里生成并渲染绑定骨骼的 3D 角色。 Method overview. Geometric anchoring (top): Exocentric color and depth are lifted to a 3D reconstruction and rendered at the ego pose. Semantic grounding (bottom): Per-object context is extracted as segmentation masks and object tokens. The segmentation masks are reprojected into the ego-view as used as attention masks during cross-attention. The per-object masks encourages noisy tokens to attend to object information relevant to the specific region, providing spatial structure that grounds semantics onto pixels. 实验效果：在有挑战性的 EgoExo4D 数据集上，方法在所有指标上都大幅超过近期的 SOTA。详细消融验证了数据侧与架构侧每一项贡献各自的增益。teaser 图给出的定性对比很有说服力：同一个厨房场景，Vista4D 生成的第一视角画面里手部与台面结构完全错乱，EgoX 虽然保住了手的形态但物体摆放与真值不符，纯几何渲染（Grounded Rendering）在未观察区域留下大片彩色噪点和空洞，而本方法的输出在手部姿态、盘子位置、台面布局上都与 ground-truth 高度接近。 批判点评：语义锚定分支依赖 captioning 模型和 LLM 来产生物体级条件，这条链路的鲁棒性没有被讨论——captioning 出错或漏掉关键物体时，本该被语义补全的困难区域会退化成什么，论文没有给出失败案例分析。合成数据引擎用程序化环境加绑定骨骼角色，与真实第一视角视频之间的域差距是这类方法的老问题（真实 ego 视频有严重的运动模糊、鱼眼畸变、极端光照），论文说合成数据有用，但没说清在多大程度上依赖它。评测只在 EgoExo4D 上进行，这个数据集以厨房、自行车维修等结构化场景为主，泛化到户外或大范围移动场景的能力未知。另外相机重定位算法被描述为「实质提升所有指标」，这暗示原始 baseline 的一部分差距其实来自数据处理缺陷而非方法本身，与 SOTA 的比较中这部分收益应当被单独看待。 5. Libra：视觉与语言各走各的路再架桥 Decoupled Vision-Language System for Multimodal Understanding and Generation | 中科院自动化所 MAIS、中国科学院大学、鹏城实验室 | arXiv:2608.20382 关键词：生成理解一体化,解耦架构,Switch Attention,跨模态桥,中科院 前序问题：生成理解一体化的多模态大模型现在基本都走一条路：把图像 token 和文本 token 拼进同一个 Transformer，共享全部参数。这么做简单，但隐含了一个未经检验的假设——视觉和语言的表征需求是相同的，可以用同一套注意力和 FFN 权重来建模。实践中大家反复观察到理解与生成两个目标互相拖累：加强生成能力往往损害理解性能，反之亦然。问题的根源可能在于自模态建模（视觉内部的空间关系、语言内部的语法结构）和跨模态交互（图文对齐）本来就是两类不同的计算，硬塞进同一套参数里会产生干扰。 本文贡献：Libra 的做法是把两者显式分开：一个视觉系统、一个语言系统，中间用跨模态桥（cross-modal bridge）连接。解耦主要落在两个模块上——switch attention 和 switch FFN，它们根据当前处理的是自模态建模还是跨模态交互，动态路由计算流。这样每个模态能学到自己独有的表征，同时保持有效的跨模态理解。作者给出了两个配置：Libra-1 用于纯理解的图生文设定，Libra-2 用于理解与文生图统一的设定。除了架构本身，论文还讨论了 tokenization、位置编码和监督信号上的多项改进——比如混合图像 tokenization 把 CLIP 的连续信号与 VQGAN 的离散 ID 通过 LFQ 结合，因为直接把 VQGAN 的图像编码器换成 CLIP 会扭曲视觉信息。 An overview of the Libra architecture. The core design is the switch attention and the switch FFN that decoupling self-modal modeling and cross-modal interaction. We build two variants, Libra-1 and Libra-2, to discuss several improvements in tokenization, positional encoding, and supervision. 实验效果：实验表明专门的 Libra 设计让多模态理解与生成互相促进（而非互相拖累），在理解与生成两类基准上都取得了强性能。文生图的定性对比中，面对「悉尼歌剧院旁边是埃菲尔铁塔，蓝色夜空下爆炸的黄色星星和旋转的蓝色光晕」这种多要素长 prompt，SDXL 漏掉了铁塔、Show-O 把歌剧院画成了抽象色块，Libra-2 则把歌剧院、铁塔、星芒、蓝色漩涡都放进了画面；「一张脸左半边是爱因斯坦、右半边是机器人剖面」这条更考验组合能力的指令上，Libra-2 的结果左右分界清晰、机械结构细节完整。tokenizer 的消融图也直观显示直接用 CLIP 替换 VQGAN 编码器会让重建图像严重失真，而 Libra-1 的混合方案大幅缓解了这一点。 Comparison on text-to-image generation. We highlight the key parts of the text prompts, where Libra-2 demonstrates strong prompt-following capacity. % shows several text-to-image generation results of Libra-2. More results are presented in Sec.. In Fig, we compare the text-to-image generation results of Libra-2 with two baselines, StableDiffusionXL and Show-O, where StableDiffusionXL is a widely-used strong text-to-image generation model, and Show-O is a unified MLLM that use the most closed training 批判点评：摘要里的性能表述全是「strong performance」这类定性词，没有给出任何绝对数字或与具体基线的对比，无法判断领先幅度——这在一篇主打架构设计的论文里是个不小的信息缺失。解耦架构的直接代价是参数量：一个视觉系统加一个语言系统再加跨模态桥，参数规模相比同等能力的共享架构必然更大，论文没有报告参数量对齐后的公平比较，「互相促进」的结论也就有可能部分来自额外容量而非解耦本身。定性对比选的基线 SDXL 和 Show-O 都不是当前最强的文生图或统一模型，说服力有限。另外 switch attention/FFN 的路由是根据「当前是自模态还是跨模态」这个二元判断来做的，这个划分在实际的混合序列里如何精确界定，摘要层面没有交代。 6. DiffVC-ONE：一步扩散做视频压缩后处理 DiffVC-ONE: Diffusion-based Generative Video Compression with One-Step Video Diffusion Transformer | 武汉大学遥感信息工程学院 | arXiv:2608.20515 关键词：生成式视频压缩,一步扩散,视频DiT,时序一致性,武汉大学 前序问题：生成式视频压缩能在极低码率下恢复丰富的视觉细节——这是传统编码器做不到的，因为传统方法在低码率下只能丢细节，而生成模型可以「补」出合理的细节。但这条路上同时满足高时序一致性和低推理成本一直很困难：基于图像的方法逐帧处理，帧间容易闪烁；基于视频的方法能保证一致性，但多步扩散的推理成本在视频这个数据量级上难以承受。 本文贡献：DiffVC-ONE 建立在一步视频扩散 Transformer 之上，三个组件依次解决三个问题。统一单向 latent 压缩器（U2LC）用一个共享模型高效且统一地压缩紧凑的 latent 切片，避免为不同参考结构设计不同的压缩器。视频 DiT 的一步扩散增强器把重建出的 latent 切片当作内容锚点，对整个图像组（GOP）做单步的时空感知增强——注意这里是对整个 GOP 一起做，时序一致性因此有结构性保证，而不是靠逐帧后处理再想办法对齐。混合条件生成器从重建内容和量化信息里抽取结构、强度、语义三类条件：结构条件保留应当忠实还原的区域，强度条件控制生成增强的程度（这一点很重要——不是所有区域都该被生成模型「发挥」），语义条件在一步增强中补充内容感知的感知细节。 The framework of the proposed DiffVC-ONE. 实验效果：在多个标准基准上达到 SOTA 的感知质量和时序一致性，同时保持低推理成本。视觉对比给出了同一场景下各方法的码率（BPP）与放大细节：videoSRC15 的教堂穹顶场景中，DiffVC-ONE 的 BPP 是 0.0126（作为 1.00 倍基准），而 DiffVC 需要 0.0321（2.55 倍）、DiffVC-OSD 需要 0.0355（2.82 倍）才能达到相当的观感；鹦鹉羽毛的例子里 DiffVC-ONE 用 0.0059 BPP，对比 PLVC 的 0.0158（2.68 倍）和 VTM-17.0-LD 的 0.0074（1.25 倍），红黄羽毛的边界过渡更清晰。也就是说在相同感知质量下，码率大约只需要竞品的三分之一到二分之一。 Visual comparison between the proposed DiffVC-ONE and other representative methods. 批判点评：这是一篇工程完成度很高但方向偏窄的论文——生成式视频压缩距离实际部署还有距离，主要障碍是解码端需要跑一个视频 DiT，这个成本在终端设备上并不现实，「低推理成本」是相对于多步扩散而言的，不是相对于传统编解码器。论文只有两位作者，实验体量看起来主要靠 RD 曲线堆砌（6 个数据集 × 6 个指标 = 36 张子图），但这种密集的曲线图很难让读者判断在哪个码率区间优势最明显。另外生成式压缩有一个根本性的争议这篇没有正面回应：解码出的细节是模型「编」出来的而非真实存在的，在监控、医疗、取证这类场景下这是不可接受的属性，而 LPIPS/DISTS/FID 这类感知指标恰恰会奖励这种行为。强度条件的设计看起来是对这个问题的部分回应，但论文没有把它作为一个安全机制来讨论和验证。 7. MultiCube：拿包围盒指挥每个零件长在哪 MultiCube: Compositional 3D Generation With Part-Level Semantic and Spatial Control | Roblox、卡内基梅隆大学 (CMU)、斯坦福大学 | arXiv:2608.20448 关键词：组合式3D生成,部件级控制,布局适配器,两阶段扩散,Roblox 前序问题：游戏和动画里用的 3D 资产通常需要是组合式的——拆分成有语义意义的部件，这样才能单独换材质、做动画、改结构。最近的 3D 生成方法已经能从图像或文本 prompt 生成高质量的组合式物体，但这类全局条件缺少专业创作流程真正需要的部件级可控性：你可以说「一门带黄铜炮管和木轮底座的加农炮」，但没法指定炮管具体多长、轮子放在哪个位置。 本文贡献：MultiCube 的输入设计很直白：一个全局文本 prompt、一份指定期望部件的文本 schema、以及一个用包围盒标出各部件空间位置的布局。输出是由多个独立网格组成的 3D 物体，一个部件一个网格，且同时满足语义和空间条件。方法用两阶段扩散：第一阶段生成与 schema 和布局对齐的整体网格（monolithic shape），第二阶段把这个网格同时分解成各个部件——注意是同时而非逐个，因为部件之间存在相互约束。核心组件是 Part Layout Adapter，它独立于其他部件来编码每个部件的条件（文本标签走 Qwen-VL，包围盒走 Fourier + Linear），这个独立性保证了改动一个部件的条件不会牵动其他部件。第二阶段的多部件 DiT 之间插入 Cross-Part Attention，让各部件在生成时互相感知、保证接缝处的几何一致。 MultiCube uses a two-stage diffusion-based architecture. In Stage 1, it synthesizes a monolithic object conditioned on the input text prompt and part layout (a). In Stage 2, it takes the object latents produced in Stage 1 and decomposes them into multiple shapes, one for each specified part, guided by the part labels and bounding boxes (b). Spatial conditions are encoded with a Part Layout Adapter in Stage 1 and a lightweight embedding in Stage 2. 实验效果：实验显示方法能生成高质量的组合式 3D 物体并实现精确的部件级控制，包括那些仅靠文本或图像 prompt 难以达到的独特布局。定性结果覆盖面很广：婴儿车（车架/把手/座椅/顶篷/轮子五部件）、滑板（板面/桥/轮）、手电筒、树蛙、工具箱、摩托艇（船体/舷外机/螺旋桨/方向舵/挡风/座椅六部件）、黄铜提灯，以及喷气背包、加特林、火箭、军用水壶、飞碟、腕式弹弓、长剑等。每个例子里生成的形状都能看出与输入包围盒布局的对应关系——比如飞碟的「旋转外环」确实是一圈环绕结构、「诱捕光束发射器」在底部。 Full pipeline generation results. MultiCube generates compositional 3D objects from input text prompts and part layouts. Here, the part bounding box layouts are automatically generated using GPT-5.1; hence, the generation process from prompt to output shape is fully automatic. 批判点评：对创作者来说，手工摆包围盒本身就是一项不轻的工作量——这套方法把「描述物体」的负担转移成了「搭建粗模」的负担，是否真的降低了创作门槛取决于具体工作流。摘要没有给出任何量化指标（几何质量、部件分割准确率、布局遵循度都没有数字），也没有与 CubePart、PatchAlign3D 等基线的定量比较，「高质量」的判断只能靠看图。展示的例子都是结构相对规整的人造物体（工具、载具、武器），部件边界清晰；有机形体（树蛙那个例子是唯一的例外，且它的部件划分——身体/头/舌头/腿——也相当粗粒度）和部件间存在复杂拓扑连接的物体表现如何，从现有材料看不出来。另外包围盒作为空间条件只能表达轴对齐的粗略位置，无法表达旋转、弯曲等更细的姿态要求。 8. Xemo-Talker：把情绪监督放到次主成分上 Xemo-Talker: Unlock Emotions Explicitly for Audio-Driven Talking Portrait Synthesis | 利物浦大学、西交利物浦大学、昆山杜克大学、CMU、蚂蚁集团、平安科技 | arXiv:2608.14700 关键词：说话人视频,情绪控制,主成分分析,唇形同步,蚂蚁集团 前序问题：音频驱动的说话人头像里，精确的情绪控制一直做不好，因为现有系统依赖隐式的情绪调节——情绪信号混在整体条件里，控制间接且不充分。而如果直接在整个运动空间上加显式的情绪相关损失，又会撞上一个内在的权衡：唇形同步需要运动空间的主要能量方向被音频严格约束，情绪控制则要求这些方向能被情绪标签改动，两个目标在同一组维度上打架。 本文贡献：论文的核心发现是一个关于运动空间结构的观察：虽然情绪线索散布在整个运动空间中，但把判别性监督集中在次主成分（less-principal components）上，反而能取得更好的情绪-唇形平衡——因为主成分主要编码高能量的发音动作和头部姿态变化，情绪信息在这些方向上的占比被淹没了。基于这个洞察，Xemo-Talker 先学一个中性的语音到运动映射，保证稳定的发音和唇形同步（这一支冻结），再引入一个由次主子空间监督引导的轻量情绪分支（可训练）。为了强化情绪控制，他们设计了 Tri-Loss：类间分离、类内紧凑、以及次主对比学习三项。推理时输入音频、参考图像和情绪标签即可。 Overview of Xemo-Talker. (a) The Geometry Motion Predictor learns emotion-agnostic audio-driven motion through diffusion reconstruction, producing the complete 70-D facial motion sequence. (b) With the predictor frozen, the Geometry Emotion Branch encodes the target emotion and injects multi-scale residual features through zero-initialized adapters to refine the motion prediction. (c) The subspace-aware Tri-Loss organizes global emotion representations using classification and prototype alignment, while applying contrastive discrimination to the less-principal PCA projection. The predicted motion is converted into deformed keypoints and rendered by the frozen LivePortrait renderer. 实验效果：在情绪分类准确率上达到 SOTA，同时保持有竞争力的唇形同步和高推理效率，性能接近在真实视频上测得的水平。定性对比里最有说服力的是 Fear 与 Surprised 这一对——这两种情绪在面部表情上高度相似（都是睁大眼睛、张嘴），是情绪控制里最容易混淆的一对。图中同一身份在两种标签下生成的结果确实呈现出可区分的差异：Fear 时眉毛内侧上扬、嘴角向下、整体表情收紧，Surprised 时眉毛整体上抬、嘴张得更圆、眼睛睁得更大。男女两个身份上这个区分都成立。 Visual comparison of Fear and Surprised expressions from MEAD. 批判点评：「情绪分类准确率 SOTA」这个指标本身值得警惕：它衡量的是一个分类器能否认出生成视频的情绪，而 Tri-Loss 里的类间分离和类内紧凑恰恰是在直接优化这个可分性——存在把情绪做成夸张刻板表情来取悦分类器的风险，而人类观感上的自然度未必同步提升。论文没有报告用户研究，这个疑虑无法排除。次主成分承载情绪信息这个发现是基于 70 维运动空间的 PCA 方差谱得出的，这个运动表示来自 LivePortrait，结论是否依赖这个特定的运动表征、换一套 3DMM 或隐式表示还成不成立，没有验证。情绪标签是离散的类别（happy/sad/fear/...），这与真实表达中情绪的连续性和混合性不符，强度控制也不在建模范围内。另外机构列表横跨六家单位，实际的实验规模从 9 页的篇幅看应该有限。 9. OccluRank：给每个框加个序号定遮挡 OccluRank: Controllable Occlusion-Aware Layout-to-Image Generation by Adding Just an Ordinal Rank | 合肥工业大学、中国科学技术大学、字节跳动、中科院软件所 | arXiv:2608.20932 关键词：布局生成,遮挡顺序,序数条件,可控生成,字节跳动 前序问题：布局到图像生成通过包围盒实现显式的空间控制，但包围盒只能指定实例的位置，无法表达它们之间的遮挡关系——两个框重叠时，谁在前谁在后是未定义的。现有方法要么额外依赖深度图等几何条件（增加了输入负担），要么用复杂的推理阶段优化流程，要么把各实例的表征独立构建后简单聚合、完全不建模遮挡带来的相互作用。 本文贡献：OccluRank 的设计极简：给每个包围盒只加一个序数 rank。这个用户指定的遮挡顺序通过轻量的基于 rank 的条件注入编码进模型，配套的 Order-aware Instance Interaction（OII）模块在聚合前对 rank 条件化的实例表征做联合更新——具体是在每个空间位置 p 上取该位置的有效性掩码，把落在这里的多个实例特征送进一个 Transformer 做位置级的跨实例交互，让指定的顺序引导重叠实例之间的信息交换。整个过程不需要额外的几何输入，也不需要推理时的专门优化。数据侧他们构建了 OccluLayout：一个合成训练数据集，遮挡顺序和 amodal 标注直接从已知的场景几何导出，而不是用辅助预测模型从部分遮挡的图像里估计——这是个关键差别，估计出来的标注在遮挡严重时本身就不可靠。评测侧提出 OccluLayout-Bench，用多个多模态大模型评测器分别评估实例存在性、空间布局、属性和遮挡顺序，再加 FID 衡量整体图像质量。训练目标除了全局去噪损失还加了前景并集掩码上的局部去噪损失。 Overview of OccluRank. OccluRank constructs spatially aligned instance features, incorporates ordinal rank embeddings, and performs location-wise cross-instance interaction before aggregating into an Instance Semantic Map (ISM). The masked ISM is residually injected into selected cross-attention layers of SDXL. 实验效果：实验显示 OccluRank 更可靠地保留目标实例、遵循指定布局、实现期望的遮挡关系，同时属性一致性和整体图像质量与基线相当。定性对比中的差异相当明显：「猿在前、羊在后、鸡在最后、狐狸最远」这组布局里，CreatiLayout 把猿和羊糊成了一个畸形生物、LaRender 直接漏掉了羊和鸡，OccluRank 则四个实例齐全且前后关系正确；「大象/长颈鹿/斑马/斑马」那组里 OcclusionFormer 漏掉了长颈鹿、IFAdapter 的斑马与长颈鹿位置错乱，OccluRank 的四个动物按指定顺序排布。反向消融图进一步验证了控制力：把实例顺序反过来后，没有 rank embedding 的变体输出几乎不变（说明它根本没接收到顺序信号），完整模型则正确翻转了前后关系。 Qualitative comparison under overlapping layouts. $^\dagger$ denotes the official checkpoint without OccluLayout training. 批判点评：用多模态大模型当评测器来判断「遮挡顺序是否正确」是个方便但风险不小的选择——MLLM 本身对遮挡关系的判断能力就未经充分验证，用它评一个专门优化遮挡的模型，存在评测器与被评对象共享失败模式的可能。OccluLayout 是合成数据集，遮挡顺序从已知几何导出确实比估计可靠，但合成场景的物体摆放分布与真实照片差距多大、训练在合成数据上的模型在真实布局上的泛化如何，需要看正文的实验设计。序数 rank 只能表达全序的前后关系，现实中常见的交错遮挡（A 遮 B 的左半、B 遮 A 的右半，比如交叉的手臂）无法用一个标量序号表达。骨干用的是 SDXL，在当前时点已经不算前沿，这套 rank 条件化机制能否迁移到 DiT 架构的现代模型上是个开放问题。 10. CamWorldQA：给运镜可控的世界视频打分 CamWorldQA: Perceptual Quality Assessment of Camera-Controlled World Video Generation | 上海交通大学、埃因霍温理工大学 | arXiv:2608.18710 关键词：视频质量评测,相机控制,世界模型,无参考VQA,上海交大 前序问题：生成式视频模型现在已经能做相机可控的世界视频生成——用户给定一条相机轨迹，模型据此合成视频。但评估这类视频的质量没有合适的工具：现有的视频质量评估方法都是为自然视频设计的，捕捉不到相机可控生成特有的感知特性，比如视角一致性、运动连贯性和内容保持度。换句话说，这个方向的进展缺少一把合适的尺子。 本文贡献：作者构建了 CamWorldQA，第一个针对相机可控世界视频生成的感知质量评测基准。规模是 720 个生成视频，来自 6 种代表性生成方法、20 个多样化的源视频、6 种相机轨迹（Truck Left/Right、Dolly In/Out、Pedestal Up/Down）的组合，每个视频都通过主观实验获得了人工标注的感知质量分。在此基础上他们提出 CWQA，一个无参考的质量评估网络，用三个互补分支分别提取特征：光流分支用 RAFT 抽运动轨迹特征（1×512），运动分支用 SlowFast 的双通路抽运动特征（1×2304），空间分支用 ResNet-50 加多层级池化抽空间特征（1×7168）。三路特征经 Projection MLP 后通过自适应门控加权融合，再送进质量回归头输出分数。 Overview of the proposed CWQA method. 实验效果：实验表明 CWQA 在 CamWorldQA 数据集上显著超越现有的质量评估方法。demo 图给出了两个具体例子：一段 Truck Right 运镜的人物视频，人工打分 61.18，SimpleVQA 给 51.45（明显低估），CWQA 给 63.75，与人工判断接近；另一段 Pedestal Down 的风景视频人工只给 25.65（画面在下摇过程中出现了明显的内容坍塌），SimpleVQA 给 40.33（严重高估），CWQA 给 23.56。这两个例子恰好展示了通用 VQA 方法的典型失效模式——它们对生成视频里那种「画面清晰但内容不合理」的退化不敏感。MOS 分布图还显示不同生成方法、不同轨迹、不同内容类别之间的质量差异都相当显著。 Qualitative comparison of quality predictions from different VQA methods and CWQA. 批判点评：720 个视频、20 个源视频的规模在 VQA 基准里偏小，尤其是源视频只有 20 个，内容多样性有限，训练出的模型容易过拟合到这些特定场景。「显著超越现有方法」的比较对象是 SimpleVQA 这类为自然视频设计的通用方法，在专门数据集上被专门模型超过是预期内的结果，真正有意义的对比应该是与其他为生成视频设计的评测方法（如 VBench 的相关维度）比，摘要里没有提到。CWQA 的架构是三个现成骨干（RAFT/SlowFast/ResNet-50）加门控融合，方法层面的新意有限，价值主要在数据集。另外基准覆盖的 6 种相机轨迹都是单一的基本运镜，真实创作中的复合轨迹（边推边摇、弧形环绕）不在评测范围内，而这恰恰是相机控制最容易失效的地方。 趋势观察 优化器这一层终于被认真当成扩散模型的加速位点 — 过去两年扩散模型的提速几乎全部发生在推理侧——蒸馏减步数、缓存复用特征、量化降精度，训练侧则默认「AdamW 就够了」。今天 Meta 的这篇 Muon-DiT 把注意力挪回了训练：他们在 1.3B 到 15B 的 DiT 上系统跑通了 Muon 的 scaling 行为，确认它相对 AdamW 的生成质量优势（12.9%~19.1%）不随规模消失。更有价值的是他们诚实地承认了 Muon 在大规模下的代价——每步都做的 5 步 Newton-Schulz 迭代加上全量动量物化，会把 Muon 省下的步数优势重新吃掉。Periodic Row-wise Muon 的解法很朴素：昂贵的谱更新每 K 步做一次，其余步用便宜的行归一化更新顶上，再配合分片动量上直接算、bucketed all-gather 与通信计算重叠。结果是优化器时间砍掉 46.9%~54.3%，逻辑通信量降 66.7%。这提示一个被忽视的事实：当模型规模足够大时，优化器本身的算力与通信开销已经不是可以忽略的常数项了。 「缓存」正在从推理技巧升级为架构设计的一部分 — 可灵这篇 TextAnchor 的问题设定很典型：多参考图编辑里每张参考图带来数千 token，算力随参考图数量线性甚至更快地涨。现有做法用结构化稀疏注意力来砍——把参考图的 K/V 与去噪目标解耦，于是可以算一次复用到所有步。代价是参考图看不到文本指令了，指令跟随和参考保真度双双下滑。这篇的破法不在算子层面而在序列层面：加一段时间步固定在 t=0 的静态文本锚点，让参考分支在构建缓存时就能读到指令，同时保持 K/V 与去噪目标无关这个可缓存的前提。这个「改架构换缓存」的思路带来的副作用是生成质量掉了，他们又用教师强制的速度蒸馏加一段 on-policy 阶段把它补回来——据作者说这是扩散模型里第一次用 on-policy 蒸馏做架构恢复。5 张参考图下 40 步全流程加速 3.92 倍，10 张时到 5.47 倍。加速比随参考图数量增长而增长，这才是这类方法真正的价值所在。 视频生成的条件正在从「一段完整视频」变成「一个持续到来的流」 — 阿里的 InfinityEdit 指出了现有指令式视频编辑一个被默认接受的假设：原地编辑（in-place editing）。给定一段固定时长的源视频，逐帧对齐地改写它。这在直播换风格、给正在拍摄的镜头加运镜这类场景下直接失效——编辑必须延伸到还没到来的未来帧上。他们把这个设定命名为无限视频编辑，并配了一个只在编辑指令到达的那个 chunk 才激活的轻量适配器：历史交叉注意力锚住前序内容、时序因果自注意力保证信息只从早往晚流、编辑交叉注意力注入指令；后续 chunk 交回原模型并重置锚定帧，从而在施加编辑的同时不损害原模型的无限生成能力。超过 1000 帧的长序列上仍能稳定实现每一条指令。有意思的是今天还有一篇 NVIDIA 的 Grounded-Exo2Ego，走的是完全不同的技术路线（双分支视频扩散 + 3D 重建锚定 + 物体级语义补全），但两者面对的其实是同一类困难：当条件信号在大范围上不可靠或根本不存在时，生成模型该拿什么去锚定。 人工智能炼丹君 整理 | 2026-08-25 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-08-24|快手可灵证明奖励劫持源于流形漂移ThermoDPO 今日 AIGC 论文速览 今日共 10 篇 · 奖励对齐与偏好优化 1 篇 · 推理加速 1 篇 · 音频驱动与语音生成 3 篇 · 数字人与 4D 生成 1 篇 · 新视角合成 1 篇 · 视频身份保持 1 篇 · 设计与版式生成 1 篇 · 生成评测 1 篇 重点论文标题列表 ThermoDPO（西湖大学、浙江大学、快手可灵团队）：奖励劫持的根因是流形漂移 AViTS（上海交通大学、阿里云终端智能计算部、山东大学、吉林大学、西安交通大学（ECCV 2026））：选对token省下9倍算力 SingDance（快手可灵团队、香港科技大学、清华大学）：训练没见过的唱跳被组合出来 K5 声音克隆（Kandinsky Lab（俄罗斯莫斯科））：加一层线性层换来声音克隆 VoiceDesigner（约翰霍普金斯大学、Adobe Research）：用文字描述设计并改写音色 今日论文速览 1. ThermoDPO：奖励劫持的根因是流形漂移 Manifold Drift in Flow Preference Optimization: A Root Cause of Reward Hacking | 西湖大学、浙江大学、快手可灵团队 | arXiv:2608.20011 关键词：流形漂移,偏好优化,流匹配,奖励劫持,DPO,快手可灵 前序问题：偏好优化（DPO 那一套）已经是对齐生成模型的标准做法，但把它搬到流匹配这种连续时间动力学上并不是换个损失函数那么简单。流匹配的训练目标是学一个把噪声搬运到数据分布的速度场，而奖励驱动的更新会直接修改这条搬运轨迹——问题是，没有任何机制约束修改后的轨迹终点仍然落在预训练数据流形上。实践中这表现为大家熟悉的「奖励劫持」：打分器给的分越来越高，生成的图却越来越不像正常图片。此前的讨论多停留在现象描述和经验缓解（加 KL 惩罚、早停、混拒绝采样），没人说清这究竟是调参问题还是结构问题。 本文贡献：作者把这个失效模式命名为流形漂移（manifold drift），并给出了它的判据。理论侧证明了两件事：最优的流匹配确实能恢复终点数据分布；而一次偏好更新只要其诱导的终点位移带有非零法向分量，采样支撑集就会离开预训练流形——也就是说漂移是偏好更新的结构性后果，不是训练不充分。对策是 ThermoDPO：一个带温度控制的目标函数，把成对偏好优化锚定在被偏好的样本上。这个设计有个漂亮的性质——在不同温度区间下，它分别退化为拒绝采样微调（RFT）和 FlowDPO，也就是说它把这两种此前被当作不同方法的做法统一在一条温度轴上，同时控制一个基于重建的逐点代理量来间接约束流形距离。低温时偏好信号会被削弱，作者又补了一个加权变体 ThermoDPO-weighted 来补偿。 Core intuition of ThermoDPO. Flow Matching (gray) transports noise to the pretrained data manifold. FlowDPO (green) may reach preferred regions through an off-manifold displacement, whereas ThermoDPO (red) adds a winner-side anchor intended to keep the redirected mass closer to the pretrained manifold. The formal statements and their assumptions are summarized in tab:notation_theory_map; the behavior is evaluated in the toy study (Fig.) and real-image study (Fig.). 实验效果：玩具基准上 ThermoDPO-weighted 的 StrictScore 达到 0.899，对比 FlowDPO 的 0.629 和 FlowDPO+RFT 的 0.857。真实模型上，在 SD3.5-M、CFG=4.5 的设定下，OCR 指标提升 47.5%，四项指标平均提升 16.0%。人工成对评测的结果更能说明问题：在文字准确性上 ThermoDPO 对 FlowDPO 的胜率是 40.0% 对 16.7%，视觉质量上对 FlowDPO 是 36.7% 对 6.7%——注意三个对比中「平局」的比例都在 46%~93% 之间，说明改进是稳定的方向性提升而非把生成结果整体改头换面。 Pairwise human evaluation of ThermoDPO-weighted against different baselines on text accuracy and visual quality over 30 prompts. Each stacked bar reports the percentage of prompts for which ThermoDPO-weighted is preferred, tied, or dispreferred relative to the corresponding baseline. ThermoDPO-weighted shows consistently stronger performance on visual quality while remaining competitive on text accuracy. 批判点评：这篇的贡献重心明确在理论刻画，实证部分则偏薄。主结果跑在玩具基准上，真实模型只验证了 SD3.5-M 单个骨干、且核心提升集中在 OCR 这一个指标上（47.5% 相对提升听起来大，但文字渲染是 SD3.5 的已知短板，基线本身偏低）。四项指标平均 16.0% 的提升没有拆开给出每一项，读者无法判断是均匀改善还是被 OCR 一项拉高。人工评测的样本量看柱状图应为 30 对，规模偏小。另外把 RFT 和 FlowDPO 统一到温度轴上是个优雅的结论，但也意味着 ThermoDPO 在实践中多了一个需要调的超参，而论文对温度如何选择只给了区间性的定性讨论。视频生成——快手可灵最关心的场景——完全没有实验。 2. AViTS：选对token省下9倍算力 AViTS: Adaptive Spatiotemporal Token Selection for Efficient Dynamic-Resolution Generation | 上海交通大学、阿里云终端智能计算部、山东大学、吉林大学、西安交通大学（ECCV 2026） | arXiv:2608.17995 关键词：token选择,动态分辨率,DiT加速,时空重要性,ECCV 2026,阿里云 前序问题：扩散 Transformer 的成本来自迭代采样。一个已知的省法是动态分辨率：早期时间步在低分辨率下去噪，后期再升到高分辨率，因为早期主要确定构图、不需要细节。但现有做法在分辨率切换点会把所有 latent token 一起升采样，这里有两重浪费——很多 token 对应的是背景或平坦区域，根本不需要高分辨率计算；而统一升采样还可能损害细节一致性。已有的部分升采样策略要么只看局部 latent 的结构线索，要么只用单步统计量，两者都难以同时刻画「token 与文本的语义相关性」和「token 表示在扩散步之间的动态变化」。 本文贡献：AViTS 把「该给哪个 token 升分辨率」建模成一个时空重要性问题，两个信号分开算再融合。空间重要性来自 latent 与文本的注意力：把自注意力的 Query 与文本 Key 的注意力图沿头维度平均，得到每个 token 的空间分数，语义上与 prompt 更相关的 token 分数更高。时间重要性来自 token 级特征在扩散时间步之间的方差——变化剧烈说明这个位置还没收敛、仍在被主动塑形。两者融合后做重要性感知的选择性升采样：关键 token 优先精化分辨率，次要 token 延后处理，从而砍掉冗余的高分辨率计算。整个方法不需要重训模型。 Overview of AViTS and spatiotemporal importance estimation. (a) Three-stage dynamic-resolution sampling: Stage~1 low-res denoising with signal collection over the last $N_T$ steps, Stage~2 selective upsampling of top-$K$ tokens, and Stage~3 full-res refinement. (b) Temporal importance from token-wise step variance across the collected snapshots. (c) Spatial importance from aggregated latent--text cross-attention (averaged over heads/blocks and collection steps); fused scores guide prioritization. 实验效果：FLUX 上最高 6.34 倍加速；Qwen-Image-Edit 和 FLUX.1-Kontext-dev 上接近 9 倍 FLOPs 削减；叠加蒸馏模型后达到 14.76 倍。作者强调该方法与蒸馏、量化、特征缓存三条主流加速路线正交，可以叠乘。图像编辑任务上的定性对比给出的是 5.24 倍加速档位（这一档下与 Ralu 的 4.55 倍、ToCa 的 3.59 倍、TaylorSeer 的 5.00 倍同台）：三组编辑指令中 AViTS 的结果与原始 1.00 倍输出最接近，而同倍率的 TaylorSeer 出现了明显的材质与结构偏移（陶瓷羊的例子里羊的形态直接变了）。 Qualitative comparison on GEdit-Bench with Qwen-Image-Edit. AViTS achieves superior semantic preservation and visual quality at a higher acceleration ratio (5.24$\times$) compared to state-of-the-art baselines. 批判点评：加速比的报法需要读者留心：摘要里的「近 9 倍」和「14.76 倍」是 FLOPs 削减，而定性图里用来跟同类方法比画质的是 5.24 倍这一档——FLOPs 削减与实际墙钟加速之间通常有不小的落差，尤其是这套方法引入了额外的注意力统计与 token 选择开销，论文摘要没有给出对应的实测延迟。另外空间重要性依赖 latent-text 注意力，这对文本条件较弱或无文本条件（如纯图像编辑的结构保持部分、无分类器引导关闭时）的场景是否还成立，需要更多验证。方法本身只作用于「动态分辨率采样」这个前提之上，如果模型本来不走 coarse-to-fine，收益无从谈起。 3. SingDance：训练没见过的唱跳被组合出来 SingDance: Compositional Zero-Shot Singing-and-Dancing Video Generation with Role-Aware Audio Conditioning | 快手可灵团队、香港科技大学、清华大学 | arXiv:2608.16220 关键词：唱跳视频,组合零样本,角色条件,音频注入,快手可灵 前序问题：给定一张参考图、一段文本和一条音轨生成个性化舞蹈视频，需要模型把音乐映射到身体动作。但「边唱边跳」多了一个要求：画面里的人不仅要跟上节拍，嘴还得对上歌词。现有方法在这里正好分成两个互不搭界的阵营——音乐驱动的方法只管编舞，不管口型；语音驱动的方法则默认画面里的人就是发声者，从没考虑过「跳舞的人同时在唱这首歌」这种组合。而直接收集「唱跳」配对数据成本极高。 本文贡献：SingDance 的核心设计是把「是否发声」抽象成一个语义角色：画面主体要么是 source（声音由他发出），要么是 listener（声音来自画外的另一个人）。这样一来，「对口型」就不再绑定在语音这个模态上，而变成一个可以被显式切换的条件。架构上用硬路由（hard-compact routing）从语音、音乐、角色三路条件里挑出与当前任务相关的部分，再通过逐帧的联合音频注入送进 DiT 块——关键是 source 和 listener 共享同一条语音通路，这保证了两种角色下的表征是可比的。训练用非对称监督：屏幕内说话的视频与精心筛选的画外对话回应视频负责建立角色控制，纯器乐和歌曲伴舞视频负责建立音乐驱动的身体动作。真正巧妙的是目标配置 Song/Source（发声者在唱歌）在训练中从未出现过——推理时把 source 角色指派给一首歌，就把分别学到的「发声」和「随歌跳舞」两种能力组合出来了，实现组合零样本。 Training architecture of SingDance. The first video frame is separately encoded as a clean reference latent, while subsequent frames are temporally compressed and noised in latent space. Wav2Vec~2.0 and MuQ features, together with the vocal-role condition, are selected by hard-compact routing and supplied to frame-wise joint audio injection. The repeated block is schematic: joint audio injection is applied immediately after each of 10 selected blocks in the 30-block DiT backbone. The denoised latents are decoded into output frames. Snowflakes and flames denote frozen and trainable modules, respectively. 实验效果：实验显示强的动作-节拍对齐与视觉保真度，口型同步与最强的语音驱动基线高度竞争，但生成时参数量显著更少。角色切换的效果在定性图里最直观：同一段视频在 Lip-on 和 Lip-off 两种设定下，人物的身体动作与背景几乎完全一致（帧号相同），差别只在嘴部——Lip-on 时嘴张开在发声，Lip-off 时嘴闭合，说明发声控制被干净地从身体运动中解耦出来，切换一个条件不会牵动其他部分。 Qualitative paired vocal-role switching on two SingDance examples. Each Lip-on/Lip-off pair shares all role-independent inputs and inference settings; only the vocal role changes. 批判点评：论文只有 9 页 5 图，实验体量偏小，且摘要中的结论多为定性表述（「强的对齐」「高度竞争」），缺少可对照的绝对数字——口型同步到底是 Sync-C 多少、跟哪个基线差多少，需要读正文才能确认。组合零样本是个漂亮的设定，但它成立的前提是「发声」与「音乐驱动运动」这两种能力在表征上足够独立；一旦歌曲的节奏与歌词的发音在时间上强耦合（比如快嘴 rap），这种解耦假设是否还站得住是个开放问题，而这恰恰是唱跳场景里最难的一类。另外角色只有 source/listener 两档，多人同框、轮唱、和声这类真实短视频里常见的情形不在建模范围内。 4. K5 声音克隆：加一层线性层换来声音克隆 Adding Voice Cloning to Text-to-Audio-Video Models with a Single Zero-Initialised Layer | Kandinsky Lab（俄罗斯莫斯科） | arXiv:2608.15690 关键词：声音克隆,文生音视频,零初始化,T2AV,Kandinsky 前序问题：文生音视频（T2AV）模型能从一段文字同时生成画面和配乐配音，但没有任何机制控制「说话的是谁」——你要一个特定音色，只能碰运气。给这类模型加声音克隆的常规思路是接一个说话人编码器、改架构、重训，代价不小，而且改动大了容易伤到已有的音视频生成能力。 本文贡献：作者给出的是一个近乎最小的改法：在音频主干上加一个零初始化的线性层，短周期微调，推理时给一段短参考录音即可。零初始化是关键——增强后的模型在训练开始时就是原模型的一个功能副本，不会破坏已有能力，这个思路和 ControlNet 的零卷积同源。参考信息通过两路互补信号注入：一是把参考音频的扩散 latent 拼接（prepend）到音频流前面，提供细粒度的时序音色信息；二是用一个全局说话人嵌入去调制目标音频的 token，提供说话人层面的整体约束。方法在自家两个模型上验证：K5（5B）和 K5-lite（0.6B），底座是开源 Kandinsky 5.0 的 CrossDiT 架构——音频与视频两条流各自做自注意力，再在每个融合块内通过跨模态注意力交互，文本条件由两条流共享。 实验效果：在 30 个说话人、674 条说话人-文本配对的基准上，对比五个强声音克隆 TTS 基线（含 XTTS-v2、IndexTTS2、NAVA 等），增强后的 5B 模型在三个独立验证网络（ECAPA-TDNN、WavLM-SV、Resemblyzer）上都取得最高的说话人编码器余弦相似度 SECS，且相对每一个基线都具备统计显著性。架构上还有个意外收获：因为音频路径可以独立评估，推理时能只跑音频、跳过整个音视频扩散循环，带来约 30 倍加速，而声音克隆行为不受影响。 批判点评：评测口径偏窄是最明显的问题：主指标只有说话人相似度 SECS 一项，而声音克隆的质量至少还要看可懂度（WER）和自然度（MOS）——只优化相似度很容易换来音质或发音的退化，论文摘要里没有给出这两项与基线的对照。基准规模也不大（30 个说话人），且没有说明是否覆盖跨语言、口音、非常规音色这些真正考验泛化的情形。30 倍加速的说法需要正确理解：它是「只跑音频路径 vs 跑完整音视频循环」的对比，本质上是省掉了视频生成，而不是音频生成本身变快了——对于真正需要音视频一起出的场景，这个加速并不存在。另外整套方法绑定在自家 Kandinsky 5.0 底座上，对其他 T2AV 架构的可迁移性未验证。 5. VoiceDesigner：用文字描述设计并改写音色 VoiceDesigner: Text-to-Voice Generation and Editing via Unified Diffusion Modeling and Data Augmentation | 约翰霍普金斯大学、Adobe Research | arXiv:2608.13613 关键词：文生音色,语音编辑,统一扩散,数据增强,Adobe 前序问题：文生音色（TTV）让人可以用一段文字描述直接合成对应的嗓音，这在配音、游戏角色、有声书里价值很高。但现有系统卡在两处：一是音色多样性不足，尤其是虚构角色（怪物、机器人、卡通形象）这类现实中不存在的嗓音，模型基本合成不出来——因为训练数据里就没有；二是缺乏鲁棒且灵活的编辑能力，比如按参考音克隆、或者只改情绪和语气而保持音色。 本文贡献：两条线同时下手。数据侧做了一个混合流水线：用数字信号处理手段（变调、共振峰变换、时域拉伸这类）配合语音生成模型，人工构造出覆盖真实人声与虚构角色的多样音色数据集——本质上是用增强绕开「虚构嗓音没有真实录音」这个死结。模型侧提出 VoiceDesigner，一个统一处理生成与编辑的扩散 Transformer。架构上四路输入各配一个 Local-DiT 前端：参考音频与目标音频走 VAE 编码器，指令走语言模型，转写文本走 tokenizer，四路 token 拼接后过共享的 DiT 块栈。DiT 块内部用 RMS-Norm 加 Scale/Gate 的调制结构（自注意力和前馈各一组），条件通过调制系数注入。另配一个时长预测器先定长度，再由 DiT 从噪声 latent 出发去噪、VAE 解码出波形。这样生成（无参考音）与编辑（有参考音）就是同一套权重下的不同输入配置。 An overview of framework design of VoiceDesigner. 实验效果：主客观评测显示，VoiceDesigner 在与音色描述和编辑指令的对齐度（prompt alignment）上优于当前最好的 TTV 模型，同时在感知质量与音色可用性上保持竞争力。架构消融给出的证据比较扎实：作者按条件注入位置分 Early / Early-Mid / Late-Mid / Late 四档对比三代架构，最终版 VD-DiT-v3 在声音克隆相似度 SIM-o 上于所有四档都稳定最高（约 0.58），而基线 CapSpeech-NAR 在 Early 档的 WER 高达 0.76、Early-Mid 档 0.20，v3 则把 WER 压在 0.04 附近——说明架构改进的收益主要来自把条件注入做得更鲁棒，而非单纯堆容量。 Ablation study on the model architecture. 批判点评：「优于 SOTA 的 prompt 对齐、竞争力的感知质量」这个表述值得警惕：竞争力通常意味着没有更好。也就是说这套方法换来的是描述控制力，代价可能是音质并未提升。虚构音色靠 DSP 增强构造是个务实的工程解，但增强出来的样本与真实录音在统计上必然有差异——模型学到的「怪物嗓音」有多大程度是在拟合变调伪影而非真正的音色概念，论文没有正面回答，而这直接决定了它在真实创作中够不够用。消融图里 SIM-o 最高约 0.58 这个绝对水平在声音克隆任务里并不算高（专门做克隆的系统通常更高），说明统一模型在克隆这一子任务上确实付了代价。另外情绪、语气这类编辑属性的评测只提到 Style-Acc 一个指标，粒度较粗。 6. AvatarDynamizer：静态数字人补上衣服褶皱 AvatarDynamizer: From Static to Dynamic Human Avatars via Generative Dynamic Textures | 马普信息学研究所、VIA Research Center、EPFL | arXiv:2608.19900 关键词：4D数字人,动态纹理,3D高斯,视频扩散先验,马普所 前序问题：全身数字人要跨过恐怖谷，表面动态是关键——衣服的褶皱、布料的甩动，这些细节缺失时人眼立刻觉得假。但现有两条路各有硬伤：通用方法能从单张图、单目视频或文本提示重建静态 3D 数字人，可它们的动画是骨骼驱动的，衣服跟着骨头刚性变形，没有真实的表面动态；专用方法（为单个人训一套）渲染质量和动态都好，代价是每个人都要一套昂贵的多视角采集。近期的通用动态方法则难以把表面动态嵌进表示里，结果要么多视角不一致，要么动态表现力不足。 本文贡献：核心想法是把「数字人的表面动态」转成「纹理生成问题」，从而可以直接借用预训练视频扩散模型的先验。具体做法：设计一个纹理空间的表面动态嵌入，用编码器-解码器把姿态相关的动态编码进动态纹理图（dynamic texture map）——纹理图是二维的，天然与视频扩散模型的输入格式兼容；解码时再把纹理解成 3D 高斯，由高斯渲染器出图，多视角一致性因此得到保证。整条流水线的输入端很宽：多视角图、单目图、单目视频、文本提示、随机采样、3D 扫描都能作为静态数字人来源，经身份拟合得到身份纹理，再与用户指定动作产生的运动纹理一起送进动态纹理生成器，最后由通用高斯解码器渲染出自由视角结果。由于现有数据集在规模、序列长度或动作多样性上都不够，作者还自采了一个大规模多视角长序列数据集。 Overview. Given a static human avatar reconstructed from multimodal inputs, e.g. multi-view images, we first perform identity fitting to obtain its coarse shape and identity texture. Our Dynamic Texture Generator predicts dynamic texture maps conditioned on identity and novel pose. Then, our Generalized Gaussian Decoder recovers Gaussian splats for faithful and view-consistent renderings. 实验效果：实验表明该方法能给静态数字人赋予可信的表面动态，在视觉保真度上优于同类通用方法，尤其在动态训练数据有限时优势更明显。定性对比图给出的证据比较清楚：以 LHM 和 MV 两种静态数字人来源为起点，逐行对比 Static Avatar、+GAS、+VAP 与 +Ours——前三者在胸前印花和裤腿区域（图中红框）都出现了纹理糊掉或褶皱缺失，本方法（绿框）则保留了印花细节并给出了随姿态变化的布料褶皱，与 GT 行的表现最接近。 Qualitative Comparison on DynaHuman. Given a static avatar reconstructed from a monocular image using LHM or from multi-view images (MV), we compare our method with state-of-the-art generalizable surface dynamics methods. Our AvatarDynamizer produces faithful wrinkles while preserving both 3D geometry and identity consistency. 批判点评：把动态压进纹理空间是个聪明的降维，但它同时划定了能力边界：纹理是贴在几何表面上的，因此这套方法能表达「表面看起来在动」，却难以表达真正需要几何位移的动态——宽松裙摆的大幅甩动、外套的开合、长发的飘动，这些超出纹理可表达范围的情形论文没有讨论。「优于同类通用方法」的对照对象是通用方法，而质量天花板仍是专用方法（per-subject 训练），两者的差距有多大摘要没有交代。另外方法依赖自采的大规模多视角数据集才训得起来，这与「通用、低成本」的初衷之间存在张力——数据成本从推理侧转移到了训练侧，对复现者不算友好。 7. GenRec：该重建的别幻觉该幻觉的别糊 GenRec: Knowing Where to Reconstruct and Where to Generate | 苏黎世联邦理工、Google、Microsoft、KAIST | arXiv:2608.17832 关键词：新视角合成,流匹配,观测掩码,重建与生成分区,ETH 前序问题：从稀疏输入图做生成式新视角合成，本质上是两个性质完全不同的任务混在一起：在某个源视图里可见的像素有唯一正确的值（只受视角相关的着色调制），而落在遮挡区或超出拍摄范围的像素则允许一整个分布的合理补全。现有方法用一个统一的损失同时处理这两种情形，结果是几何保真与创造性幻觉的界限被抹平——即便通过 warp 的点云或投影深度把场景几何注入进去，可见区域该被精确重建的地方也会被生成先验带糊。 本文贡献：GenRec 的做法是把这个分区直接写进架构、监督和梯度流三处。首先由源相机加一个单目深度估计器导出观测掩码（observation mask），明确标出哪些像素是「被看到过的」。主干是一个多视角流匹配模型，同时对 RGB 和场景坐标图（scene-coordinate map）在所有目标视图上联合去噪——两个模态各有编码器，通过跨视角注意力与跨模态注意力交互，解码侧接 LoRA。然后是一个像素空间的精化阶段（重建分支），用稀疏 3D 交叉注意力与自注意力，专门在已观测像素上恢复被 latent 压缩丢掉的高频细节，且不扰动未观测区域的生成先验。关键在于同一个掩码还用来门控监督信号——回归损失被限制在观测区域内，不会污染生成先验；反过来生成损失也不会去干扰该被精确重建的部分。 Overview of GenRec. Given posed input views and target poses, monocular depth and forward warping produce per-target observation masks and warped renders. These condition a (I) multi-view flow matching backbone, which jointly denoises RGB and scene-coordinate latents through cross-view and cross-modal attention. A (II) reconstruction branch then refines only the observed pixels via sparse 3D attention guided by the predicted scene coordinates, while the observation mask gates gradients so the generative prior is preserved in unobserved regions. 实验效果：在 RealEstate10K、DL3DV-10K、Mip-NeRF 360 三个数据集上，单视图外推与双视图插值两种设定下，GenRec 在观测区域取得最好的重建保真度，同时在未观测区域的感知质量上超过纯生成式基线——也就是说没有用一头的退化去换另一头。定性对比中与 Gen3C 的差别很明显：Gen3C 的结果在家具边缘、地面纹理上出现明显的糊化与结构漂移（教室场景的桌椅、客厅场景的家具轮廓都有溶解感），GenRec 则保持了清晰的边界与合理的几何。论文还特意把重建指标分观测/未观测区域分别汇报，而非只给全图平均——这个报法比现有工作更诚实。 Comparative qualitative results. Single-view extrapolation against our strongest baseline, Gen3C. Each row shows the input view, ground-truth target, GenRec, and Gen3C. 批判点评：整套方案的正确性建立在观测掩码的准确性上，而掩码来自单目深度估计器——深度估计在无纹理区、反射面、细结构上的失效是众所周知的，一旦掩码把「其实没看清」的像素标成已观测，回归损失就会强行去拟合一个错误的目标，这类失效模式论文没有展开分析。方法把两条支路、两个模态、两套损失叠在一起，复杂度不低（流匹配主干 + 稀疏 3D 注意力精化 + LoRA），推理开销与训练成本相对单一模型的对照没有交代。评测集中在室内场景为主的三个数据集上，大尺度室外、动态物体等情形未涉及。 8. KeyID：免训练把身份注入到关键帧 KeyID: Decoupled Drafting and Keyframe Editing for Identity-Preserving Video Generation | 广东工业大学（ACM MM 2026） | arXiv:2608.16154 关键词：身份保持,视频生成,免训练,关键帧编辑,ACM MM 2026 前序问题：身份保持视频生成（IPVG）要求合成的视频既忠于参考主体的长相，又贴合文本提示。现有方法两头受限：一类靠微调，调参成本高；一类只在输入层做增强，能力有限。共同的困难是在复杂、长序列动作中维持刚性的身份一致——人一动起来，脸就开始漂。更本质的矛盾是「提示遵循」与「身份保真」之间存在容量冲突：模型的表达能力被两个目标同时争夺，密集的逐帧身份监督会压制动作的自由度。 本文贡献：KeyID 是一个免训练框架，思路是把视频动态的合成与身份的注入彻底解耦成两步。第一步 Reference-Aware Video Generation：先用大语言模型把全局提示扩写成带细节的增强提示，经 T2I 出首帧、ImgEdit 编辑、再由 I2V 展开成视频草稿（并有 Prompt Relay 机制传递时序提示）——注意这个草稿是身份无关（identity-agnostic）的，只对齐多个参考的粗略属性，因此动作可以放开生成。第二步 Identity-Preserved Keyframe Editing：对草稿做分组帧采样挑出关键帧，只在这些稀疏关键帧上做身份修正，再通过运动插值把修正传播到中间帧。从密集的帧级监督换成稀疏的关键帧级精化，容量冲突就被绕开了。模块化设计还带来一个好处：扩展到多主体参考和复杂连续动作不需要额外训练。 Overview of KeyID. (a) Reference-Aware Video Generation. A global prompt, optional temporal prompts, and a face reference are fused by GPT-5 into an enhanced prompt, from which a first frame is generated and optionally edited with non-human objects. The edited frame and the global prompt, along with optional temporal prompts, drive I2V to produce a video draft. (b) Identity Preserved Keyframe Editing. Keyframe windows are uniformly sampled in groups along the video draft, optimal keyframes are selected in keyframe identity refinement, and motion interpolation produces the final temporally coherent video with preserved identity and prompt adherence. 实验效果：自动与人工评测均优于此前工作，并在 ACM Multimedia 2026 IPVG 大挑战赛 Track 2（Sequential Action）中拿到亚军。定性对比里与 Concat-ID、Stand-In 的差距集中在长序列动作上：跑步、足球、医院三组场景中，两个基线在人物快速移动时脸部出现明显变形与身份漂移（足球场景里 Stand-In 的人物在远景中几乎不可辨识），KeyID 则在整段动作里保持了一致的面部特征，同时动作幅度与场景细节（跑道、球场、走廊）都没有被压制。 Qualitative comparison. Four evenly sampled frames are shown for each video. KeyID better preserves identity consistency and prompt adherence across complex actions. 批判点评：免训练是真实优势，但这套流水线的代价是把复杂度转移到了推理链上——LLM 扩写、T2I、ImgEdit、I2V、关键帧编辑、运动插值，六个环节串联，每一环的失败都会传导下去，且整体延迟必然远高于单模型端到端方案，论文没有给出推理成本的量化。稀疏关键帧修正加运动插值的组合在动作平滑时应该工作良好，但在快速非线性运动、遮挡后重现这类情形下，插值能否维持身份一致性是个疑问——而这恰恰是 Track 2「连续动作」最难的部分。竞赛拿的是亚军而非冠军，说明方法仍有明显差距。评测依托竞赛官方基准，跨基准的泛化性未验证。 9. Mise-en-Scène：版式不用预测而是自己长出来 Mise-en-Scène: Implicit Layout Emergence in Diffusion Transformers for Human-AI Design Co-Creation | Canva Research（ECCV Human-AI Co-Creation Workshop 最佳论文） | arXiv:2608.19000 关键词：版式生成,平面设计,隐式布局,LoRA,Canva 前序问题：从用户给定的素材自动做平面设计，要同时满足两件互相拉扯的事：整体构图协调，以及每个素材被精确保留（logo 不能变形、文字不能糊）。现有做法是先用语言模型预测显式的边界框坐标，再把素材贴进去。这种「先规划再合成」的分离带来两个后果：布局与视觉呈现脱钩，生成的构图往往僵硬、缩放失当；而且产物是一张扁平的图，设计师没法继续改。 本文贡献：作者换了个问法：布局能不能在一个预训练的图像编辑扩散 Transformer 内部隐式地涌现出来？两阶段实现。第一阶段用一个经过 knockout 筛选的小 LoRA 适配预训练 DiT，让它直接起草一份完整设计——元素的排布与渲染出的画布是联合涌现的，而不是先定坐标再填充。输入侧文本简述过文本编码器，背景图与各个元素分别过冻结的 VAE，所有 token 拼接后进 DiT 块栈。草稿里的文字和 logo 会有可见的失真，但位置关系是对的。第二阶段是确定性的 match-and-place：借一个 VLM grounder 逐个定位草稿中的元素位置，再把原始高分辨率素材搬到对应位置——这一步保证了素材的像素级保真，且产物是可编辑的分层设计而非扁平图，设计师能接着改。作者特别强调，对预训练 Transformer 做最小适配就够了，不需要多元素生成任务里常见的那套专门的条件注入机制。 Mise-en-Sc`ene. The method runs in two stages. In Stage~1 (simplified layout generation), a text brief, a background canvas, and the visual elements are mapped by frozen encoders into a joint token sequence and processed by a flow-matching Diffusion Transformer adapted only through a knockout-selected LoRA, which produces a layout-aware draft design. Because the draft comes from stochastic sampling, it still contains rendering artifacts such as distorted text and warped logos. In Stage~2 (deterministic match-and-place), a VLM grounder locates each original element in the draft independently, and the original high-resolution layers are alpha-composited at the grounded boxes to yield the final design, which keeps the emergent layout while restoring exact, pixel-faithful, editable assets. 实验效果：在大规模 PrismLayersPlus 基准上，Mise-en-Scène 生成的设计在感知质量上最接近真值，且大幅领先 LLM 版式规划器与专用版式 Transformer 两类方法；match-and-place 阶段把剩余的保真度差距也补到了接近真值合成图的水平。消融数据佐证了第二阶段的必要性：直接对扩散草稿而非 match-and-place 合成结果打分，会让 Qwen3-VL 上的美学保真度差距 |ΔGT| 从 0.046 恶化到 0.248。定性对比中与 FlexDM、LaDeCo 的差别很直观——两个基线普遍把元素缩得过小或叠在一起（FlexDM 尤其明显，文字常糊成一团），本方法的排布则接近 GT 的构图逻辑。 Qualitative comparison on the PrismLayersPlus test set. Each row shows, from left to right, the input design elements provided without spatial context, followed by the composites from FlexDM, LaDeCo, our Mise-en-Sc`ene, and the ground truth. Every method is rendered from its own predicted layout; our column is the match-and-place output. Our designs follow the ground-truth arrangement most closely; see text for a per-row discussion. 批判点评：第二阶段能保证素材保真，但它同时暴露了第一阶段的局限：草稿里文字和 logo 是失真的（框架图里明确标注了 text distortion、brand/logo distortion、detail inconsistency 三类问题），也就是说 DiT 学到的其实是「大致该放哪」而非真正理解了排版规则，match-and-place 是必要的补丁而非可选增强——一旦草稿里某个元素的位置判断错了，第二阶段只会把原始素材精确地搬到一个错误的位置上。评测的主指标是与真值的感知接近度，这个口径隐含假设了 PrismLayersPlus 的真值就是好设计，但平面设计本身允许多解，「接近真值」和「设计得好」并不等价，而论文没有人工设计师的偏好评测。另外基准单一，元素数量、语种、画布比例的覆盖范围未交代。 10. BeyondMasks：删掉物体也要删掉它的影子 BeyondMasks: Evaluating Causal and Physical Consistency in Video Object Removal | Bilkent 大学、Koç 大学、Hacettepe 大学（ECCV 2026） | arXiv:2608.20107 关键词：视频物体移除,因果一致性,评测基准,VLM评测,ECCV 2026 前序问题：生成式视频模型让物体移除的视觉真实度大幅提升，但评测协议还停在「掩码区域像素保真度」上，本质上把移除当成了局部修补。现实场景里移除一个物体是一次因果干预：抹掉物体本身之外，它引起的物理效应——影子、反光、光照变化、半透明遮挡、以及运动留下的痕迹——也必须一并消除。而这些效应恰恰落在掩码之外，现有指标完全看不到。现有基准要么没有对齐的干净参考，要么局限于简化的合成设定，无法系统评估因果一致性。 本文贡献：BeyondMasks 是一个配对基准：提供时序对齐的合成与真实视频对，每对都带干净背景参考。构造方式是反向的——先有干净背景，再插入物体与其应有的效应，从而天然拿到对齐的「移除前/移除后」真值：合成侧用 Veo 3 生成背景视频再插入物体与效应（90 条），真实侧用三脚架实拍背景再通过受控编辑引入目标物体（90 条）。数据覆盖光度、几何、体积、动态四类交互，标注上刻意只给「物体本体」的二值掩码而不标注次生效应，逼模型自己去推理该消除什么。作者还整理了次生效应的分类体系并给出各类样本数（影子 127、反光 61、半透明 46、水汽 20、光源 38、随意痕迹 37）。配套提出 CORE，一个基于视觉语言模型的结构化评测协议，同时度量物体消失程度与次生效应一致性，与人类判断的吻合度高于现有指标。 Overview of the BeyondMasks construction pipeline. Top: Paired intervention-based generation, where an object-present video is derived from a clean background video, ensuring temporal alignment. Bottom: Representative categories of object-induced causal after-effects, including illumination, reflection, volumetric, and dynamic interaction effects. 实验效果：对当前最好的方法做基准测试后暴露出系统性失效：掩码区域保真度很高，但次生效应普遍没被移除——视觉上的合理性与因果上的正确性之间存在明确的鸿沟。定性结果把这个鸿沟量化得很清楚：三组场景（结冰湖面的倒影、木板上的杯子阴影、路面上的瓶子与其投影）里，ProPainter 与 Minimax 的 LPIPS 分数与最好的方法几乎持平（0.065~0.098 区间，差异极小），但 CORE 的两项打分差距明显——ProPainter 的 CORE-AES 只有 1~2 分，Rose 能到 4~5 分；肉眼看图也能确认前两者留下了明显的残影与阴影残迹。也就是说 LPIPS 这类指标对次生效应几乎不敏感，换个指标才能把差距照出来。 Pixel metrics fail to capture causal correctness. Although LPIPS scores are similar across methods, their ability to remove object-induced effects (e.g. shadows or reflections) differs substantially. CORE separates these failure modes by evaluating object removal (CORE-OS) and elimination of causal after-effects (CORE-AES). $\downarrow$ better for LPIPS; $\uparrow$ better for CORE scores. 批判点评：180 条视频（合成 90 + 真实 90）的规模对一个基准来说偏小，各效应类别的样本数更少（水汽只有 20 条），据此得出的类别级结论统计强度有限。合成侧用 Veo 3 生成背景再插入物体，这引入了一层生成模型自身的偏置——被评测的方法与构造数据的模型属于同一技术谱系，是否存在系统性的相互适配值得警惕。CORE 依赖 VLM 打分，而 VLM 对影子、反光这类细微物理线索的敏感度本身就是个未知量，论文虽报告了与人类判断的吻合度更高，但「更高」的基线是本就不敏感的 LPIPS，这个对照并不严格；用 VLM 评测生成结果也天然继承了 VLM 的失效模式。作为纯评测工作，它指出了问题却没有给出改进移除方法的方向。 趋势观察 奖励对齐的失效终于被写成了数学 — 过去一年大家都在抱怨「奖励劫持」：模型学会了讨好打分器，图却越来越怪。今天快手可灵与西湖大学合作的 ThermoDPO 第一次把这件事在流匹配框架里形式化了——他们定义了「流形漂移」（manifold drift）这个概念，并证明只要偏好更新引起的终点位移带有非零法向分量，采样结果就必然离开预训练数据流形。换句话说，奖励劫持不是调参没调好，而是把 DPO 直接搬到连续时间动力学上时的结构性后果。这个视角的价值在于它把一个玄学问题变成了可度量的量：论文用「重建距离」作为流形距离的代理，于是「有没有漂移」可以被直接监控，而不是等到生成结果看起来不对才回头查。今天另一篇 BeyondMasks 走的是同一条路的另一半——它说视频物体移除的评测一直在算掩码区域的像素误差，可现实中删掉一个物体还要删掉它的影子、反光和水汽，这些恰恰落在掩码之外。两篇论文一个从理论、一个从评测，指向同一件事：生成模型的对齐问题正在从「效果好不好」进入「我们究竟在优化什么」的阶段。 加速的粒度从「步」下探到「token」 — 扩散模型加速的主流路线过去是减步数（蒸馏）、缓存特征（TeaCache 一类）、或者降精度（量化）。上交与阿里云的 AViTS 在今天给出了一个正交的第四条：动态分辨率采样时，不要把所有 latent token 一起升采样。它用「latent 与文本的注意力」度量空间重要性、用「token 特征跨时间步的变化量」度量时间重要性，融合后只对关键 token 优先做分辨率精化，其余延后。在 Qwen-Image-Edit 和 FLUX.1-Kontext-dev 上拿到接近 9 倍 FLOPs 削减，叠加蒸馏模型后到 14.76 倍。值得注意的是作者明确强调这条路与蒸馏、量化、特征缓存正交——这意味着推理加速正在从「选一条路线」变成「几条路线叠乘」，而叠乘的前提是每条路线作用在不同的冗余维度上。AViTS 挖的是空间分辨率这一维，此前基本没人系统做过。 音频侧的改造正在变得越来越「轻」 — 今天有三篇论文都在音频生成上，但共同点不是模型更大，而是改动更小。Kandinsky Lab 的做法最极端：给一个文生音视频模型加声音克隆能力，只需在音频主干上加一个零初始化的线性层，短周期微调即可，且因为零初始化，增强后的模型起点就是原模型的功能副本，不破坏已有能力。副产品是推理时可以只跑音频路径而跳过视频路径，拿到约 30 倍加速。快手可灵的 SingDance 也是类似哲学——它没有为「唱跳」这个新任务收集数据（Song/Source 这个目标配置在训练时从未出现过），而是把发声主体建模成一个语义角色（source 或 listener），让训练时分别学到的「发声」与「随歌跳舞」两种能力在推理时组合起来。这种「靠结构设计换数据」的思路在数据获取越来越贵的今天格外有价值。 人工智能炼丹君 整理 | 2026-08-24 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注