AIGC 每日速读|2026-09-21|伯克利线性注意力让H3视频快14.5倍-VDN 今日 AIGC 论文速览 今日共 10 篇 重点论文标题列表 Video DeltaNet（UC Berkeley × Impossible Inc. × UT Austin）：线性注意力让H3快14.5倍 dQwen3.5（University of Texas at Austin）：混合骨干省一半适配token Edit-VAR（中山大学 × 华南理工大学 × 清华大学 × 山东大学 × 南开大学 × 湖南大学）：免训练免反演改视频 Paint-Anything（ByteDance Seed × 浙江大学 × 南京大学）：写个十六进制就能上色 StepAudio 3 Music（StepFun（阶跃星辰）× ACE × 香港中文大学 × UC San Diego）：先写ABC谱再生成5分半歌 今日论文速览 1. Video DeltaNet：线性注意力让H3快14.5倍 Video DeltaNet: A Video-Native Hybrid Attention for Livestream Video Generation | UC Berkeley × Impossible Inc. × UT Austin | arXiv:2609.20744 关键词：视频扩散模型,线性注意力,混合注意力,推理加速 前序问题：视频扩散模型每一步去噪都要把又长又宽的时空 token 序列过一遍注意力，算力全压在这里。线性注意力在大语言模型里已经被验证好用，但直接搬到视频模型上会丢掉细粒度交互，画面质量跟着掉——于是「省算力」和「保质量」一直是二选一。 本文贡献：论文提出 Video DeltaNet（VDN），不做纯替换而是双分支并存：局部 Softmax 注意力管近处的细粒度交互，双向线性记忆管长程视频上下文。线性分支的核心是 Video Delta Attention（VDA），它不按 token 逐个更新记忆，而是以「帧」为单位、把该帧的全部空间 token 一起吸收进去，一帧只更新一次。两个分支各有独立的输出投影和可学习门控来校准配比；适配则走分阶段的教师对齐配方（Stage A1 先单独对齐每个线性分支，A2 再端到端训练组装后的混合层），把新通路渐进地塞进已预训练的模型里。作者把 VDN 落在 MiniMax H3 上，只对 video-to-video 这类交互用混合注意力，凡是牵涉文本或音频的交互仍然保留 Softmax。 实验效果：配合八步蒸馏和优化过的 SGLang 服务栈，VDN-H3 在 8 张 NVIDIA B200 上生成 14.3 秒 768p 视频，DiT 去噪只用 6.70 秒，相对同样 8 卡、50 步的 dense H3 基线提速 14.5 倍。质量方面：50 步时 Stage B 后的 VDN-H3 与蒸馏前的 Dense H3 基本持平（美学、技术、学习质量、FIRM 各项接近，仅两个端点保真度指标略降）；八步时在五项无参考质量指标上全部最高，VQA_T 比 FastH3 v2 高 10.78 分；四步时同样在五项上超过 Dense H3 加 Larry 适配器与 FastH3 v1，VQA_T 领先 FastH3 v1 达 12.64 分。 批判点评：这篇的价值在于把「线性注意力用于视频」从整体替换改成了按交互类型分流：视频与视频之间用线性，涉及文本、音频的跨模态交互留给 Softmax，承认了不同交互对精度的敏感度本就不一样，比一刀切务实得多。以帧为单位更新记忆也和视频 tokenizer 的时间结构对齐（H3 的 VAE 按五个连续潜帧为一个时间块解码，窗口顺着它走以免 Softmax 边界切断 tokenizer 的自然时间单元）。要留意的是 14.5 倍里混进了八步蒸馏和服务栈优化的贡献，架构本身的净收益要看 50 步那组对照；论文也明确说八步那组的显著性标记是各变体与 Dense 50 比，并非 VDN-H3 直接对 FastH3。另外全部结论都长在 MiniMax H3 这一个骨干上，换模型是否还成立尚无证据。 2. dQwen3.5：混合骨干省一半适配token dQwen3.5: Hybrid-Attention Diffusion Language Models | University of Texas at Austin | arXiv:2609.20751 关键词：扩散语言模型,混合注意力,模型适配,并行解码 前序问题：把预训练好的自回归模型改造成扩散语言模型（DLM）是条省钱路线，但几乎所有现成改造都从全注意力 Transformer 出发。问题是自回归这边早就转向了注意力与 RNN 层交错的混合架构，而 RNN 结构上就是因果的，要把它双向化并不容易——骨干和目标范式对不上。 本文贡献：作者索性直接试：以 Qwen3.5 为起点，在 0.8B、2B、4B、9B 四个规模上做自回归到扩散的适配，得到 dQwen3.5 系列，并拿一个全注意力模型做对照，专门回答两个问题——混合骨干是否是高效的适配起点，适配出来的模型还保不保留定义 DLM 的并行与任意序解码行为。评测统一用同一套解码方案（默认画布 1024）而非各家自带的推理配方，并用 trunk（去掉 embedding 与输出头）参数量作为容量口径对齐比较组。 实验效果：混合骨干确实更省：达到同一训练 loss 所需的 token 量大约只要全注意力对照的一半，配图上逐个 loss 档位统计的中位数是 2.21 倍 token 效率差。跨规模看，dQwen3.5 在任意序解码行为上与全注意力 DLM 相似，并行解码下表现强劲——HumanEval 与 MBPP 上 1× 到 8× 加速区间基本压住全注意力对照。 批判点评：结论有用且反直觉：结构上「不适合」双向化的混合骨干，反而是更划算的 DLM 起点，这对想复用现成混合架构权重的人是直接的好消息。但配图暴露了摘要没提的代价——在 MATH500 上，100B token 档的混合版明显落后全注意力对照（1× 时约 9.3% 对 15.8%），数学推理这一块的损失不小，只有在 4× 以上高加速区间才靠后者衰减更快而追平。作者自己在注释里也怀疑退化可能来自训练数据混合不如 Qwen3/Qwen3.5 原始配方，这等于承认「骨干差异」和「数据差异」还没被干净地分离。另外全部比较都在基座 checkpoint 上做，后训练被明确排除在外，而后训练对下游表现影响很大，所以这套结论离「能直接上线」还有距离。 3. Edit-VAR：免训练免反演改视频 Edit-VAR: Taming Visual Autoregressive Model for Precise Video Editing | 中山大学 × 华南理工大学 × 清华大学 × 山东大学 × 南开大学 × 湖南大学 | arXiv:2609.21268 关键词：视频编辑,视觉自回归,免训练,token替换 前序问题：文本引导的视频编辑要改对目标内容，同时保住没被编辑区域的外观和时间连贯。训练型方法控制力强但吃数据吃算力；免训练方法分两条路，免反演的不用恢复轨迹，可它那套保源引导会限制编辑强度、让语义改动做不彻底；反演型先恢复潜轨迹再重生成，近似误差会累积，导致源内容漂移和时间不一致。 本文贡献：Edit-VAR 是第一个基于预训练视觉自回归视频模型、既免训练又免反演的文本引导视频编辑框架。它把源视频直接编码成多尺度离散 token，用概率引导的条件 token 替换来保源；再用注意力引导的 token 级与尺度感知调制，只在与编辑相关的位置和生成阶段选择性放松源约束。Scale-Decoupled Generation 以「晚期尺度解除约束」的形式实现，负责重新生成运动一致的细节、减少纹理碎裂。另有残差引导的 token 剪枝，利用最后两个高分辨率尺度上的冗余来压推理开销。 实验效果：大量实验加一项盲测用户研究显示，Edit-VAR 在编辑保真度、源内容保持、时间连贯性和推理效率上整体优于现有免训练视频编辑方法。定性对比里，同样把「red boat hull」改成「dark blue boat hull」、把「tree frog」改成「poison dart frog」，VACE 会连船型和背景一起改，RAVE 整片色调偏移、青蛙变成纯绿，Edit-VAR 则只换掉目标物的颜色与纹理，港口的其他船、水面倒影和叶片细节都留住了。 批判点评：把编辑搬到离散多尺度 token 上做，绕开了连续扩散反演的误差累积，这个切换是这篇最实在的地方——问题定位在「反演」而不是泛泛的「一致性」，配套的概率引导替换也把「保源还是接受编辑」变成了可按 token 判定的显式比较。但摘要通篇只给「整体优于」的定性结论，没有一个具体数字，编辑保真与源保持之间的权衡到底移动了多少无从判断；残差剪枝说是降推理成本，省了多少、掉不掉质量也没披露。更根本的限制是它绑在视觉自回归视频模型上，而这类骨干的开源生态和画质上限目前都不如主流扩散视频模型，方法再好也受骨干天花板约束。 4. Paint-Anything：写个十六进制就能上色 Paint-Anything: Unified Any-Color Control for Image Generation and Editing | ByteDance Seed × 浙江大学 × 南京大学 | arXiv:2609.20816 关键词：图像生成,图像编辑,颜色控制,数据管线 前序问题：专业设计需要的是任意颜色控制：用任一 24 位十六进制值指定某个物体的目标颜色，生成和编辑都得听话。以往工作在颜色生成、编辑、上色上各做一块，却往往依赖专门的颜色表示或特制的推理流程，不通用。而大语言模型这边提供了一个更简单的起点——连小模型都已经能把十六进制值和颜色语义对上。 本文贡献：Paint-Anything 直接把十六进制写进文本提示（包在 color 标签里）由文本编码器编码，通过物体级颜色监督学出一套生成与编辑共享的 hex-prompt 接口。配套数据管线从真实图像构建 Paint-500K：经 VLM 定位、SAM3 掩码、CIE 空间颜色提取、编辑对合成、过滤与重新描述而成。关键设计是：真实图像有阴影，标签只能算近似颜色，所以再补一批纯色锚点——它们的像素与配对的十六进制严格一致；而这些锚点只在高噪声时间步参与训练，低噪声阶段仍交给自然图像，避免把纯色的平坦质感带进成品。论文还提出 Any Color Benchmark（ACBench），含 ACBench-T2I 与 ACBench-Edit 两部分，专门量物体级十六进制颜色保真度。 实验效果：在 FLUX.2-4B 上，Paint-Anything 把 ACBench-T2I 和 ACBench-Edit 分数相对基座分别提升 85.3% 和 28.3%，并在参与比较的方法中取得最高的平均 CompColor 分。消融实验支持这套训练配方。定性对比里基座 FLUX.2-4B 常给出「语义上说得通但数值上离要求很远」的颜色——要 #FF5634 的车身给成偏红、要 #000080 的沙漠绿洲给成亮蓝，Paint-Anything 则能贴住指定色值。 批判点评：「纯色锚点只在高噪声时段用」这个细节是全文最值得抄的一笔：它承认了监督信号在不同噪声尺度上的可信度不同，用时间步做分工而不是简单混数据，比多数「加一路干净监督」的做法更讲究。把十六进制塞进文本提示、不引入专门颜色编码器，也让它能直接挂在现成模型上。但 85.3% 是相对基座的提升，基座本身在这项上分数低，相对增幅容易放大；编辑侧只有 28.3%，两者差距说明编辑任务里颜色约束和内容保持的冲突还没解决好。更要紧的是 ACBench 是作者自建的评测，「在自家基准上提升最多」这件事需要外部复现才能定性。另外全部结果都在 FLUX.2-4B 上，跨骨干的可迁移性未验证。 5. StepAudio 3 Music：先写ABC谱再生成5分半歌 StepAudio 3 Music Technical Report | StepFun（阶跃星辰）× ACE × 香港中文大学 × UC San Diego | arXiv:2609.16034 关键词：音乐生成,音频tokenizer,MoE,流匹配DiT 前序问题：长篇音乐生成要同时满足两件事：既能按开放域文本指令走，又得让和声、节奏、旋律结构立得住。以重建为导向的音频 tokenizer 会把音乐结构和精细声学细节混在一起，产出高熵 token 不好建模；而模型若只是端到端硬生，编曲结构就成了隐式的、不可控的副产物。 本文贡献：StepAudio 3 Music 走离散与连续混合的设计。StepAudio Music Tokenizer 把音频表示成 50 Hz 的单码本流（码本 65536 条），靠语义引导的自监督与多任务训练同时保住音乐结构和重建所需信息；论文用受控对比（统一 25 Hz 帧率）比较了单码本 VQ、Semantic RVQ、Acoustic RVQ 三种离散瓶颈，以及不同 DiT 配置，才定下这个方案。渲染侧由流匹配 DiT 预测连续的 StepAudio VAE 潜变量，再由 VAE 解码器还原 48 kHz 音频。显式规划则交给一个 MoE 自回归模型：它先用 ABC 记谱法产出中间编曲方案（ABC-CoT），再去预测音乐 token，让和声、节奏、旋律结构成为生成上下文的一部分。渐进式训练课程加监督微调支撑歌曲与纯器乐生成、由干声生成伴奏、翻唱合成，最长 5 分 30 秒。 实验效果：经 DPO 强化学习后，模型在 AudioBox 的 Content Enjoyment、Content Usefulness、Production Quality 三项以及 MuQ-MuLan 相似度上取得所评系统中的最高分，SongBench 结果具备竞争力。在 Artificial Analysis Music Arena Vocals 初步榜上 Quality Elo 为 1105。 批判点评：「先写 ABC 谱再生成音频」把编曲从隐式副产物提成了显式可读的中间态，这既是可控性抓手也是可调试性抓手，是这篇最有辨识度的设计；单码本 50 Hz 加流匹配 DiT 的分工，也把「离散好建模」和「连续好还原」各自的长处分开用了。但榜单要看细账：Vocals 榜上它实际是第 4 名（前面是 Suno V5.5 的 1170、Mureka V9 的 1159、Mureka V8 的 1140），摘要里「仅次于 Suno V5.5 和 Mureka」的说法把 Mureka 两个版本折叠了，读起来比实际名次靠前。更关键的是它的投票样本只有 2119，而同榜 Suno、MiniMax 等都在 1 万以上，95% 置信区间也宽到 ±14，和第 5 名 Suno V5（1097，±6）的差距在统计上并不稳。论文自己也说明这些评测衡量的是生成质量，并不直接度量对单个 ABC 音符、和弦、小节的遵循程度——也就是说 ABC-CoT 到底被执行得多准，目前没有直接证据。 6. PhysStream：边生成边推物理的流式视频 PhysStream: Streaming Physics-Grounded Video Generation with Structured Scene Memory and Fine-Grained Motion Control | University of Pennsylvania × Snap Inc. × KAUST | arXiv:2609.17521 关键词：视频生成,物理一致性,自回归,交互控制 前序问题：视频生成的交互控制正从粗糙提示走向对动态场景做细粒度、物理上有意义的操纵。但现有可控方法要么要求生成开始前就给出完整控制时间表，要么用像素空间信号去规定物体位置——那是在指派位置，而不是在指定物理动力学。 本文贡献：PhysStream 是面向物理接地的图生视频的自回归模型，带两样东西。一是结构化场景记忆：位置图与物体跟踪图都从已生成的帧里在线导出，边生成边更新。二是用稀疏的速度增量信号做细粒度运动控制，这些信号编码的是物理量，让模型去学底层动力学而不是背位置。训练分两阶段：先用运动控制条件微调一个双向模型，再训练一个因果自回归模型并额外接入结构化场景记忆，进一步提升物理一致性。 实验效果：PhysStream 支持对多物体桌面刚体场景做交互式的、生成中途的控制——这是此前方法不具备的能力。合成基准上运动分布距离（FVMD）比最强基线降低 33%，轨迹误差降低 12%；野外对比中超过 85% 的情况被人类评估者更偏好。长时程上，配图里一只玉色茶杯在桌面随机走动，从 t=0 一路走到 t=180 帧，远超 49 帧的训练窗口，仍持续跟随随机注入的速度增量交互并保持外观不崩。 批判点评：「控制信号编码物理量而非像素位置」这个取舍是关键：它把可控性问题从「让模型听话地摆物体」改成「让模型学会动力学然后自己推演」，这也是它能支持生成中途插入交互、而不需要预先排好完整控制表的根因。结构化场景记忆从已生成帧在线导出，避免了额外的外部状态追踪，工程上干净。但作者自己单列了一张图说明一致性指标的局限——FlashMotion 的一致性分数和本方法相当，却有明显伪影和幻觉物体，DragStream 生成近乎静止的画面也能拿高分，这等于承认 33% 和 12% 这两个提升所依赖的指标体系本身可信度有限，真正支撑结论的是那 85% 的人类偏好。适用范围也偏窄：主战场是多物体桌面刚体，非刚体只给了弹跳球和布料两个微调后的演示，离通用物理场景还远。 7. DeepSeek-V4.1-Flash：每token只留890字节KV DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression | DeepSeek-AI | arXiv:2609.19969 关键词：KV cache压缩,MoE,长上下文,推理成本 前序问题：长时程智能体大规模铺开后，模型负载越来越偏输入重。尽管此前工作已大幅降低长上下文计算成本，prefill 仍然很贵，而庞大的 KV cache 继续挤占 HBM 与 SSD 容量、吃掉数据传输带宽。算力、存储、带宽这三份需求合起来，构成了进一步压低部署成本的主要瓶颈。 本文贡献：DeepSeek-V4.1-Flash 是一个多模态 MoE 模型，骨干 552B 参数，支持最长 100 万 token 上下文。它采用因果编码器-解码器（CED）架构：解码时每 token 激活 16B 参数，prefill 时只激活 8B，这对智能体这类输入重负载显著改善成本效率。为把 KV cache 压缩推到极限，模型把 Compressed Sparse Attention 2（CSA2）里的跨层 KV cache 复用与 FP4 KV 缓存结合起来，使常驻 HBM 的全局 KV cache 降到每 token 890 字节，约为 DeepSeek-V4-Flash 的四分之一。再通过名为 SWA Bounded Replay 的部署优化，把常驻 SSD 或主机内存的持久 KV cache 压到约八分之一。论文另外精简了 V4 架构并引入若干高效扩展，在 45T token 的多模态语料上预训练并做了完整后训练。 实验效果：KV cache 占用大幅缩小的同时，性能明显好于基线。单 token decode FLOPs 随上下文增长的曲线上，V4.1-Flash 到 1024K 仍基本持平在 25 GFLOPs 上下，而 V4-Flash 已升到约 55、V3.2 约 600、V1 超过 3000。预训练阶段在自建留出集上，V4.1-Flash-Base 的 BPB 在所有任务上均低于 V4-Flash-Base 与 V4-Pro-Base。代码智能体基准上性能随 RL 训练规模持续提升，把最大上下文进一步扩到 1M token 后，在极长时程任务上还能继续涨。模型权重已在 HuggingFace 放出。 批判点评：890 字节每 token 这个数字值得记住：它把长上下文的讨论从「模型记不记得住」彻底拽到了「cache 放不放得下、搬不搬得动」，而 prefill 8B、decode 16B 的非对称激活更是直接冲着智能体负载「输入远大于输出」的真实形状去的，属于按负载画像改架构。但 FLOPs 曲线也显示，在约 100K 以下的上下文里 V4.1-Flash 反而略高于 V4-Flash（约 23 对 19 GFLOPs），这套设计是拿短上下文的一点效率换长上下文的大幅收敛，主要跑短请求的场景未必划算。另外 FP4 KV 缓存在什么任务上会先露出精度问题、SWA Bounded Replay 对首 token 延迟的影响如何，摘要都没交代；593 位作者的技术报告里工程优化与架构贡献高度耦合，外部想复现出同样的 890 字节与同等质量，难度不低。 8. The Weight Is Over：12GB显卡跑亚秒出图 The Weight Is Over - Interactive Diffusion on Consumer GPUs | Adobe × NVIDIA | arXiv:2609.21849 关键词：端侧推理,扩散加速,文本编码器蒸馏,显存预算 前序问题：端侧推理正在爆发，但势头几乎全在语言模型那边。扩散管线吃显存、对延迟敏感，还要编排文本编码器、Transformer、解码器以及后处理若干环节，这套流程远没有大模型推理循环那么标准化，落到消费级设备上格外难办。 本文贡献：论文在性能、质量、模型体积这个三角里找可落地的点，给出三项贡献：一个嵌入翻译器，把小文本编码器映射到大编码器的表示空间，从而砍掉权重与延迟；一套可复现的扫参配方，用来在扩散管线的速度／质量／显存三角里做导航；以及一个端侧交互式图像生成编辑器，在较新的 GPU 上实现亚秒级首图时间（TTFI）。 实验效果：跨设备扫参结果最能说明问题。RTX 4070 Ti（12 GB，可用约 11.2 GB）上，只要常驻权重预算没超出可用显存，每步延迟稳定在数百毫秒量级；一旦越过 11.2 GB 就触发 host-paging、必须从主机流式取权重，每步延迟直接跳到 10^4 毫秒级，相当于一个断崖。工作站级 RTX PRO 6000 Blackwell（96 GB）上「什么都放得下」，此时主导排序的就变成精度——NVFP4 最快，FP8 次之，FP16／BF16 落后。嵌入翻译器的容量门槛也量出来了：187M 的翻译器能紧跟 4B 参考编码器，29M 就会漂到「看着合理但内容不对」（要狐狸给猫、要拉面给黄色玩偶），3.5M 则塌缩成一种同质的暗黑森林风格。 批判点评：这篇的实用价值不在某个新模块，而在把「显存预算」立成了一等约束并画出了那条断崖：越过可用显存的惩罚不是线性变慢而是一到两个数量级，这意味着端侧调优的第一目标应该是「压进预算」而不是「提高吞吐」，顺序搞反了后面全是白做。把翻译器容量与语义保真的关系摸到 187M／29M／3.5M 三个档，也给了很实际的选型下界。但工作偏工程报告：只有两位作者、两台设备，没有跨更多消费级显卡的统计；质量评价主要靠定性图，缺少 FID 之类的量化指标，「187M 紧跟 4B」到底差多少无法量化。亚秒 TTFI 也限定在「较新的 GPU」上，对更老的消费级卡是什么表现没有交代。 9. MuSeC：语义声学分流的音乐codec Rethinking Music Tokenization: A Semantic Codec toward High-Fidelity LLM Music Generation | 西北工业大学 ASLP × 吉利汽车研究院（宁波） | arXiv:2609.21240 关键词：音乐tokenizer,语义codec,残差量化,音乐信息检索 前序问题：离散音频 tokenization 已成为原始波形与自回归建模之间的关键接口，所以音乐 tokenizer 得同时做到两件互相拉扯的事：支持高保真重建，又要产出适合语言建模的离散序列。以重建为导向的 tokenizer 常把音乐结构和精细声学细节混在一起，产出高熵 token 难建模；而语义引导的替代方案本是为语音设计的，套到音乐上不合身，往往还伤重建质量。 本文贡献：论文先把「音乐语义内容」重新定义成一个可度量的概念——以下游音乐信息检索（MIR）任务表现为锚。循着这个定义提出 MuSeC：一个音乐语义 codec，直接从混合信号里把语义与声学内容解耦，不需要做源分离。结构上，冻结的 SSL 编码器加 k-means 提供语义 token，另一路声学 RVQ 流捕捉细粒度声学信息，两路拼接后送解码器做高保真重建，训练时还有判别器提供对抗损失。 实验效果：MuSeC 在保住高保真重建所需信息的同时，产出对语言模型更友好的离散单元，重建质量有提升，token 序列也更可预测，为高保真 LLM 音乐生成提供了实际基础。MIR 任务上的自消融显示，完整 MuSeC（S1A16）在 GuitarSet/Chords（0.3648 对 0.1713）、EMO/R2A（0.6520 对 0.6110）、EMO/R2V（0.3696 对 0.3578）等任务上明显好于纯 k-means 量化版本，也普遍好于只有声学的 A16 变体。 批判点评：把「语义」从形容词变成以 MIR 任务表现为锚的可测量量，是这篇方法论上最扎实的一步——有了口径，语义与声学的分流才有得优化，而不是凭感觉设计码本。不做源分离直接从混合信号解耦，也省掉了一个容易引入误差的前置环节。但消融图显示优势并不一致：GTZAN/Genre 上 MuSeC-S1A16 是 0.5345，反而低于 k-means 的 0.6034，Lyrics 上两者基本持平（0.4903 对 0.4993）；更重要的是全部设置都明显低于连续 LeVo BEST-RQ 这条语义上限（多数任务差 0.1 以上），说明离散化的语义损失远未补齐。另外论文标题指向「高保真 LLM 音乐生成」，但实际只做到 codec 这一层，接上语言模型后端到端能好多少并没有验证，「更可预测的 token 序列」目前也缺少熵或困惑度之类的直接数字支撑。 10. OmniVBench：1.2万条清单查参考跑没跑偏 OmniVBench: A Benchmark and Large-Scale Dataset for Omni Reference-to-Video Generation | 腾讯 × 香港科技大学（广州） | arXiv:2609.22069 关键词：视频生成评测,参考到视频,数据集,因子级评估 前序问题：参考到视频（R2V）生成正朝着越来越通用、越来越多样的参考控制演进，催生了所谓全模态 R2V 这一范式。但现有基准跟不上：测试用例覆盖的参考类型与组合都有限，评估协议大多只看整体参考一致性，忽略了参考因子是否被正确保留、解耦并路由到对应目标。同时全模态 R2V 训练数据构建成本高，合适的训练资源很稀缺。 本文贡献：论文同时给出 OmniVBench 与 Omni-R2V Dataset，一个管评测一个管训练。OmniVBench 把 R2V 评测扩展到更广的参考类型、更细的控制任务和更丰富的参考组合，覆盖 7 个任务族、18 个细粒度任务，横跨内容、运动、风格、结构、叙事与多参考设定，共 813 个评测用例。核心是因子级评估：用 12172 条针对具体用例的检查清单条目，逐条判断意图中的参考因子是否被忠实保留、是否被正确解耦并绑定到目标、是否按指令实现。Omni-R2V Dataset 主要取材于大规模专业视频素材库，包含 34 万条处理好的训练样本，覆盖多种参考类型与多参考组合，并给出各任务专用的参考-目标配对构建管线。 实验效果：对先进的开源与闭源 R2V 模型做的大范围评测显示，各任务族和各评估维度上都存在明显性能差距，暴露了当前 R2V 模型的残留局限。配图给出的多参考用例里，RF（参考保真）／IR（指令遵循）两项分数分化极大：UniVideo 只有 33.2／14.8，LoomVideo 43.1／36.7，OmniWeaving 48.0／56.0，Kling 3.0 Omni 62.9／100，Bernini 85.2／69.7，Gemini Omni 91.2／100，而 MiniMax H3、Seedance 2.0 与 Seedance 2.5 在该用例上拿到 100／100。 批判点评：把「参考一致性」拆成保留、解耦、路由三件事，是这套基准最有价值的判断——多参考场景真正容易错的不是「像不像」，而是把 A 参考的属性贴到了 B 目标上，而整体一致性分数恰恰看不出这类串台。12172 条逐用例清单让这种错误变得可指认。数据侧 34 万条专业素材样本对社区也是实打实的补给。但代价是清单法对判定器的依赖很重：谁来回答这 1.2 万条问题、判定器自身的偏差和一致性如何，摘要没有交代，而这直接决定分数可信度。813 个评测用例摊到 18 个细粒度任务上平均每任务仅四十余例，统计功效对细分结论偏弱；配图那个用例里三个模型同时打满 100／100，也提示清单在强模型区间容易饱和、区分度下降。另外基准与数据集同源、且出自同一团队，用该数据训练的模型在该基准上的成绩需要额外小心解读。 趋势观察 注意力的省法，从「换掉它」变成「按交互类型分流」 Video DeltaNet 只在视频与视频之间用线性注意力，凡涉及文本或音频的交互仍留给 Softmax；dQwen3.5 则把注意力与 RNN 交错的混合骨干当成扩散语言模型的适配起点。两篇的共同前提是承认不同交互对精度的敏感度本来就不同，一刀切替换必然在某处付出代价。 长上下文的成本，已经从算力转到显存和带宽 DeepSeek-V4.1-Flash 把常驻 HBM 的全局 KV 压到每 token 890 字节、持久部分再压到八分之一，并用 prefill 8B、decode 16B 的非对称激活去贴合智能体负载的真实形状；The Weight Is Over 则量出消费级显卡越过可用显存后延迟跳升两个数量级的断崖。两者都在说：放不放得下、搬不搬得动，已经比算得快不快更决定部署成本。 生成过程正在被拆出显式的中间态 StepAudio 3 Music 先用 ABC 记谱产出编曲方案再预测音乐 token，PhysStream 把位置图与跟踪图作为结构化场景记忆在线维护，Edit-VAR 缓存源概率与交叉注意力图再逐 token 决定保源还是改。把过去隐含在权重里的东西显式化，换来的是可控性与可调试性。 评测开始追问「参考有没有被放对位置」 OmniVBench 把参考一致性拆成保留、解耦、路由三件事，用 1.2 万条逐用例清单指认把 A 的属性贴到 B 上的串台；Paint-Anything 自建 ACBench 专量物体级十六进制色值保真；MuSeC 干脆把「音乐语义」定义成下游 MIR 任务表现。三者都不再满足于一个整体相似度分数。 人工智能炼丹君 整理 | 2026-09-21 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-18|高通揪出长视频KV错配-Recency Forcing 今日 AIGC 论文速览 今日共 10 篇 · 视频生成与长时程一致性 2 篇 · 生成模型评测与审计 2 篇 · 推理与采样加速 2 篇 · 语音与音乐生成 2 篇 · 视频修复与图像应用 2 篇 重点论文标题列表 Recency Forcing（Qualcomm AI Research）：按距离衰减注意力救长视频 MiniMax-H3-Reason（National University of Singapore；Fudan University；Tencent）：全模态模型物理推理仅四成 ⚡ Diagonal Sparsity（KAIST；Agency for Defense Development；Seoul National University）：对角稀疏把吞吐拉到3.1倍 VibeAvatar（Peking University）：口型与美感分阶段各管各的 AVR（New York University；University of Technology Sydney）：能抄就抄抄不到才让扩散补 今日论文速览 1. Recency Forcing：按距离衰减注意力救长视频 Recency Forcing: Bridging the Long-Horizon Gap in Autoregressive Video Generation | Qualcomm AI Research | arXiv:2609.19729 关键词：自回归视频生成,长时程一致性,KV cache,注意力偏置 ⚠️ 前序问题：自回归视频生成一拉长就退化。论文把根因定位到一处被忽视的训练-推理不一致：训练时短片段的全部上下文帧都在 KV cache 里，推理时显存约束却会把远处帧逐出 cache，等于抽走了模型当初赖以生成的上下文。作者称之为 KV 淘汰错配（KV eviction mismatch）。 本文贡献：思路不是用截断上下文去模拟淘汰——那会连模型仍需要的时间信息一起丢掉、破坏运动连贯——而是保留上下文，同时让远处帧的影响逐步衰减，等它们真被淘汰时影响已可忽略。论文先用扰动式敏感度指标 positional response R(Δ, t_denoise) 量出上下文影响随时间距离陡峭衰减、且在不同去噪步上系统性变化；据此提出 Temporal Response Bias（TRB），把一个非正的、随时间步变化的偏置直接加在 softmax 之前的注意力 logits 上。配套的 Biased Attention Reparameterization（BAR）是个等价改写，把偏置移到 softmax 之外，使 TRB 退化成一次标准 FlashAttention 调用。 实验效果：在 VBench 与 VBench-Long 上取得长时程生成的 state-of-the-art 质量，且不增加推理成本。60 秒视频的定性对比里，Self-Forcing 出现色彩漂移，LongLive 产生场景重复，DeepForcing 引入模糊，Recency Forcing 则保持了画面稳定与运动连贯。方法不改动上下文长度与训练目标，免训练与训练两种模式都能用，BAR 的等价改写让偏置的额外开销为零。 批判点评：把长视频退化归到 KV cache 淘汰这个具体的工程约束上，而不是笼统归因于「误差累积」，定位比多数同类工作清晰，BAR 让它零开销落地也务实。但摘要只给 state-of-the-art 的结论、未披露具体分数，免训练与训练两种模式的增益差距、TRB 偏置形状换骨干后是否还成立，都要看正文；VBench 系列本身偏重视觉质量，长时程的叙事与物体持久性未必能被它完全反映。 2. MiniMax-H3-Reason：全模态模型物理推理仅四成 Can MiniMax-H3 Reason About the Physical World? An Evaluation of Omni-Modal Generative Model | National University of Singapore；Fudan University；Tencent | arXiv:2609.18323 关键词：全模态生成模型,物理世界推理,跨模态整合,评测基准 ⚠️ 前序问题：全模态生成模型把文本、图像、视频、音频统一建模，MiniMax-H3 正是在共享潜空间里同时做多模态理解与音视频联合生成的代表。但多模态对齐到底有没有提升模型的世界推理能力？现有面向视频生成与世界模型的评测大多受限于单一输入模态，且提示词与目标视频内容高度重合，回答不了这个问题。 本文贡献：论文构建了围绕物理世界推理四个互补维度的评测框架，专门为全模态输入设计任务：隐式提示搭配多帧、音频-图像、前缀视频、音频-视频四类场景。关键设计是每一路模态只提供事件的部分证据，模型必须跨模态整合互补线索，才能推断出潜在的事件状态与未来动态。 实验效果：517 个评测实例上，MiniMax-H3 总体成功率 41.97%。分维度看，基于视频的决策推理最高、为 56.00%，基于音频的消歧推理最弱、只有 27.40%。作者据此认为要真正吃到多模态输入的红利，关键仍在有效的跨模态整合。 批判点评：用「每种模态只给部分证据」的设定逼出跨模态整合能力，比提示词与目标高度重合的常规评测更有区分度，音频维度 27.40% 也确实点出了当前全模态模型的短板。但全文只评了 MiniMax-H3 一个模型，没有同代横向对比，41.97% 这个绝对值究竟是模型不行还是任务过难无从判断；517 个实例摊到四个维度上，每个维度的样本量也偏薄。 3. Diagonal Sparsity：对角稀疏把吞吐拉到3.1倍 Understanding and Exploiting Diagonal Attention Sparsity in Autoregressive Image Generation | KAIST；Agency for Defense Development；Seoul National University | arXiv:2609.19702 关键词：自回归图像生成,稀疏注意力,KV cache,推理加速 ⚠️ 前序问题：自回归图像生成因为能直接复用基于 transformer 的 LLM 服务设施而成为多模态系统的一种范式，但每次请求要吐出上千个视觉 token，解码越来越被注意力计算中的 KV cache 访问卡住。稀疏注意力在文本 LLM 推理上已被充分研究，可它的稀疏性假设能不能迁移到自回归图像生成，此前没人说得清。 本文贡献：论文首次系统刻画了自回归图像生成中的注意力稀疏性，覆盖多种负载与代表性开源模型，发现三个和文本场景不一样的性质：prefill 与 decode 阶段存在明显不对称、注意力强烈集中在 prompt token 与局部 token 上、以及视觉 token 的空间局部性带来一种独特的对角稀疏模式。据此提出对角感知稀疏注意力，在最近窗口内沿对角方向选择性跳过 KV 条目。 实验效果：基于 FlexGen、FlashAttention-2 与自定义 kernel 实现在 GPU 服务系统上，相比稠密推理最高取得 3.1 倍吞吐与 1.19 倍延迟改善，质量损失低于 2%。 批判点评：把稀疏模式追到「视觉 token 的空间局部性」这一来源、而不是照搬文本 LLM 的稀疏假设，是这篇最扎实的地方，3.1 倍吞吐也有工程说服力。但「质量损失低于 2%」用的是哪个指标、在哪些负载上成立，摘要没交代；对角模式依赖光栅扫描式的 token 排布，换扫描顺序或改分辨率后是否还成立同样存疑。 4. VibeAvatar：口型与美感分阶段各管各的 VibeAvatar: Aligning Phonetic Kinematics and Human Aesthetics for High-Fidelity Talking Avatar Synthesis | Peking University | arXiv:2609.18632 关键词：说话人视频合成,语音驱动,GRPO,流匹配 ⚠️ 前序问题：多模态说话人视频合成要从一张参考肖像加一段语音生成逼真视频。扩散类方法进步很快，却始终难以同时拿到准确的唇部发音、符合人类偏好的运动美感和高效推理这三样。 本文贡献：论文的判断是：发音准确性和运动美感来自根本不同的源头，应该在互补的阶段分别处理，而不是塞给单个生成器隐式地一起学。VibeAvatar 因此把两个目标解耦——条件阶段用 Phonetic Kinematics Adapter（PKA）把面向识别的语音特征转成发音-运动条件；后训练阶段用 Aesthetic Motion Policy（AMP），以 GRPO 优化一个流一致的随机采样策略。运动生成器本身是轻量流模型，工作在紧凑的一维 warp 潜空间里。 实验效果：客观指标与用户研究上，发音、美感、效率三项均达到 state-of-the-art；生成 10 秒 512px 视频耗时不到 10 秒，显存占用约 3GB。 批判点评：「发音归条件阶段、美感归后训练」是个干净的分工，把 GRPO 用在采样策略而不是生成器权重上也省掉了重训成本，约 3GB 显存意味着消费级显卡能跑。但美感由 GRPO 所对齐的偏好定义，口味会不会过拟合到特定标注群体值得警惕；摘要只给了效率数字，发音与美感的具体分数、以及更长时长下的身份漂移都得看正文。 5. AVR：能抄就抄抄不到才让扩散补 Copy What Is Seen, Generate What Is Not: Training-Free Anomaly-Aware Video Restoration | New York University；University of Technology Sydney | arXiv:2609.18836 关键词：视频修复,异常检测,免训练方法,扩散修补 ⚠️ 前序问题：监控系统检测到异常后往往还得把画面修好，但这两件事一直被分开研究：免训练的异常检测止步于一个分数或标签，免训练的视频编辑则只听用户提示词、不听检测器。 本文贡献：AVR 只用冻结的预训练模型就把两端接上，而且只在画面确实没有证据可抄的地方才生成内容。先由运动证据把开放词表提案收敛成时空掩码；再用片段自身算出的背景先验，填掉异常曾经遮挡过的每一个像素，只把「任何一帧都没出现过」的部分交给扩散合成；最后一个冻结的验证器逐片段决定该信任经典修复、先验锚定修复还是背景条件修复。 实验效果：三个监控数据集上、覆盖全参考异常注入与真实异常两种设定：oracle 掩码下 AVR 的全帧保真度领先，在编辑区域内与三个训练过的视频 inpainting 方法持平，用自己产出的掩码时优于「先检测再生成」的流水线，同时压住了残留异常与自由扩散带来的闪烁。 批判点评：「能抄就抄、抄不到才生成」的取舍很贴监控取证的需求——少生成一分就少一分臆造风险，全程冻结模型也免了训练成本。但它靠运动证据圈定异常，静止或缓慢的异常可能整个漏掉；oracle 掩码下的领先说明上限不错，自产掩码下的成绩才是实际水平，三个监控数据集的场景多样性也仍有限。 6. CPR：作曲演奏精修三段渲染钢琴 CPR: Combining global composing, local performing and full-sequence refining in piano rendering with continuous autoregressive modelling | The Chinese University of Hong Kong, Shenzhen | arXiv:2609.18216 关键词：钢琴渲染,连续自回归,流匹配,音乐生成 ⚠️ 前序问题：提示词条件下的钢琴 MIDI-to-Music 渲染，要在忠实还原目标音符的同时复现参考录音的音色。现有方法分两条路：离散 codec 的自回归模型有因果时序建模能力，但量化会丢掉声学细节；流匹配更能保住声学结构，代价是全序列注意力开销大、语义结构反而更差。 本文贡献：连续自回归模型直接在连续表示上工作，既兼有自回归的条件跟随能力与流匹配的分布建模能力，又绕开量化瓶颈、计算成本更低。CPR 据此拆成三段：Composer 自回归预测连续隐状态，Performer 经局部流匹配生成 24kHz 声学潜变量，Refiner 再把波形上采样到 48kHz。论文另引入 Bottlenecked Representation Alignment（BREPA）与 Modality-Time RoPE（MT-RoPE），分别强化 Composer 隐状态里的音乐语义结构和跨模态时间对齐。 实验效果：P-MUSE-eval 上，CPR 只用 4 步（NFE=4）就输出 48kHz 音频，onset F1 78.4 与 FAD_clap 0.129 均为最佳；音色相似度 89.3 略低于需要 25 步的 P-MUSE（90.6），但明显优于 MIDI-VALLE 的 83.4。另有 13 位听众对 14 个样本的 MOS 主观评测。 批判点评：三段分工把「写什么音」「怎么弹出来」「采样率补齐」拆开，绕过离散量化这个老瓶颈，4 步出 48kHz 相对 P-MUSE 的 25 步是实打实的效率优势。但音色相似度并未超过 P-MUSE，说明连续表示在音色保真上还没占到便宜；MOS 只有 13 位听众评 14 个样本，样本量偏小，评测也集中在钢琴单一乐器上。 7. Self-Distilled TTS：模型自己教自己念生词 Self-Distilled Pronunciation and Accent Control for Neural Text-to-Speech | Independent Researcher；KOWRO Inc. | arXiv:2609.17234 关键词：语音合成,自蒸馏,发音控制,口音标注 ⚠️ 前序问题：直接读原始文本的 TTS 没有词典，碰上生僻词只能靠猜。已有的补救要么拿录音训练一条专门的发音与口音通道，要么从示例里一个词一个词地改。 本文贡献：这篇两样都不做。让冻结的骨干去读一个含有它本来就念得对的常见词的句子，再把它自己的输出当作同一句话的教师——只是把那个词替换成带标注的、指定口音的读法。这一对训练样本就是方法的全部。 实验效果：Sarashina2.2-TTS 上，经筛选的评测者（Fleiss' kappa = 0.85）在 0.89 的未见词上听出了指定口音，而无法表达口音的假名方案只有 0.57、没有赢下任何一组对比，自然度没有可测量的损害。未经调整迁移到自回归、扩散和编码器-解码器骨干后，319 个词上的读法正确率比不做编辑高出 0.25 到 0.47；CosyVoice 2 上三个词里有两个能带上口音，但在 Irodori 上不行，论文分析了原因。 批判点评：用模型自己的输出当教师、只换一个词构成训练对，简洁到几乎没有额外数据成本，跨骨干迁移也说明思路不绑架构。但它天然受限于「骨干本来就念得对的常见词」这个起点，词表外的音素组合未必覆盖得到；Irodori 上失效说明迁移并非无条件成立，日语音高重音之外的语言是否同样奏效也还没有证据。 8. JewelTry：免掩码珠宝试戴还管尺寸 JewelTry: Mask-Free Scale Aware Jewelry Virtual Try-On | Amazon | arXiv:2609.16626 关键词：虚拟试戴,免掩码扩散,尺寸感知,评测基准 ⚠️ 前序问题：虚拟试穿让顾客看到上身效果，已是网购的重要技术。服装类进展很大，珠宝却因为体积小、结构刚性、对细节高度敏感而一直是难啃的品类：既要忠实迁移外观，还得相对佩戴者有正确的尺寸和位置。现有珠宝试戴多依赖掩码引导，而免掩码方法又缺乏建模产品尺寸的显式引导。 本文贡献：论文先建了 JVTO-Bench，提供带真实产品尺寸标注的「参考-源-目标」三元组，覆盖四大珠宝品类。在此之上提出免掩码扩散框架 JewelTry：尺寸适配器把产品实际尺寸编码成一个 scale token，让模型在上下文中学到珠宝与人体解剖结构之间的尺寸关系；再用单向条件注意力与注意力精修损失，同时保住参考珠宝的粗粒度几何与细粒度结构细节。 实验效果：实验显示 JewelTry 在视觉保真度、背景保持、物体一致性与尺寸准确性之间取得平衡，为免掩码、尺寸感知的珠宝虚拟试戴立了一个较强基线。 批判点评：把「尺寸对不对」变成可编码的条件而不是靠掩码兜底，抓住了珠宝区别于服装的真正难点，配套放出带真实尺寸标注的 benchmark 也补上了这一方向的评测空白。但摘要通篇没给量化指标，「取得平衡」这类表述无法判断相对现有方法的实际差距；四个品类对珠宝这种长尾品类而言覆盖面也偏窄。 9. MSR：多张参考图各占一个 slot MSR: Multiple Subject Reference for Video Generation | Licon Studio | arXiv:2609.18393 关键词：多主体视频生成,参考图条件,LoRA,流匹配 ⚠️ 前序问题：让视频生成器同时吃多张参考图时，既要保住每个主体的外观，又要把每张图和它该扮演的角色对上，否则属性就会串到别的对象身上。 本文贡献：MSR 是面向 LTX 视频生成的 slot 感知条件方案：每张参考图被独立编码成一段静态片段、对应一组单独的潜 token；一个紧凑的傅里叶特征 MLP 给它加上数值化的 slot 嵌入，再用随 slot 变化的时间偏移改写这组 token 的旋转位置坐标。这些参考组被前置到带噪的目标 token 之前，在仅针对目标的流匹配训练中充当干净上下文。整套方案用 LoRA 实现，权重与推理工作流已开源。 实验效果：论文给的是定性结果：示例展示了包含不同角色与参考环境的写实及风格化场景组合；开发过程中的观察显示，相对更早的连续参考基线，参考混淆有所减少，但相似服装、复杂衣物和视角变化仍然困难。另有一个补充实验在冻结视觉参数的前提下加入了语音参考条件。 批判点评：用独立 token 组加 slot 嵌入来绑定「哪张图对应哪个角色」，思路直接，靠 LoRA 就能低成本落地，开源权重与工作流对想复现的人友好。但这更像一份技术报告而非完整论文：全文没有定量实验，「参考混淆减少」只是开发观察而非受控对比，缺少与基线的可比指标；作者自己也承认相似服装与视角变化仍未解决。 10. Newer Is Not Fairer：新版文生图并没有更公平 Newer Is Not Fairer: Gender Stereotyping in Text-to-Image AI Across Model Generations | Northeastern University | arXiv:2609.18007 关键词：文生图,性别偏见,模型审计,公平性评测 ⚠️ 前序问题：文生图模型已经在专业与创意场景里广泛使用，但它们如何呈现不同职业的性别、以及更新的模型是不是更公平，跨代际地看仍缺乏系统证据。 本文贡献：论文评测了 20 个职业、5 种提示词模板、4 代 Stable Diffusion（SD 1.5、SD 2.1、SDXL、SD 3 Medium），每个「职业×模型」单元生成 100 张、共 8000 张图，全部用 DeepFace 判定性别，并与美国劳工统计局（BLS）的真实劳动力数据对照，所有显著性检验都做了 Benjamini-Hochberg 多重校正。 实验效果：8000 张开源模型图像中 76.4% 为男性（95% CI [75.1%, 78.7%]）；更扎眼的是历史上女性主导的职业里仍有 57.6% 生成男性。相对 BLS 数据，模型平均低估女性 20–46 个百分点，本就接近性别均衡的职业偏差最大——科学家 BLS 女性占 48%、模型输出 82–99% 为男性，清洁工 BLS 女性占 46%、模型输出 80–92% 为男性。代际并非稳步改善：偏差从 SD 1.5 一路恶化到 SDXL，到 SD 3 Medium 才部分回落。与 GPT-image-1 在五个职业上的初步对比显示商业模型偏差更低，但实际效应很小（Cramér's V = 0.080）且属探索性。没有任何一个模型达到性别均衡。 批判点评：8000 张图、多重检验校正、对照 BLS 真实就业数据，这套设计让结论比常见的偏见讨论扎实得多，「更新不等于更公平」的代际发现尤其有价值。但性别判定依赖 DeepFace 的二元分类，本身有误差且无法涵盖非二元表达；20 个职业、5 个模板的提示词空间偏窄，与 GPT-image-1 的对比作者也标注为探索性，撑不起开源与商业模型孰优孰劣的强结论。 趋势观察 长上下文的瓶颈，从「记不记得住」变成「cache 放不放得下」 Recency Forcing 把长视频退化追到 KV cache 淘汰这一工程约束，Diagonal Sparsity 直接冲着自回归图像生成的 KV 访问瓶颈去。两篇都不再泛泛谈误差累积，而是把注意力的显存与访存代价当成一等问题来解。 生成质量的定义权，正在交给后训练与采样策略 VibeAvatar 把运动美感交给 GRPO 在后训练阶段对齐，而不是让生成器隐式地学；CPR 用连续自回归绕开量化，再分三段把语义结构、局部声学与采样率分工。共同前提是承认单个生成器学不好多个互相冲突的目标。 评测开始审问模型「到底懂不懂」，而不只是「像不像」 MiniMax-H3 的评测让每种模态只给部分证据，逼模型跨模态整合才能答对；Newer Is Not Fairer 用 8000 张图对照真实就业数据，把「新版是否更公平」变成可证伪的问题。两者都不满足于保真度分数。 免训练与轻量适配，正在成为落地的默认路径 AVR 全程冻结预训练模型、只在没有证据可抄的地方才生成；MSR 用 LoRA 给现成视频模型加多主体条件；Self-Distilled TTS 让模型自己的输出当教师。共同动机都是避开重训成本。 人工智能炼丹君 整理 | 2026-09-18 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-17|Meta一个模型既写歌又改歌-SongCraft 今日 AIGC 论文速览 今日共 10 篇 · 音乐与歌曲生成 2 篇 · 视频生成与世界模型 2 篇 · 视频编辑与采样效率 2 篇 · 长语音稳定生成 2 篇 · 生成评测与溯源 2 篇 重点论文标题列表 SongCraft（Meta AI）：一套模型统一歌曲生成编辑 SlotDiT（University of Bonn）：用 slot 潜空间省算力提成功率 AlayaVista（Alaya Lab；Beijing Institute of Technology；The University of Tokyo）：全景状态驱动流式世界模型 MDN-Control（Wuhan University）：掩码深度噪声协同视频编辑 ADSC（SAP；National University of Singapore；A*STAR I2R）：按样本收敛动态缩短采样 今日论文速览 1. SongCraft：一套模型统一歌曲生成编辑 SongCraft: Unified Song Generation and Editing with Reconstructive Learning | Meta AI | arXiv:2609.16315 关键词：歌曲生成,音频编辑,流匹配,重建预训练 前序问题：歌曲生成与歌曲编辑通常由两套系统完成：生成只接收歌词等稀疏条件，编辑却需要保留人声、旋律和结构等稠密属性，分别训练会重复成本且难共享能力。 本文贡献：SongCraft用重建式预训练随机切换稀疏生成分支和稠密编辑分支，共享潜空间流匹配主干；编辑时抽取歌词时间戳、MIDI、和弦、歌手等属性并只改目标条件，生成时仅保留歌词、节拍和描述。 实验效果：统一模型的歌词WER为0.133；主观A4平均分7.45、SongEval为3.62。它的可懂度领先，但SongEval整体质量仍低于Levo的3.95；瓶颈加长还会同时降低音高、歌手和歌词可编辑性。 批判点评：统一生成与属性级编辑是实用方向，重建预训练减少成对编辑数据依赖；但质量与可编辑性存在明显折中，当前主要针对有限时长与条件类型，更长歌曲和复杂编曲仍是后续工作。 2. SlotDiT：用 slot 潜空间省算力提成功率 SlotDiT: Object-Centric Representations for Diffusion Transformers | University of Bonn | arXiv:2609.17414 关键词：扩散Transformer,对象中心表示,潜空间设计,机器人控制 前序问题：视频DiT通常在像素或稠密视觉潜空间中预测，容易把大量算力花在背景纹理上，也难以显式跟踪承担动作的对象；机器人控制真正关心的是对象状态及其随指令发生的变化。 本文贡献：SlotDiT 让文本条件 DiT 直接在 slot 潜空间里工作：先把场景分解成一组对象级的 slot，再依据指令与已观测上下文自回归去噪未来的 slot 轨迹。论文的落点是系统性比较潜空间设计——在统一 DiT 框架下把 slot 表示与 VAE 式、语义对齐式潜空间放在一起对照。 % Overview of SlotDiT. % (a) Given a reference image $\ImageT{1}$ and text instruction $\Caption$, SlotDiT parses the scene into an object-centric slot representation $\SlotsT{1}$. % Conditioned on the encoded instruction and context slots, an object-centric diffusion transformer (DiT) autoregressively denoises future slot trajectories $\PredSlotsT{2}, \ldots, \PredSlotsT{T+1}$, % optionally decoded into future video frames $\PredImageT{2},\, \ldots,\, \PredImageT{T+1}$. % % (b) Comparison of SlotDiT's slot-based latent space against established representation spaces used in DiTs. % % (c) Across four robotic datasets, SlotDiT achieves higher task-completion rates while remaining substantially more efficient than the baselines. 实验效果：每帧只需 10 个 token（VAE 类基线为 256）。CLIPort 的 PutInBowl 任务上成功率 73.0%，次优的 TextOCVP 为 50.0%，VAE 类基线仅 0.5%–10.0%；LT-syn 的六种设置下为 17.0%–74.5%，均居首。生成 39 帧的吞吐 9.33 FPS，快于最快基线的 6.71 FPS，相对 SD-VAE 基准提速 5.68 倍（单卡 A6000）。 % Overview of SlotDiT. % (a) Given a reference image $\ImageT{1}$ and text instruction $\Caption$, SlotDiT parses the scene into an object-centric slot representation $\SlotsT{1}$. % Conditioned on the encoded instruction and context slots, an object-centric diffusion transformer (DiT) autoregressively denoises future slot trajectories $\PredSlotsT{2}, \ldots, \PredSlotsT{T+1}$, % optionally decoded into future video frames $\PredImageT{2},\, \ldots,\, \PredImageT{T+1}$. % % (b) Comparison of SlotDiT's slot-based latent space against established representation spaces used in DiTs. % % (c) Across four robotic datasets, SlotDiT achieves higher task-completion rates while remaining substantially more efficient than the baselines. 批判点评：论文自己点明了一个反直觉结论：视觉质量指标好不等于任务能完成——VAE 基线的感知分更高，指令跟随与任务成功率却大幅落后。代价是 slot 数量固定、外观细节受限，视频生成质量只能算与基线持平而非更优；评测也集中在 CLIPort 与 LT-syn 两类机器人环境，开放世界泛化尚无证据。 3. AlayaVista：全景状态驱动流式世界模型 AlayaVista: Streaming World Modeling from Panoramic States to Perspective Video | Alaya Lab；Beijing Institute of Technology；The University of Tokyo | arXiv:2609.14462 关键词：世界模型,视频生成,相机控制,全景状态 前序问题：相机连续移动时，普通视频生成模型只看局部视口，离开画面的区域容易被遗忘，重新转回时场景会漂移；直接维护高分辨率全景又会让生成和渲染成本过高。 本文贡献：AlayaVista把360度全景作为持续演化的全局状态，再按相机轨迹选择视口、渲染低分辨率透视潜变量，并用局部视频细化器恢复高清画面；全景状态和当前视角因此分离更新，支持流式相机控制。 实验效果：在 MUGEN-HQ 上，AlayaVista 的跨视角一致性 0.9240、旋转误差 2.132 均为最优，平移误差 0.03312 优于 HY-World 2.0 的 0.03885，但仍高于带显式 3D 高斯支架的 MoVerse（0.02746）；动态性 0.9200 偏低，作者认为是长时漫游中局部运动被衰减所致。 批判点评：全景记忆能减少回看漂移，但系统包含全景生成、潜空间渲染和局部细化三段，训练与部署都较重；评测集中在合成式或精选全景数据，长时间真实街景中的几何稳定性仍需验证。 4. MDN-Control：掩码深度噪声协同视频编辑 MDN-Control: Mask-Depth-Noise Guided Region Control for Multi-Subject Video Editing | Wuhan University | arXiv:2609.16475 关键词：视频编辑,多主体控制,遮挡建模,免训练方法 前序问题：多主体视频编辑时，目标人物常被邻近主体或遮挡区域干扰，属性会串到无关对象；只靠文本和掩码也难以同时保持身份、边界与背景。 本文贡献：MDN-Control不再训练新模型，而是组合掩码引导定位、深度感知遮挡软门控和噪声潜变量检索：前者锁定主体，中间模块随去噪阶段调整遮挡约束，后者从候选噪声中选择更匹配指令的初始化。 实验效果：在MSVBench上，方法取得Warp-Err 2.87、CLIP-T 27.09、CLIP-F 95.72、Q-Edit 9.43与CM-Err 2.75；实验在单张NVIDIA L40上完成，并包含20段视频的用户研究。 Overview of MDN-Control. Mask-guided localization localizes the target, depth-aware occlusion control guides editing near occlusions, and noise latent prompting initializes appearance generation. Denoising uses mask-depth guidance at early steps and mask-only guidance thereafter. 批判点评：免训练组合便于迁移到现有DiT，但噪声检索的增益不大，部分固定随机种子甚至更好；20段主观测试规模也偏小，复杂相机运动和长遮挡下的稳定性还未充分覆盖。 5. ADSC：按样本收敛动态缩短采样 Efficient Text-to-Image Generation: An Adaptive Step Schedule Controller for Diffusion Models | SAP；National University of Singapore；A*STAR I2R | arXiv:2609.16572 关键词：文生图,扩散采样,自适应步数,推理加速 前序问题：文生图扩散模型通常给所有提示词使用同一去噪步数，但简单样本早已收敛仍继续计算，复杂样本又可能因固定短计划而欠采样。 本文贡献：ADSC 准备一组步长不同的采样日程，在每个时间步评估误差项的差异，据此在日程之间动态切换，让简单提示词早收敛早停、复杂提示词保留更多步数；控制器无需额外训练，也不改动基础扩散模型。 Effect of text prompt and seed combinations on diffusion steps for generating visually sufficient images. Step counts shown are examples; optimal steps may vary. 实验效果：在COCO的DDIM实验中平均18.89步、0.79秒/图；与固定19步的0.78秒几乎相同，但CLIP-I为95.70，高于固定19步的92.40，CLIP-T均为31.4，优势主要来自按样本分配步数。 The denoising process begins with the longest schedule (e.g. 40 steps in the example) and transitions to shorter schedules (20 followed by 10) upon detecting convergence. 批判点评：方法实现简单且可插拔，不过同等平均步数下墙钟时间没有加速，控制器判断还增加少量开销；论文比较的不同基线并非始终严格等算力，效率结论应区分步数、质量和实际延迟。 6. LACI：回滚重生成压住长语音失败 Taming Long-form Text-to-Speech | Argmax, Inc.；University of Virginia；Bilkent University | arXiv:2609.16989 关键词：长文本语音合成,推理期干预,错误回滚,语音克隆可靠性 前序问题：自回归TTS在超长文本上会突然跳过整段内容或重复、幻觉；平均WER掩盖了少数灾难性失败，而重新训练模型对已有开源系统成本很高。 本文贡献：LACI（Localized Attention-Constrained Inference，局部注意力约束推理）是纯推理期方法，不改动模型权重：近实时检测 TTS 生成错误，回滚到错误起点，再施加临时护栏重新生成，额外开销可忽略。论文另提出滑窗版说话人相似度 wSIM，用来暴露常规 SIM measure 不到的失败模式。 实验效果：Qwen3-TTS-0.6B 在超过 1500 词的提示上，10 个随机种子里的最差 WER 从 35.2% 降到 3.4%，甚至优于它在 500 词以内短文本上 5.4% 的可靠性；120 秒参考音频下最差 wSIM 从 0.01 升到 0.47；WER 超过 30% 的灾难性生成比例从 26% 降到 1% 以下。 批判点评：推理期干预能给现成开源模型直接止损，不必重训，这是它最实用的地方；但前提是错误可被近实时检出，回滚重生成也会推高长文本的尾部延迟。更值得注意的是超过 1300 词之后失败开始抗拒重生成，LACI 只把失败比例从 70% 压到 57%，反而不及对照方法 ACI 的 34%，作者认为这是模型自身的连贯性上限而非检测不到。 7. DiTAR+：扩张上下文抑制长语音漂移 DiTAR+: Dual Optimization for Robust Autoregressive Diffusion Speech Synthesis | ASLP@NPU, Northwestern Polytechnical University | arXiv:2609.13909 关键词：语音生成,扩散Transformer,长上下文,说话人一致性 前序问题：连续潜变量自回归扩散语音模型在长序列中会逐块积累误差，出现说话人漂移、重复或无法终止；简单扩大历史上下文又让局部声学细节成为捷径。 本文贡献：DiTAR+用扩张上下文采样跨更远的历史块建模宏观一致性，同时在浅层对历史声学块做分层掩码，把语义对齐与声学渲染分开，减少模型复制局部声学模式。 The overall architecture of the proposed DiTAR+ framework. (a) The standard two-stage DiTAR baseline. (b) Hierarchical Acoustic Masking (HAM), which masks historical acoustic context in shallow layers to decouple semantic alignment and acoustic rendering. (c) Dilated Context Sampling (DCS), which expands the macro-receptive field via dilated sampling while preserving temporal continuity. 实验效果：在SeedTTS评测中，DiTAR+的Seed-EN WER为1.672、Seed-ZH为0.985；中文困难集WER为9.893，低于DiTAR的12.478；25至35秒长语音WER从2.778降至2.173，说话人相似度从0.741升至0.759。 Chunk-level speaker similarity over continuous generation steps (3.0,s per chunk). The standard baseline experiences severe speaker drift in the long tail, whereas DCS effectively stabilizes the temporal coherence. 批判点评：DCS与HAM直接针对长尾漂移，消融也显示两者互补；但困难集和长语音集为内部构造，论文没有充分量化扩张上下文带来的吞吐、显存和首音延迟成本。 8. CMA-OT：课程式多尺度舞蹈配乐对齐 CMA-OT: Hierarchical Expert Supervision for Dance-to-Music Generation | HKUST(GZ)；Tencent | arXiv:2609.13118 关键词：舞蹈配乐,多尺度对齐,最优传输,音乐生成 前序问题：舞蹈配乐既要踩准局部节拍，又要匹配段落级风格；单尺度动作特征或固定对齐损失容易顾此失彼，尤其在动作与音乐结构非一一对应时。 本文贡献：CMA-OT从预训练Jukebox专家提取底层、中层和高层音乐知识，课程式地由局部节奏过渡到全局语义，并用尺度感知的Fused Gromov-Wasserstein最优传输对齐舞蹈与音乐表示。 实验效果：在AIST++上，CMA-OT取得BCS 99.14、BHS 99.12、F1 99.12、FADp 12.50、FADc 0.26；MotionComposer的FADp/FADc为27.52/0.49。TikTok上FADp/FADc为27.53/0.38，也优于30.61/0.81。 批判点评：多尺度课程把节拍和风格监督组织得较清楚，但系统依赖Jukebox专家与额外最优传输计算；AIST++和TikTok仍是较窄的数据分布，指标提升不等同于真实音乐审美或版权可用性。 9. VOR-Bench：细粒度评测视频对象移除 VOR-Bench: A Human Perception-Driven Benchmark for Video Object Removal | Beijing University of Posts and Telecommunications；China Telecom AI Technology；Xi'an Jiaotong University | arXiv:2609.16878 关键词：视频对象移除,评测基准,视觉语言模型,主观一致性 前序问题：视频对象移除常用有缺陷的参考视频或逐帧图像指标，既可能把错误参考当真值，也难以判断对象是否删净、背景是否连续以及结果是否符合常识。 本文贡献：VOR-Bench 由三部分组成：VORD 数据集提供 150 对配对编辑视频与涂鸦式掩码，覆盖模型生成、工具渲染与相机实拍三类来源，另构建 300 对的扩展集验证规模是否足够；rMPAF 流程把图像级对象移除与微调后的视频生成模型结合，自动产出运动连贯的配对视频；VOR-MDSM 则是按三个评价维度微调的 VLM 打分模型。 实验效果：论文报告VOR-MDSM三项偏好判断与人工评分的Spearman相关系数均超过0.9，整体高于VideoLLaMA3、Qwen3-VL-8B和Gemini-3.1-Pro；基准覆盖相机采集、模型生成和工具渲染三类视频。 批判点评：细粒度维度比单一PSNR更接近真实观感，但150/300对数据仍小，VLM裁判也在相近任务分布上训练和验证；论文中的数据与模型发布仍带未来时态，可复现性要看正式开放程度。 10. RAIN：区域感知一跳提取语义水印 RAIN: Region-Aware Inversion Network for Semantic Watermark Extraction | Independent Researcher | arXiv:2609.14856 关键词：生成水印,扩散反演,鲁棒提取,模型归属 前序问题：Gaussian Shading等语义水印把信息埋在扩散初始噪声里，传统提取要多步反演大模型，代价高且在压缩、裁剪、噪声等失真后容易累积误差。 本文贡献：RAIN把终端噪声恢复改写为高信噪比端点上的条件回归，用小型双分支NAFNet一次预测水印决策所需的噪声区域；训练时加入有限集合的最坏失真样本，强化区域边界而非逐点精确重建。 Extraction pipeline used in our implementation. 实验效果：在1000条COCO样本的SD 2.1匹配评测中，干净图比特准确率99.99%；JPEG Q=25为98.15%，缩放到0.25为98.93%。其一次提取仅14.394 GFLOPs、15.468M参数，FARI为682.675 GFLOPs、868.469M参数。 Redrawn from Tables 3 and 4 of RAIN: extraction backbone cost and bit accuracy under matched SD 2.1 distortions. 批判点评：把目标从精确噪声恢复改成区域判别很契合水印任务，但盐椒噪声下93.11%的比特准确率低于OSI的99.71%，极端亮度下也非最优；当前证据绑定Gaussian Shading与特定Stable Diffusion设置。 趋势观察 生成系统开始压缩“状态”而非只压缩网络 SlotDiT 把视频压成少量 slot，AlayaVista把漫游场景压成持续全景状态，MDN-Control则把编辑约束拆成掩码、深度与噪声。共同方向是先确定任务真正需要保存的状态，再把DiT算力集中到这些变量。 推理时控制器成为低成本升级路径 ADSC按样本切换去噪日程，LACI检测跳读后回滚，MDN-Control组合现成控制信号。三者都尽量不重训主模型，把可靠性或效率问题移到可观测、可干预的推理环节。 评测从单一保真度转向任务与失败尾部 VOR-Bench用三维主观语义评分替代单一图像指标；LACI报告最差采样和灾难性失败率；SlotDiT直接看机器人完成率。平均分仍重要，但能否解释具体失败正成为更强的证据。 音频生成继续争夺长程结构控制 DiTAR+扩张历史上下文，SongCraft统一稀疏生成与稠密编辑条件，CMA-OT以多尺度音乐专家监督舞蹈配乐。不同任务都在处理局部声学质量与长程语义结构之间的矛盾。 人工智能炼丹君 整理 | 2026-09-17 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-16|22帧视频377毫秒-LynnReal-Omni 今日 AIGC 论文速览 今日共 10 篇 · 视频生成与交互 2 篇 · 视频算子与少步蒸馏 2 篇 · 图像生成、编辑与超分 3 篇 · 视频重建评测与动作建模 2 篇 · 语音合成与文本对齐 1 篇 重点论文标题列表 LynnReal-Omni（LynnReal AI）：22帧视频377毫秒生成 VC-Attention（Nunchux AI、MIT、NVIDIA）：低位注意力提速视频生成 Logit Refiner（CompVis @ LMU Munich · ECCV 2026）：补回同尺度token依赖 BVB（罗切斯特大学、Sony、卡内基梅隆大学、华盛顿大学）：让智能体用Blender复刻视频 CrossDistill（北京大学、清华大学、阿里巴巴集团）：分段蒸馏兼顾画质与多样性 今日论文速览 1. LynnReal-Omni：22帧视频377毫秒生成 LynnReal-Omni: Native multi-modal Video Generation for Agentic Visual Workflows | LynnReal AI | arXiv:2609.15863 关键词：多模态视频生成,可控视频,实时渲染,智能体创作 前序问题：扩散视频采样具有随机性，人物外观和长场景连续性难以精确控制；代理提供3D场景、游戏录像等明确约束，但单靠这些结构化输入又不足以保证真实感。 本文贡献：LynnReal-Omni 用32B共享多模态扩散Transformer统一文生视频、参考图驱动、结构控制、编辑与长视频；另训练27B Flash版本，接收3D渲染和游戏录像等异构条件，并以轻量VAE加速解码。 Agent workflows. Image-based scene reconstruction and agent-written low-poly games produce distinct visual-control streams. Prompt refinement, image generation, and first-frame editing provide appearance controls. The video model receives these controls through its native reference interface. 实验效果：论文报告在单张H100上，预热状态下生成并解码22帧540p视频，标准版需843毫秒，Flash版需377毫秒；这是特定帧数、分辨率和硬件条件的延迟，不代表任意长视频都可实时生成。 An example of generated-video artifact repair with LynnReal-Omni. Top: corrupted candle video. Bottom: independently repaired frames at identical timestamps, including both endpoints. Full frames are displayed at the same scale. Each source-frame edit uses four denoiser evaluations, for 480 evaluations across this 120-frame example. The accompanying demo plays both complete videos synchronously. 批判点评：统一的控制接口便于代理组合素材，但32B/27B模型的训练与部署成本很高；公开的22帧预热延迟也不能直接推出长片段的端到端吞吐或多轮主体一致性。 2. VC-Attention：低位注意力提速视频生成 VC-Attention: Value Smoothing and Softmax Casting for Low-bit Attention | Nunchux AI、MIT、NVIDIA | arXiv:2609.15810 关键词：视频生成,低比特注意力,FP8,算子优化 前序问题：视频DiT的时空token序列很长，低比特乘法虽快，V值离群点使量化误差扩大，softmax的高精度指数计算又成了新的延迟瓶颈。 本文贡献：VC-Attention 无需重新训练模型：V-Smooth先在线聚类并重排V token，减去块均值后量化残差；ExpCast-FP8把对数域分数直接编码为E4M3概率，替代FP32指数与格式转换。 VC-Attention writes the byte the conventional path writes. (a) Both paths take the same log-domain score $z$. The standard path evaluates an FP32 exponential and casts the result to E4M3; VC-Attention replaces both steps with one fused multiply-add, because an E4M3 byte is an affine function of the log of the value it stores. Reading the result as E4M3 costs no instruction: those bits already are the byte the $PV$ matrix multiply consumes. (b) The byte each path writes, and the relative error of the probability it decodes to. The two write the same byte on most of the interval and are one code apart on the rest. Every unit interval of $z$ looks the same, so one is enough. 实验效果：在所测B200/B300/H200上，注意力核相对BF16 FlashAttention-4快1.46–1.59倍，工作站卡快2.3–3.6倍；所测视频模型端到端加速为1.13–1.19倍或1.36–1.70倍，核加速不能当作整段视频加速。 Video diffusion leaves two bottlenecks that QK-centric low-bit attention does not touch. (a) Output error on Wan2.2. A Hadamard rotation of $QK$ shrinks the probability term, but leaves the larger value term exactly where it was: the value quantizer, not the $QK$ quantizer, is what bounds fidelity. (b) Even once both matrix products are low-bit, softmax's FP32 exponentiation and its cast still sit on the critical path between them. 批判点评：需要专门融合算子和在线token分组，不同GPU、序列长度及模型分布会影响收益；重排与量化误差应在具体视频模型上逐一核验。 3. Logit Refiner：补回同尺度token依赖 Logit Refiner: Improving Visual Autoregressive Models via Intra-Scale Dependency Modeling | CompVis @ LMU Munich · ECCV 2026 | arXiv:2609.11804 关键词：视觉自回归,图像生成,同尺度依赖,解码优化 前序问题：视觉自回归模型在每个尺度内并行采样token，忽略它们彼此的空间依赖；即便增大主干参数，也可能产生局部不连贯的图像。 本文贡献：Logit Refiner 冻结预训练VAR主干，增加轻量自回归模块，依次采样同尺度token并利用主干特征恢复局部联合依赖；接到已有checkpoint时无需重训主干。 Logit Refiner Overview. (a) The VAR backbone processes all previous scales and produces hidden states for the current scale in a single parallel forward pass, finally sampling from pointwise posteriors in parallel. As sampling is done independently within each scale, this can lead to mismatched tokens, affecting generation quality. (b) Our logit refiner takes these hidden states and samples tokens autoregressively within the scale, conditioning each prediction on previously sampled tokens. The refiner is a lightweight causal transformer, incurring only a small overhead during generation, while significantly improving sample quality. 实验效果：论文称新增参数约为主干的10%，训练计算不足主干的5%；在ImageNet 256×256类别条件实验中，1.1B参数的加装模型质量超过约两倍规模的对照主干，且在文生图设置中仍有提升。 VAR Failure Cases vs. Refiner. Our Logit Refiner can address a range of typical failures of VAR. Each column shows a paired sample (same class, same seed). Top: samples covering various failure modes from VAR-d30. Bottom: with refiner. 批判点评：顺序采样补回依赖也可能增加推理时的串行开销；论文中的参数和质量比较限定于所测VAR主干与任务，不能直接外推到所有生成架构。 4. BVB：让智能体用Blender复刻视频 BVB: Benchmarking Agentic Video Understanding via Programmatic Reconstruction in Blender | 罗切斯特大学、Sony、卡内基梅隆大学、华盛顿大学 | arXiv:2609.15478 关键词：视频理解,Blender,程序化重建,智能体评测 前序问题：现有视频理解基准多靠问答；模型即使答对部分问题，也不一定能生成同时保留动作、镜头和对象关系的可执行场景。 本文贡献：BVB要求智能体在统一沙箱与成本上限内编写Blender动画，渲染后分别用Dual VQA评价时空事实保留率、用Latent Similarity评价视觉相似度，并以平方根均值综合评分。 Controlled reconstruction and evaluation. A model alternates between viewing source frames and running Python code in a Docker sandbox under a cost limit, then saves an animated Blend scene. Dual VQA measures how well the rendered video retains answers the judge gets right on the source, and Latent Similarity compares layout and motion using frozen V-JEPA features. 实验效果：论文测试10个模型家族的51种配置；最优配置的潜空间相似度达到88.6，但仅保留源视频中53.7%的正确时空问答，说明看起来像与事实还原之间仍有差距。 BVB reveals shared task difficulty and model-specific variation. The left panel shows retention across eleven representative configurations. The right panel shows the full range, interquartile range, and mean over all 51 configurations for each task. Purple boxes mark the best shown value in each task. 批判点评：程序化重建比问答更能暴露空间和时间推理缺陷，但Blender建模、工具调用预算及渲染质量也会影响分数；不能把结果简单当作通用视频理解能力排名。 5. CrossDistill：分段蒸馏兼顾画质与多样性 CrossDistill: Balancing Quality and Diversity via Trajectory-Level Hybrid Few-Step Distillation | 北京大学、清华大学、阿里巴巴集团 | arXiv:2609.14725 关键词：扩散蒸馏,少步采样,视频生成,多样性 前序问题：扩散模型少步蒸馏常在画质与多样性之间取舍：轨迹蒸馏保留模式覆盖，分布匹配提升细节却可能让不同随机种子收敛到相似画面。 本文贡献：CrossDistill 沿噪声轴设置交叉点：高噪声阶段保持教师轨迹以保留全局分支，低噪声阶段做分布匹配以锐化局部细节，再用交叉状态耦合两段目标。 2D toy manifold distillation setting. From left to right: original teacher, trajectory-based distillation (TD), distribution matching (DM), loss-level mixture of TD and DM, and trajectory-level hybrid distillation (CrossDistill; ours). All models are trained on the same gray data manifold, and each student is trained to convergence. Colored curves denote denoising trajectories of 12 seeds, and black dots denote final generated samples. 实验效果：文生视频实验与图生视频定性展示显示，方法在少步设置下保留种子级差异，同时获得有竞争力的视觉质量；摘要没有给出可跨基准引用的统一加速倍数。 Diversity--quality trade-off. For each of three prompts (rows) we sample four independent initial noise seeds (columns) and show the same frame per generated video. AnyFlow and DMD show reduced seed-level variation, while rCM is diverse but lower in visual quality. In these examples, CrossDistill improves the trade-off, maintaining competitive diversity and visual quality. 批判点评：交叉点选择与两类目标的平衡需要按模型、任务调整；目前的图生视频证据以定性结果为主，读者应区分画质展示与可复现的综合指标。 6. DiVA：锚点续接让数字角色多轮互动 DiVA: Enabling Interactive Digital Life Simulation via Video Models | 蚂蚁集团、南洋理工大学、A*STAR | arXiv:2609.13830 关键词：交互视频,数字人,视频续接,多轮生成 前序问题：数字角色连续互动时，等待、动作与下一轮切换容易造成姿态跳变、镜头抖动和身份漂移；只拼接长视频难以稳定维持可交互状态。 本文贡献：DiVA 用多模态语言模型路由动作和语音响应，再把等待视频、动作视频和两者过渡拆成耦合模块；Anchored Video Continuation根据前一动作返回稳定锚点状态，支持语音与空间点击输入。 Given a text prompt defining the character's role, an MLLM acts as a router, processing user inputs (e.g. clicks and dialogue) and translating them into character responses and behavioral prompts for the audio-text conditional action model. Our video generation component starts with a waiting video, followed by iterative action videos based on the MLLM output. Finally, the anchored video continuation (AVC) module, conditioned on the prior action, targets preset, high-quality anchor frames that represent distinct character states (e.g. sitting or leaning back). Guided by the MLLM state assessment, AVC transitions to the appropriate anchor state. This mechanism smoothly restores the sequence to a stable, high-quality condition and enables expressive transitions between states, significantly expanding the character's motion range. 实验效果：论文对长视频、续接和插帧替代方案做比较，并报告多轮视觉质量与真实感的改善；摘要未给出统一的绝对延迟或显著性数字，因此不宜宣称“无限无衰减”。 Qualitative comparison on long-term digital life simulation. Our method successfully generates high-quality, expressive, and drift-free results, accurately performing state transitions (e.g. the 3rd to 4th transition in both examples). In contrast, all baselines suffer from severe drift and fail to execute precise state transitions; for instance, InfiniteTalk's subject only partially stands up in the second example. Notably, all baselines exhibit severe drift in fewer than 10 interaction rounds (marked in the bottom-right of each image), whereas our method remains stable indefinitely. Best viewed zoomed in. 批判点评：锚点策略对角色常见姿态有效，但复杂、非周期动作可能难找合适状态；实时交互还依赖生成延迟、音视频同步和对用户点击的空间理解。 7. Open-UniMo：64K动作token接入语言模型 Open-UniMo: Towards Unified Motion-Language Understanding and Generation in the Open World | 清华大学、香港中文大学（深圳）、南洋理工大学 | arXiv:2609.14615 关键词：动作生成,动作理解,具身智能,统一token 前序问题：动作语言模型往往把动作当作文本的辅助输入，跨模态互动不足；长动作序列逐token生成还容易积累误差。 本文贡献：Open-UniMo 在约150K文本token之外增加64K动作token，用一致的动作思维链连接语言语义与动作动态；先监督微调建立双向映射，再用GRPO提高语义对齐。 Overview of the Open-UniMo framework. Open-UniMo is trained in two stages with CoT reasoning. In the SFT stage, the model learns CoT-guided bidirectional motion-language mappings for both T2M and M2T tasks. In the GRPO stage, reinforcement learning further refines format compliance and motion-language alignment through multiple reward signals. 实验效果：论文在传统指标和自建Open-MoBench上报告领先结果，并通过消融指出动作到文本理解的瓶颈不主要在词表大小；没有单一数字可以概括所有动作任务。 Qualitative comparison on Open-MoBench for the T2M task. Compared with existing representative approaches, Open-UniMo generates motions that better capture semantic details and natural dynamics. 批判点评：64K动作词表与大规模开放数据意味着训练和部署成本；自建基准依赖VLM评判，实际机器人动作与物理环境中的泛化还需独立测试。 8. IABEdit：语义梯度教编辑器只改该改处 Semantically Aligned Gradient-Driven Context-Preserving Image Editing | 印度理工学院焦特布尔分校 | arXiv:2609.12691 关键词：图像编辑,语义对齐,视觉语言模型,局部保持 前序问题：指令式图像编辑的训练通常只看重建和文字条件，没有显式检查生成结果是否完成指令，因此容易漏改目标或波及无关区域。 本文贡献：IABEdit 用冻结的视觉语言模型提取目标编辑图的空间语义描述，再由可训练对齐器从生成图重建描述，利用残差梯度教生成器同时判断改什么、改哪里；推理时无需VLM。 IABEdit enables instruction-based image editing through a semantic-supervised distillation mechanism. A frozen Descriptive Anchor extracts rich guidance from the instruction and ground-truth edit, while an Instruction Aligner learns to align the generated image with this guidance. The alignment is enforced via backpropagation, guiding the diffusion model toward faithful and controllable edits. 实验效果：在MagicBrush上，DINO-I相对最佳扩散基线提高3.49、相对最佳总体基线提高1.26；在遮挡较重的D-LORD设置中，DINO-P比论文比较的Gemini代理高5.13。 Qualitative results on RealEdit dataset showing comparisons across various editing methods. The instruction adherence can be visualized at the fine-grained level. The non-targeted regions remain preserved, showcasing precise instruction-aligned editing generations. 批判点评：指标提升反映所测数据集的结构和语义保持，不等于所有编辑指令都能被精准执行；训练额外依赖VLM表征，需警惕其偏差与评测模型重合。 9. DNF-SR：双输入保住一步超分细节 DNF-SR: Dual-Input and Negative-Aware Feature Fine-Tuning for Real-World Image Super-Resolution | 南开大学 · CVPR 2026 | arXiv:2609.15120 关键词：真实图像超分,一步扩散,双输入,负样本微调 前序问题：低清图直接送入一步扩散模型会与其训练输入分布错位；只给低清图加噪虽能缩小分布差异，却可能抹掉原始内容。 本文贡献：DNF-SR 把原始低清图与加噪低清图一起送入Flux-Kontext编辑主干：噪声提供生成先验，原图维持内容条件；随后把多次生成结果分为正负样本，在图像和特征空间做负样本感知微调。 Overview of the DNF-SR framework. (a) The model structure adopts a dual-input design: noisy LR latents ($z_{mix}$) and original LR latents ($z_{LR}$) are concatenated with text tokens (encoded from image captions) and fed into fine-tuned DiT blocks of the Flux-Kontext pretrained model. We employed multiple loss functions to ensure the performance of the model. (b) The post-training process of Negative-aware Feature Fine-Tuning: multiple restored results are generated with different input noises, evaluated by combined full-reference (FR) and no-reference (NR) IQA metrics to obtain reward scores, and divided into positive and negative subsets. By constructing positive and negative optimization directions within both the image and the feature spaces, the quality of the restored images is improved. 实验效果：论文报告在真实图像超分实验中优于所比方法，并强调一步推理；arXiv摘要没有统一的绝对速度或画质数字，具体收益取决于论文内各数据集和指标。 Visual comparisons of different Real-ISR methods. Please zoom in for a better view. 批判点评：一次前向降低采样步数，但双输入增加token和内存；负样本分组依赖奖励模型，细节“更好看”时也可能偏离真实纹理。 10. AlignDPO：严重语音幻觉率降至0.6% AlignDPO: Preference-Gated Alignment for Reducing Hallucination in Decoder-Only TTS | ConnexAI · IEEE SLT 2026 | arXiv:2609.12855 关键词：语音合成,文本语音对齐,DPO,内容幻觉 前序问题：纯解码器语音合成在自回归输出时可能漏词、重复或编造内容；注意力对齐过弱不行，但一味把对齐压得很尖也会降低鲁棒性。 本文贡献：AlignDPO 在DPO偏好优化中只对被选中的语音样本加入轻量CTC对齐项，引导少数承担文本语音对齐的注意力头到适度锐化区间，推理时无需改模型结构。 Per-head $L_{CTC}$ distribution (log scale, teacher-forced over 100 utterances) for the four systems, sharing the x-axis. Colored dots are the identified AEAMs ($L_{CTC} < 2$); gray dots are the remaining heads. 实验效果：在Seed-TTS-Eval英语集上，论文报告严重内容幻觉率由4.4%降到约0.6%；正文还给出相对强DPO基线的幻觉率15.0%降至11.3%，两种统计口径不能混为一个数字。 ACI's effect is non-monotone (U-shaped) in attention sharpness, on both an in-domain and a hard out-of-domain set: hallucination vs. free-running entropy $C_E$ for five models. Left to right (soft to sharp): Base ($C_E{=}1.01$), DPO ($0.84$), DPO+M ($0.48$), Base+M ($0.08$), and DPO+M from Base+M ($0.07$). Seed-TTS reports HAL ($n{=}706$); Hard-500 reports SEV-HAL. 批判点评：结果基于特定英语语音数据和纯声学单码本主干；多语言、长句及噪声输入能否维持相同收益仍需独立验证，CTC权重过大会过度锐化。 趋势观察 视频模型走向可组合控制 LynnReal-Omni统一参考图、3D渲染和游戏录像等条件，DiVA把角色等待、动作与过渡拆开管理。可控生成的重点正从单段采样转到素材接口和跨轮状态保持。 加速要拆解真实瓶颈 VC-Attention同时处理V值离群点和softmax成本，LynnReal-Omni-Flash以独立模型和轻量解码器压缩短片段延迟；核提速、模型延迟和长片段吞吐需分别衡量。 生成质量不只是增加参数 Logit Refiner补回同尺度token依赖，CrossDistill按噪声阶段分别保多样性与细节，DNF-SR用原图条件减少一步超分的内容漂移；三者都调整了生成过程中的信息流。 评测从单一画质走向任务事实 BVB用程序化重建拆分视觉相似和时空事实，IABEdit显式检查编辑语义与局部保持，Open-UniMo同时评估动作生成和理解；分项指标比一个综合分更容易定位失败。 人工智能炼丹君 整理 | 2026-09-16 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-15|阿里五路音频控制-DiffSynth-Music 今日 AIGC 论文速览 今日共 10 篇 · 可控与统一音频生成 2 篇 · 长时音视频与可控视频生成 2 篇 · 图像编辑与画质修复 2 篇 · 3D 资产生成 1 篇 · 流式交互与语音评测 2 篇 · 高效长上下文 1 篇 重点论文标题列表 DiffSynth-Music（阿里巴巴集团、上海交通大学）：五路音频控制锁住节拍 StepAudio 3 Gen（阶跃星辰 StepFun-Audio 团队）：一套模型生成所有声音 Encore（百度、北京理工大学 · SIGGRAPH Asia 2026）：三十秒音画同步不跑偏 DIAL（阿里巴巴集团、北京大学）：调一个旋钮控人物像不像 Omni-Streaming Thinking（香港大学、香港科技大学（广州）、LIGHTSPEED、萨塞克斯大学）：流式多模态会主动改口 今日论文速览 1. DiffSynth-Music：五路音频控制锁住节拍 DiffSynth-Music: Audio-Conditioned KV-Cache Adapters for Controllable Music Generation | 阿里巴巴集团、上海交通大学 | arXiv:2609.12774 关键词：可控音乐生成,音频条件,KV缓存,扩散Transformer 前序问题：文字与歌词能规定歌曲主题和唱词，却难以精确约束节拍、旋律、伴奏、演唱韵律和参考风格；把多种音频条件逐步送进扩散模型又会反复增加计算。 本文贡献：DiffSynth-Music 从同一音乐 DiT 初始化 Control、Prosody、Reference 三个模板模型，先由共享 VAE 编码控制音频，再把逐层 KV 缓存注入生成主干。模板端固定在干净数据端点，每种控制只前向一次，五类条件还能组合使用。 实验效果：相对冻结主干，节拍条件把 Beat-F1 从 0.3031 提到 0.8496；人声条件把 V-MSE 从 0.0158 降到 0.0006，伴奏条件把 A-MSE 从 0.0221 降到 0.0023；参考条件的 MuLan-A 从 0.6836 升到 0.8088。 批判点评：一次缓存让多条件控制更便宜，但三个模板模型仍带来额外参数和训练维护成本。实验以单条件为主，真正创作常同时叠加节拍、人声、伴奏与参考音频，组合冲突和听感质量仍需更大规模人评。 2. StepAudio 3 Gen：一套模型生成所有声音 StepAudio 3 Gen Technical Report | 阶跃星辰 StepFun-Audio 团队 | arXiv:2609.12945 关键词：通用音频生成,语音合成,声音设计,RVQ 前序问题：语音、歌声、音乐与音效通常使用不同生成器和离散表示，混合声音任务很难在一套模型里保持文本能力、说话人一致性与声学细节。 本文贡献：StepAudio 3 Gen 以 12.5 Hz 的 16×2048 共享 RVQ 空间直接自回归建模通用音频：主干沿时间预测首码本，轻量因果 Transformer 再沿码本轴补齐其余十五层；渐进预训练与 RVQ Adaptor 缓解音频能力对语言能力的干扰。 实验效果：TTS 人类偏好 Elo 达 1755.33，对五个商业系统的汇总胜率为 82.0%；声音设计 Elo 为 1668.5、汇总胜率 75.5%；风格一致性中文平均 85.2%，英文平均 77.7%。 批判点评：统一离散建模简化了产品管线，但十六层 RVQ 的级联预测仍可能积累误差。报告覆盖多类声音，公开复现仍取决于训练数据、偏好标注与完整模型权重。 3. Encore：三十秒音画同步不跑偏 Encore: Infinite Audio-Video Generation with Adaptive Signal Routing | 百度、北京理工大学 · SIGGRAPH Asia 2026 | arXiv:2609.04249 关键词：音视频联合生成,长视频生成,自适应信号路由,跨模态同步 前序问题：现有音视频生成能做出同步良好的短片，但时长受限；长视频方法靠分块迭代延长时长，却完全没有音频。联合生成长音视频比单做任何一边都难：每一块都要同时保住视频时序连贯、音频时序连贯和跨模态同步，而这三路条件信号进入模型的通路各不相同。 本文贡献：Encore 把难题拆成两层：局部连续性交给带显式跨块上下文传播的迭代生成，全局一致性交给带位移位置编码的参考音视频信号。在此之上提出自适应信号路由（ASR），在自注意力内加逐层逐头可学习偏置、在交叉注意力输出上加可学习缩放，让模型自行调节每路条件信号的影响强度。端到端联合训练后，推理时全程以真值模态为条件即可支持无限长的音频转视频与视频转音频。 实验效果：扩展后的 VerseBench 长音视频评测上，身份一致性 ID 为 0.86、音画同步 LSE-C 为 2.36、AV-A 为 0.88，三项均为最佳；误差累积 ΔAS 0.02、ΔID 0.07，明显低于次优的 0.06 与 0.22。短片设置下 LSE-C 为 3.46，对 LTX-2.3 的 2.36。 批判点评：把长音视频拆成局部续接加全局参考，确实压住了 30 秒级的身份漂移与场景突变。但 ASR 的逐层逐头可学习参数把调参负担转移到了训练侧，消融显示去掉任一路缩放都会让同步指标明显掉档。画面美学仍落后于 OVI 与 LTX2.3，且所谓无限长目前只验证到 30 秒量级，更长时长的累积行为没有给出。 4. DIAL：调一个旋钮控人物像不像 Harnessing Intrinsic Subject-Aware Attention for Controllable Multi-Subject Video Generation | 阿里巴巴集团、北京大学 | arXiv:2609.11507 关键词：多主体视频生成,注意力定位,保真强度控制,偏好优化 前序问题：多主体视频生成卡在两件事上：保真强度不可调——模型要么因训练数据偏置产生生硬的贴图感，要么对输入敏感到无法控制；以及语义漂移——主体中途消失、属性出错、多个参考身份互相串味。 本文贡献：作者发现 DiT 内部某些注意力块天然形成内在空间定位图（ISGM），能准确定位参考主体。DIAL 据此双阶段复用这一内部信号：低噪声阶段用 ISGM 构造注意力偏置矩阵，推理时逐主体调节引导强度 γ 即可控制身份保真度，无需重训；高噪声阶段用同一张图零成本构造偏好对做强化学习，把注意力锚定到参考主体上抑制漂移。 实验效果：OpenS2V-Eval 上，Kaleido 主干总分从 56.00 提到 γ=16 时的 61.14，人脸相似度从 31.81 升到 60.64，双双超过最强通用基线 SkyReels-v3 的 59.26 与 VACE-14B 的 55.09。第二阶段单独作用（γ=0）把主体出现率从 155/320 提到 163/320。 批判点评：把控制接口接到模型自带的注意力结构上、省掉外挂模块，这个思路很干净。但 ISGM 出现在哪一层依赖对具体主干的经验观察，换骨干要重新找；保真度提升伴随真实感与美学分下滑，γ 给多少仍靠人工判断。第二阶段的偏好对由 ISGM 自评构造，评判标准与被优化对象同源，存在自我确认的风险。 5. Omni-Streaming Thinking：流式多模态会主动改口 Omni-Streaming Thinking | 香港大学、香港科技大学（广州）、LIGHTSPEED、萨塞克斯大学 | arXiv:2609.15128 关键词：流式多模态,音视频推理,状态修正,幻觉抑制 前序问题：流式音视频模型常在声音尚未说完时依据画面提前下结论；一旦错误判断写入记忆，后续音频即使否定它，模型仍会沿着旧状态回答。 本文贡献：OST 把输出拆成已见证据、未来证据预测和待验证主张，并为主张绑定验证时间窗。音频与视觉证据分开保存；遇到矛盾后，反驳过程削弱旧主张及其依赖状态，回答门控只在关键主张满足条件时放行。主干冻结为 Qwen3-Omni-30B-A3B，仅做轻量适配。 实验效果：在五个流式与音视频基准上，OST 相对最强开放基线平均提升超过 10%；OST-DiagBench 的 d′ 达 2.95，而开放基线最高 1.38。SOVBench-O 平均准确率由 81.6 提至 87.8，SOVBench-T F1 由 90.5 提至 92.4。 批判点评：显式状态与反驳链能减少过早承诺，却依赖主张拆分、模态归因和验证时间窗都足够准确。复杂直播中矛盾可能长期不闭合，额外结构化输出也会增加延迟和训练标注成本。 6. Overpainting：灰色地带让模型自己发挥 Overpainting: Localized Context-aware Diffusion Image Editing | Adobe Research、威廉与玛丽学院 | arXiv:2609.10811 关键词：图像编辑,三值遮罩,扩散模型,注意力dropout 前序问题：图像编辑要么给定二值遮罩、严格只改框内，结果生硬且边界突兀；要么纯靠文字提示，改哪里完全不受控。用户真正想表达的「这块必须改、这一圈可以顺带调、其余别动」没有对应接口。 本文贡献：Overpainting 用白/灰/黑三值 trimap 表达这三档意图：白色必须编辑、灰色允许编辑、黑色不得改动。实现上在预训练图像编辑扩散模型外挂 LoRA，用联合注意力在源图、遮罩与噪声三路输入间传信息，并以注意力 dropout 平衡信息流。配套的自动数据流水线先用语言编辑模型造候选图像对，筛掉过度编辑、编辑不足与整体偏移的失败样本，再从可用样本反解出 trimap。 实验效果：遮罩估计网络微调后 F1 达 0.955、IoU 0.916，对比阈值像素差的 0.733 与 0.607。MISATO@1K 补全评测上 LPIPS 0.189、FID 20.58，远好于 FLUX-Kontext 的 0.372 与 92.09。180 个人工整理的例子上，50% 注意力 dropout 在遮罩遵循与编辑质量之间取得平衡点。 批判点评：三值 trimap 比二值遮罩更贴近真实修图意图，把「顺带调一下」这件事显式化了。但灰区给模型多大自由度只能靠 dropout 率这一个全局参数调，用户画的灰区宽窄也会显著改变结果，论文自己的遮罩变体实验就显示同一提示词能得到差异很大的输出。训练数据由 FLUX.1 Kontext 自动生成再筛选，模型学到的编辑分布因此被上游模型的偏好圈住。 7. PLSR：3D网格切块做超分省显存 PLSR: Progressive and Localized Super-Resolution of 3D Objects via Localized Latent Voxel Diffusion | 香港中文大学、广东工业大学、香港城市大学、莫纳什大学 | arXiv:2609.06436 关键词：3D资产生成,超分辨率,体素扩散,渐进式生成 前序问题：扩散式 3D 生成模型被固定分辨率卡住，细节上不去；直接把分辨率整体拉高，显存与算力又会爆掉。 本文贡献：PLSR 在已有 3D 生成基座上做超分，把全局超分拆成关联式的局部子任务：粗网格编码成低分辨率条件，上采样出高分辨率隐变量的稀疏体素骨架后切成固定大小 patch，每个 patch 关联裁剪对应的低分辨率条件与输入图像，逐 patch 去噪再聚合成全局预测。整轮结果还能当作下一轮的低分辨率条件，渐进逼近更高分辨率，基座只需低成本微调。 实验效果：伪真值几何评测上 LPIPS 0.109、FID 55.89、Chamfer 距离 0.0139、F1 0.145，四项全面优于 TRELLIS.2 在 1536 与 2560 两档分辨率下的结果；纹理评测 LPIPS 0.125、FID 59.89。开放世界 ELO 评分中几何总体质量 1855、纹理 1633，高于 TRELLIS.2(1536) 的 1790 与 1599。 批判点评：把全局超分拆成局部 patch 换来了显存友好，重叠推理与渐进式两个消融也都验证有效。但逐 patch 去噪要遍历所有 patch，分辨率越高调用次数越多，省的是显存不是时间。接缝主要靠低分辨率条件当锚点加重叠区抑制，论文也承认无重叠时仍有残留。开放世界评测依赖模型打分，与人工审美的一致性没有交叉验证。 8. SAS：稀疏注意力直接听损失 SAS: Simple Attention Sparsification via End-to-End Optimization of Context Ranking | 腾讯混元、香港科技大学（广州）、香港科技大学 | arXiv:2609.13141 关键词：稀疏注意力,长上下文,上下文排序,端到端优化 前序问题：可训练稀疏注意力通常用硬 Top-K 选上下文，语言模型损失无法穿过离散选择，只能蒸馏稠密注意力权重；有限预算因此可能保留“像教师”却不真正影响最终预测的块。 本文贡献：SAS 在训练时把选择器连续分数以对数门的形式注入注意力 softmax，让语言模型损失直接更新上下文排序；归一化门校准历史块与始终保留的当前块，Triton 内核把这一机制嵌入 FlashAttention 风格计算。 实验效果：在 2048 token 预算、Qwen3-4B 上，AIME24 比 SeerAttention-R 高 13.02 分（68.85 对 55.83）；Qwen3-14B 的 LongBench 8K+ 为 53.9 对 51.5。SGLang 解码在 512K、batch 1 最多降延迟 5.6 倍，batch 8、64K 最多约 13 倍加速。 批判点评：端到端损失对下游任务更直接，但选择器只在数学数据上训练，跨领域稳定性仍受主干与查询分布影响；预填充仍采用稠密注意力，因此长输入首 token 成本没有同时消失。 9. Mi-Ripple：修掉反复AI编辑的涟漪 Mi-Ripple: Restoring Images Degraded by Iterative AI Editing | 弥阳科技、中国科学院软件研究所、上海交通大学、天津大学 | arXiv:2609.11317 关键词：图像修复,迭代编辑,频域伪影,配对再生成 前序问题：图像被生成模型反复编辑后会积累低频起伏、色带与周期纹理，内容看似正确却越来越“塑料”；普通锐化或去噪可能同时损伤真实边缘。 本文贡献：Mi-Ripple 先在频域用陷波定位并抑制迭代编辑形成的周期分量，再通过配对再生成构造更干净的参考，对剩余伪影做修复；流程把可测量的频谱异常与生成式细节恢复结合。 实验效果：14 次只做陷波的测试中，整图 CIELAB 亮度残差标准差为 0.08–0.44；配对再生成把参考中的碎屑密度降低 45%。三个示例的尺度纹理指数分别从 25.3%、41.1%、20.0% 降至 11.1%、12.1%、0.0%。 批判点评：方法针对可见的周期性退化更有解释性，但配对再生成可能改动原图身份与细节。若伪影频率与真实重复纹理重合，陷波也可能误删内容，仍需要区域级保真检查。 10. Duplex Cue：会说会停还要边听边改 Continue, Adapt, or Yield: In-Turn Adaptation to Overlapping Speech in Full-Duplex Agents | Besimple AI | arXiv:2609.13117 关键词：全双工语音,重叠语音,对话适应,语音评测 前序问题：全双工语音评测常把模型行为简化为继续说或停下来，却漏掉人类常用的第三种反应：保留话轮，同时吸收听者补充的词、纠正或澄清。 本文贡献：Duplex Cue 把听者意图区分为回应、协作与打断，把说者行为标成原样继续、话内适应或让出话轮。研究从无脚本英语对话中提取 300 个经人工确认的提示，并在相同提示下比较人类录音与 PersonaPlex 延续。 实验效果：保留 208 对活跃且可评分样本；66 个协作提示中，人类话内适应率为 68.2%，PersonaPlex 为 34.8%，相差 33.4 个百分点。模型更多原样继续（42.4%）或让出话轮（22.7%）；自动评分与人工在 142 项中一致 108 项，κ=0.641。 批判点评：三分法比“停没停”更接近自然对话，但判断适应需要理解语义依赖，自动评审本身可能偏向表面复述。要成为训练目标，还需扩展语言、说话风格、噪声与真实网络延迟。 趋势观察 控制接口前移到模型内部 控制不再靠外挂模块，而是接到主干已有的结构上：DiffSynth-Music 用可复用 KV 缓存组合五路音频，StepAudio 3 Gen 用共享离散码本统一语音、歌声、音乐与音效，DIAL 干脆直接复用 DiT 自带的注意力定位图。 长时序生成靠显式上下文传播续命 Encore 把长音视频拆成局部连续性与全局一致性两层，用跨块上下文传播加参考信号压住 30 秒后的身份漂移，误差累积指标 ΔID 从次优的 0.22 降到 0.07——长程生成的胜负手不在单帧画质，而在误差累积。 编辑控制从硬遮罩转向软约束 Overpainting 用白灰黑三值 trimap 区分「必须改、可以改、不能改」，Mi-Ripple 用频域陷波只删周期分量，都在回答「哪里该动、动多少」，而不是一刀切地框定编辑区域。 算力不够时预算分配成为核心问题 PLSR 把全局 3D 超分拆成可迭代的局部 patch 去噪换显存，SAS 在固定注意力预算下端到端学上下文排序——两条线都承认资源有限，转而研究怎么把预算花在刀刃上。 人工智能炼丹君 整理 | 2026-09-15 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-11|阿里13模型不会专业剪辑-CutCraft 今日 AIGC 论文速览 今日共 10 篇 · 音视频创作评测与安全 2 篇 · 可编程世界与物理视频 2 篇 · 生成后训练与统一多模态 2 篇 · 图像编辑与多视角生成 2 篇 · 设计自动化与合成数据 2 篇 重点论文标题列表 CutCraft（阿里巴巴、上海交通大学、复旦大学等）：13模型不会专业剪辑 Programmable World Model（Alaya Lab）：规则状态准确率98% ⚡ DIVA（Peng Li 等（ACM MM 2026））：参考图放大越狱风险 GGF（上海交通大学、中国电信人工智能研究院、中国科学技术大学）：模型用自绘图反哺理解 FlowCPO（西湖大学、浙江大学、快手可灵团队）：离线对齐GenEval达0.84 今日论文速览 1. CutCraft：13模型不会专业剪辑 Beyond Coherence: Benchmarking Professional Editing-Technique Execution in Multi-Shot Audio-Video Generation | 阿里巴巴、上海交通大学、复旦大学等 | arXiv:2609.08275 关键词：音视频生成,多镜头,剪辑评测,生成智能体 ⚠️ 前序问题：多镜头音视频模型已经能做出连贯、电影感强的片段，但现有评测多看画质、同步和物理合理性，无法判断模型是否真的执行了 J-cut、L-cut、转场时机和蒙太奇等专业剪辑指令。看起来像电影，不代表遵守了剪辑语法。 本文贡献：CutCraft 把结构化多镜头提示扩展为显式剪辑规格，并用镜头结构对齐、专家模型指标、工具化多模态判断和规则问答构成分层评测。作者还给出一个生成智能体基线：先规划镜头，再逐镜生成，最后做后期合成，使剪辑语义变成可执行步骤。 实验效果：对 13 个闭源与开源音视频生成模型的测试显示，当前系统普遍能维持内容连贯，却经常错过规定镜头数、转场关系和高阶蒙太奇；美学质量与剪辑指令遵循只有弱相关。智能体基线说明把剪辑拆成规划、生成和合成后更容易显式执行专业语法。 批判点评：混合评测仍依赖专家模型和多模态裁判，复杂剪辑意图可能被评分器误读。后期拼接能提升指令遵循，却可能掩盖底层生成模型不会原生控制镜头的问题；基准对真实剪辑师工作流、版权素材和长叙事的覆盖仍有限。 2. Programmable World Model：规则状态准确率98% Programmable World Model | Alaya Lab | arXiv:2609.10540 关键词：世界模型,视频生成,可编程状态,交互游戏 ⚠️ 前序问题：交互式视频世界模型能生成逼真的下一帧，却通常把角色生命值、阵营、库存和任务进度隐含在像素历史里。实体离开画面后，模型容易忘记它是否存活；自然语言提示也只能描述结果，无法保证规则在长时间交互中被稳定执行。 本文贡献：Programmable World Model 把世界状态演化与视觉生成拆开。编码智能体把自然语言规则写成可执行程序，轻量引擎维护包含屏外实体和非视觉属性的权威状态；状态增强的 3D 定向包围盒再经确定性编译器投影成身份、语义和运动方向控制图，预训练视频模型只负责把状态渲染成画面。 实验效果：在作者新建的 CombatStateBench 上，系统的存活角色数量准确率达到 94%，状态准确率达到 98%，并能在长时战斗交互中维持实体状态。它还支持用户预先编写游戏机制、逐个控制实体，并在镜头移开后继续保存世界事实。 批判点评：显式引擎让规则可验证，但也把开放世界压缩成包围盒、离散属性和手写转移规则；复杂物理、细粒度姿态与不可预设事件仍交给生成器补全。论文基准集中于战斗场景，面对大规模地图、多玩家并发和长期程序错误时的扩展性仍待验证。 3. DIVA：参考图放大越狱风险 The Price of Consistency: Exploiting Visual Anchors for Multimodal Jailbreaking in Video Generation | Peng Li 等（ACM MM 2026） | arXiv:2609.07216 关键词：视频生成,安全评测,多模态越狱,参考图控制 ⚠️ 前序问题：图生视频用参考图锁住主体和场景，提高时空一致性，但安全系统往往只重点审查文字。模型原本可能把危险提示漂移成无害内容，视觉锚点却会把生成过程拉回参考图中的危险意图，形成一致性越强、逃逸空间越小的安全悖论。 本文贡献：DIVA 是一个免训练多模态越狱框架，把危险意图拆成静态参考图和看似普通的运动提示，并用双重标准筛选兼顾隐蔽性与语义保真度的组合。论文同时提出 TI2VSafetyBench，用于专门评测多条件视频生成中的视觉锚定风险。 实验效果：作者在多家主流商业平台和开源视频模型上测试，DIVA 的攻击成功率显著高于纯文本攻击，说明只过滤提示词不足以覆盖图像与运动描述共同表达的风险。论文已被 ACM MM 2026 接收。 批判点评：攻击依赖先获得合适的危险参考图，现实系统还可能在上传、编码和输出阶段做二次视觉审核。公开越狱流程有双重用途风险；防御评估需要同时覆盖输入图、运动文本、跨模态组合和生成结果，且必须在平台更新后持续重测。 4. GGF：模型用自绘图反哺理解 Dreaming in Flow: Generative Grounding Feedback for Self-Evolving Unified Multimodal Models | 上海交通大学、中国电信人工智能研究院、中国科学技术大学 | arXiv:2609.08282 关键词：统一多模态,自训练,流模型,图像生成 ⚠️ 前序问题：统一多模态模型把理解和生成放进同一网络，却仍把两种能力当作独立任务训练。直接用模型自生成图像做自训练又会放大漏物体、属性错误和空间关系失真，缺少一种让生成经验反哺理解、再由理解修正生成的闭环。 本文贡献：生成接地反馈 GGF 只使用文本提示和模型自己的视觉梦境。流级反馈在同一噪声潜变量上比较文本、图像与修复条件的预测方向，把图像接地信息传回文本条件；梦境回放则通过描述和再想象，让可验证事实在两次生成间保持一致，并分离无关经验。 实验效果：在采用不同理解—生成融合设计的统一模型上，GGF 都带来一致的文生图提升，同时让视觉理解获得幅度较小但稳定的增益。方法不依赖额外成对图文数据，说明模型自身生成的图像可以成为双向训练信号。 批判点评：自生成经验仍受初始模型能力上限约束，流级一致不保证图像事实正确。回放和修复增加训练计算，如何过滤系统性偏见、避免错误闭环以及在闭源生成器上复现，仍是落地障碍。 5. FlowCPO：离线对齐GenEval达0.84 FlowCPO: A Unified Divergence View of Preference Alignment for Flow Models | 西湖大学、浙江大学、快手可灵团队 | arXiv:2609.09905 关键词：流模型,偏好对齐,离线优化,前向KL ⚠️ 前序问题：流与扩散模型的偏好对齐分成在线强化学习和离线偏好优化两派：前者必须不断从当前模型采样，成本高；后者常用正样本微调或似然比近似，既难解释与在线目标的关系，简化回归损失还可能无下界。 本文贡献：FlowCPO 用散度视角统一这些方法，并提出无需在线回滚的离线前向 KL 目标，同时利用偏好和拒绝样本。在线性插值及明确正则条件下，作者把前向 KL 上界化为可在固定数据上优化的对比流匹配损失，并证明该损失非负。 实验效果：在域内实验、CFG=3.0 时，FlowCPO 的平均 GenEval 与 OCR 分数分别为 0.84 和 0.87，高于 FlowDPO 的 0.81 和 0.74。域外测试中它取得最佳 GenEval，但多项奖励分数低于 RFT，结果并非全面领先。 批判点评：理论上界依赖线性插值和正则条件，真实大模型训练是否满足需要验证。离线数据省掉采样，却继承偏好数据覆盖与标注偏差；负样本权重、参考先验和插值系数也会带来额外调参成本。 6. PhysFlow：5万物理视频教会运动 PhysFlow: Physics-Aware Optical Flow for Motion Controllable Video Generation | 中科院自动化所、中国科学技术大学、北京航空航天大学、中关村学院 | arXiv:2609.08215 关键词：视频生成,物理一致性,光流,运动控制 ⚠️ 前序问题：视频生成器能做出漂亮纹理，却常出现碰撞错误、非刚体变形失真和前景背景接触不合理。完整物理引擎依赖准确 3D 重建和材料参数，文字或稀疏轨迹又不足以描述像素级形变，需要一种介于模拟状态和最终外观之间的密集运动表示。 本文贡献：PhysFlow 把生成拆成两步：PA-Flow 根据速度、加速度、密度和杨氏模量生成物理感知光流，分别建模全局运动与局部形变；FlowRender 再以光流视频为条件合成纹理。配套 PhysVideo 用物理引擎与 3D Gaussian Splatting 构建显式监督。 实验效果：PhysVideo 包含 1 万个前景物体和 5 万段带运动、材料属性标注的视频。实验显示 PhysFlow 在保持视觉质量的同时提升物理合理性，并能从单图处理非刚体运动、物体交互及前景背景接触。 批判点评：光流适合二维位移，却无法显式表达遮挡后的三维结构、拓扑变化和长期守恒量；两阶段误差也会累积。方法仍需用户或数据提供材料与运动属性，开放世界里这些参数通常难以可靠获得。 7. MIEdit：千组编辑基准无需调参 Multi-History-Step SDE Inversion for Image Editing with Superior Regional Awareness | 中科院自动化所、国科大（ECCV 2026） | arXiv:2609.06602 关键词：图像编辑,SDE反演,语义遮罩,免训练 ⚠️ 前序问题：免训练扩散编辑要在重建原图与服从新提示之间取舍。现有 ODE/SDE 反演步数多、编辑幅度受限，增大 CFG 还可能产生伪影；非编辑区域保护通常需要额外遮罩输入或独立分支。 本文贡献：MIEdit 用预测—校正的多历史步 SDE 反演，在每一步复用至少两个历史项，以更少步数提高稳定性和编辑可塑性；同时调整噪声日程缓解大幅编辑冲突。IASM 在反演早期借助 CFG 方向自动生成语义角度遮罩，并贯穿后续采样约束区域。 实验效果：作者构建 EditEval++，覆盖 30 个细粒度任务和超过 1,000 组图像—文本—遮罩三元组。实验显示 MIEdit 在无需微调、无需外部遮罩的条件下超过所比较方法，并能把输入重建到数值精度范围。论文已被 ECCV 2026 接收。 批判点评：多历史项会增加缓存与实现复杂度，自动遮罩质量仍依赖基础模型的 CFG 响应。论文主要围绕扩散 SDE 编辑，迁移到流匹配模型、超高分辨率和多对象关系编辑时是否稳定还未充分验证。 8. StreetDiff：全景约束街景多视角 StreetDiff: Multi-view Street Scenes Generation via Cross-view Consistent Multi-view Stable Diffusion with Structure Prompts | 深圳大学 | arXiv:2609.09890 关键词：多视角生成,街景,全景图,结构控制 ⚠️ 前序问题：多视角扩散在室内或简单自然场景表现不错，面对道路、建筑和动态目标密集的城市街景时，镜头旋转后容易重复物体、扭曲建筑和破坏布局。相邻视角注意力缺少球面几何对应，难维持全局结构。 本文贡献：StreetDiff 让全景分支负责全局布局、透视分支负责局部细节，并用 Panorama Alignment Module 按球面投影建立跨视角注意力约束。结构提示可来自分割图、轮廓或草图；作者还构建带文本和密集结构标注的 HDR 城市全景数据集 Street360。 实验效果：实验显示 StreetDiff 在街景生成质量和多视角几何一致性上超过所比较基线，尤其改善纯文本条件下的建筑与道路结构；它无需修改扩散骨干即可注入几何对齐。 批判点评：球面全景是有效的全局脚手架，但真实街区包含强遮挡、动态交通和大范围深度变化，二维投影约束仍可能失效。Street360 的地域与天气覆盖、从合成多视角到可导航 3D 场景的差距也需要检验。 9. LoGAN：少量字形扩展27种语言 LoGAN: Multilingual Font Localization with Generative Agents | Netflix（ECCV 2026） | arXiv:2609.07029 关键词：字体生成,多语言,VLM智能体,扩散模型 ⚠️ 前序问题：把一个品牌字体或电影 Logo 本地化到新语言，不只是生成单个字形，还要保留笔画风格、纹理、颜色、字距和字偶距。通用生图模型常改乱排版，传统字体生成又难从拉丁字母跨到结构复杂的中日韩字符。 本文贡献：LoGAN 用 VLM 智能体协调字形级扩散、少样本风格微调、字距与字偶距迁移以及纹理扩展模块。输入少量原字体字形或 Logo 字母后，系统分别解决结构、排版和材质，再组合成目标语言的完整字符集。 实验效果：论文覆盖超过 27 种语言，包括拉丁、希腊、西里尔与中日韩文字；在字体和真实 Logo 数据上，相比字体专用模型及 FLUX、Nano-Banana 等编辑模型取得更高字形保真度，并更好保持风格、纹理和字距。400 个电影 Logo 样本中有 44% 基于字体制作。 批判点评：多模块流水线提升可控性，也放大任一环节的误差和运行成本。少数字形可能不足以覆盖复杂脚本的部件组合、书写规范与文化设计语义；字体版权、人工修字和完整字符编码支持仍是商业落地条件。 10. AnomalyCraft-700K：4万异常视频70万标注 AnomalyCraft-700K: Component-Level Controllable and Verifiable Synthetic Anomalies for Fine-Grained Video Anomaly Understanding | 西北工业大学、新加坡管理大学 | arXiv:2609.06978 关键词：视频生成,异常检测,合成数据,多模态理解 ⚠️ 前序问题：真实异常视频稀少、难控制，已有合成数据通常只按类别或整句提示生成，提示与画面细节不一定一致，也缺少靠近正常—异常边界的困难正常样本，模型容易根据表面线索而非事件语义判断。 本文贡献：AnomalyCraft 把异常事件拆成场景、背景、主体、物体和有向交互五类组件，通过三阶段生成逐步放松非关键约束。相同组件同时作为核验单元，定位并人工修正视频—文本偏差；每个异常类别还配套语义接近但实际正常的困难反例。 实验效果：数据集包含超过 4 万段视频和 70 万条任务级文本标注，覆盖从异常检测、检索、描述到细粒度推理的六类任务。传统模型和多模态大模型评测都显示，它能为异常检测与理解提供有效监督。 批判点评：合成器的视觉偏差可能成为捷径，组件级人工修正也带来高成本和主观性。模型在该数据上提升不代表真实监控、开放场景和未见异常同样受益，需与真实数据混合训练并做跨域验证。 趋势观察 生成评测开始检查专业过程 CutCraft不再只看画质和连贯性，而是逐项检查镜头、转场和音画剪辑语法，说明创作模型的评价对象正在从结果扩展到过程执行。 世界模型从像素记忆走向权威状态 Programmable World Model把规则与实体状态交给可执行引擎，生成模型退回渲染器角色；可验证状态开始成为长期交互的一等公民。 条件越强，跨模态安全面越大 DIVA揭示参考图既提升一致性也会固定危险意图；安全策略需要联合审查图像、文字运动条件与输出，而不能只过滤提示词。 生成模型用结构中间态换取控制 从PhysFlow的光流、StreetDiff的全景几何到MIEdit的语义角度遮罩，低维且可解释的中间表示正在连接高层意图与像素生成。 人工智能炼丹君 整理 | 2026-09-11 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-10|90%稀疏视频DiT加速2.63倍-RoLA 今日 AIGC 论文速览 今日共 10 篇 · 高效与流式视频生成 3 篇 · 可控动作与手语生成 2 篇 · 生成基础设施与评测 3 篇 · 图像生成与编辑 2 篇 重点论文标题列表 RoLA（北京大学、清华大学、电子科技大学、阿里巴巴等）：90%稀疏视频DiT加速2.63倍 Mask Forcing（香港科技大学（广州）、香港科技大学、加州大学圣迭戈分校等）：给自回归蒸馏注入干净令牌 FlexMoGen（布朗大学、Epic Games、加州大学戴维斯分校、犹他大学）：文字定内容，参考动作定风格 Decoupled SF（Yanru An 等）：流式数字人15.4FPS且延迟1.3秒 Miles v0.1（RadixArk）：744B模型异步RL跑上64张GB300 今日论文速览 1. RoLA：90%稀疏视频DiT加速2.63倍 RoLA: Rotary-Positioned Low-Rank Linear Attention for Efficient Diffusion Transformers | 北京大学、清华大学、电子科技大学、阿里巴巴等 | arXiv:2609.06712 关键词：视频生成,稀疏注意力,线性注意力,扩散Transformer 前序问题：视频扩散 Transformer 的时空令牌很长，稠密自注意力随序列长度平方增长。稀疏分支可以省计算，却会丢掉维持场景、运动和语义一致性的远程联系；现有低秩全局补偿又难同时保留 3D RoPE 的相对位置结构与可复用的线性摘要。 本文贡献：RoLA 将注意力拆成固定稀疏局部分支与低秩全局分支。它先把查询和键投影到低秩空间并通过非线性，再施加截断后的预训练 3D RoPE；这样旋转不会被非线性打乱，全局键值摘要可对所有查询复用。令牌级门控负责把局部尖峰与平滑全局背景重新融合，无需新增位置参数。 Architecture overview of the proposed method. (a) Dense 3D-RoPE attention decomposes into sparse top-$k$ spikes and a residual background. (b) The method replaces dense attention in pre-trained DiT blocks with sparse--low-rank branches and gated fusion, reusing backbone RoPE without additional positional embeddings. The right part shows the rotary low-rank branch and distribution-aware gated fusion. 实验效果：在 Wan2.1-14B 的 720p、81 帧设置上，RoLA 在 90% 稀疏率下仍保持有竞争力的生成质量，并在单张 NVIDIA H100 上取得 2.63 倍端到端推理加速。机制实验中，截断秩 r=64 的时间与高度相对位置余弦相似度都达到 0.93。 Deployment-oriented efficiency summary on RTX 5090 (different from the benchmark evaluation setting). Panel (a) shows representative fixed-setting deployment latency, panel (b) shows theoretical self-attention FLOPs per denoising step, and panel (c) shows long-sequence deployment latency. 批判点评：RoLA 需要对替换注意力后的完整骨干做单阶段全参数微调，部署收益并非零训练获得。低秩分支只解决高稀疏率下的全局补偿，稀疏局部分支本身沿用既有方案；更长视频、不同 RoPE 划分和消费级 GPU 上的质量—速度曲线仍需验证。 2. Mask Forcing：给自回归蒸馏注入干净令牌 Mask Forcing: Improving Autoregressive Video Diffusion Distillation via Dual-Noise Masking Rollout | 香港科技大学（广州）、香港科技大学、加州大学圣迭戈分校等 | arXiv:2609.09123 关键词：视频生成,自回归扩散,分布匹配蒸馏,模式坍塌 前序问题：用反向 KL 的分布匹配蒸馏把双向视频扩散教师压成因果学生时，目标偏向追逐少数高概率模式。学生在自回滚中容易越来越饱和、平滑，并把早期误差持续传给后续片段。 本文贡献：Mask Forcing 在学生自回滚期间沿空间和时间轴随机遮罩，用更干净、较低噪声的令牌替换部分高噪声输入。扰动让学生探索教师分布中尚未覆盖的区域，同时干净令牌给邻近噪声令牌提供去噪参照，从而缓解模式坍塌与长时误差积累。方法可插入多种 DMD 自回归蒸馏流程，不需要真实视频或额外后训练阶段。 实验效果：在 30 秒 LongLive 设置上，加入 Mask Forcing 后 HPSv3 从 8.44 提升到 9.11，VBench 总分从 83.91 提升到 84.51，语义分从 80.70 提升到 81.44。论文还报告它在逐帧和分块设置下普遍改善视觉质量与指令遵循。 批判点评：收益依赖遮罩比例、噪声窗口和更新粒度，表明它仍是一套需要按骨干与任务调参的训练策略。论文主要在既有因果视频蒸馏管线上验证，尚未说明对完全不同教师、极长序列或交互式状态更新是否同样稳定。 3. FlexMoGen：文字定内容，参考动作定风格 Flexible Motion Generation from Language and Style References | 布朗大学、Epic Games、加州大学戴维斯分校、犹他大学 | arXiv:2609.08032 关键词：人体动作生成,文本到动作,风格迁移,潜扩散 前序问题：文本很适合描述“做什么”，却难精确表达节奏、肢体发力和情绪动态；离散风格标签又无法覆盖未见风格、长动作或同一序列里的风格切换。 本文贡献：FlexMoGen 同时输入自然语言与风格动作片段，用无风格标签监督的变分编码器提取连续风格，再通过轻量适配模块调制文本到动作的潜扩散模型。统一预训练、相对位置编码和时变风格控制使模型可以合成长序列、多风格过渡以及未见过的文本—风格组合。 Overview of our style-adapted text-to-motion framework. The input content motion $x_c$ is encoded by a pretrained motion encoder, and Gaussian noise is added to its latent embedding. The text-to-motion (T2M) model (top right) consists of $7$ Transformer encoder layers that take motion, text, and time embeddings as inputs. Each self-attention block incorporates relative positional encoding into the key and value projections. During style finetuning, the T2M backbone is frozen, and only the weight matrices $W_s^{K}$ and $W_s^{V}$ in the Style Adaptation Module (SAM) are trained. SAM encodes a style example $x_s$ and injects its outputs as additive biases to the $K$ and $V$ vectors in the attention layers, guiding the network to preserve the semantics of $x_c$ while reflecting the style of $x_s$. 实验效果：22 名参与者给出 330 次成对判断。相对 SMooDi，FlexMoGen 在内容保持、风格反映和整体动作质量上的偏好率分别为 61.1%、67.7% 和 71.3%；相对 T2M+MP，内容和质量偏好率达到 82.1% 与 94.0%。 User study results (pairwise preference, % favoring ours). Left: FlexMoGen vs. T2M+MP. Middle: FlexMoGen vs. SMooDi. Right: FlexMoGen vs. LoRA-MDM. Criteria are content preservation, style reflection, and motion quality. 批判点评：风格参考本身可能同时携带动作内容，编码器是否真正解耦仍难完全证明。用户研究规模较小，长序列测试只含一次风格过渡；快速连续切换、接触物理和手部细节还需要更严格评测。 4. Decoupled SF：流式数字人15.4FPS且延迟1.3秒 Decoupled Self-Forcing Distillation for Streaming Talking Head Generation | Yanru An 等 | arXiv:2609.10317 关键词：说话人视频,流式生成,自强制蒸馏,动作潜变量 前序问题：端到端音频驱动视频扩散把音频条件融合到整幅视频潜变量，而身份、背景和外观大多与音频无关，既浪费容量也容易模糊细节。便宜的两阶段方法先生成动作，再渲染视频，却常因动作空间监督不足而损失画质。 本文贡献：该方法先在与身份解耦的低维动作空间里融合音频和动作字幕，由小型因果自回归 Transformer 生成动作潜变量，再交给预训练扩散渲染器。解耦自强制蒸馏用同一个冻结视频教师监督两条流：有动作条件时蒸馏因果渲染器，无条件时以真实视频给渲染回滚打分，反向约束动作生成器。 Overview of Motar. (a) An AR motion transformer models causal dependencies over motion latents, with an efficient diffusion head producing continuous-valued latents; a user-written motion caption and the driving audio are fused into a global condition query by a Q-Former projector. (b) Hierarchical conditioning: the global query is injected by full cross-attention for coarse, sequence-level control, while raw audio embeddings are injected by windowed cross-attention for frame-level lip articulation. (c) Decoupled self-forcing distillation: the frozen bidirectional teacher $G$ supervises both branches by distribution matching. Conditioned on motion, it distills $G$ into a block-causal student $G_\phi$; unconditionally, it matches the rendered motion rollout against the distribution of real talking videos. 实验效果：动作生成与视频渲染两条因果流并行运行，论文报告达到 15.4 FPS、首段延迟 1.3 秒，并称相对非流式教师没有质量退化。 Qualitative comparison with Wan-based end-to-end methods. For each result we show five frames with the spoken word beneath; the phoneme being articulated is highlighted in red (e.g. the “oo” in “look”), so that lip shape can be checked against the sound at each frame. Our method produces the tightest audio--lip alignment and the sharpest facial detail. 批判点评：动作空间没有天然的双向教师，论文借渲染结果间接监督，效果会受动作表示和渲染器上限共同影响。身份解耦在极端表情、遮挡与头部大幅运动下是否成立，以及跨语言口型和长时间漂移，仍需更大规模验证。 5. Miles v0.1：744B模型异步RL跑上64张GB300 Miles v0.1: Production-Level Post-Training | RadixArk | arXiv:2609.08368 关键词：大模型后训练,强化学习,SGLang,分布式训练 前序问题：前沿模型的强化学习已经包含多轮工具调用、超长回滚和异步环境，生成、训练与权重同步任一环节的不一致都会让 on-policy 假设失效；现有框架往往只覆盖某种后端或缺少生产级可观测性。 本文贡献：Miles 以 SGLang 负责回滚，训练端可选 Megatron-LM 或 PyTorch FSDP，并提供点对点、共享桶和磁盘增量等三类权重同步路径。系统统一支持全参数与 LoRA 强化学习、on-policy 蒸馏、SFT、真正的 rollout—training 对齐，并把同一架构扩展到扩散模型。 实验效果：端到端案例在 64 张 NVIDIA GB300 上对 GLM-5.2 744B-A40B 做终端编码任务的全异步智能体强化学习，前 30 个统计步骤的中位耗时为 263 秒。项目已开源代码与部署文档。 批判点评：64 张 GB300 的案例展示了规模上限，也意味着复现门槛很高。异步回滚会带来策略陈旧度、环境版本和样本重放偏差，系统提供校正机制，但不同任务下的稳定边界仍需独立验证。 6. VI-Bench：反推视频提示词最高仅得0.632 VI-Bench: Benchmarking Prompt Inversion from AIGC Videos | 中国科学院自动化研究所、弗吉尼亚大学、新加坡国立大学等 | arXiv:2609.08079 关键词：视频理解,提示词反演,生成评测,多模态模型 前序问题：视频描述只需说出画面内容，能够复现的提示词还要恢复风格、镜头运动和多镜头结构。现有视频理解基准没有测试“反推提示词后重新生成，能否回到原视频”，也难评估提示泄露风险。 本文贡献：VI-Bench 从 1610 万条真实用户提示中清洗出约 390 万条，构建 900 个经人工核验的 AIGC 视频，覆盖单镜头语义、风格与镜头控制、多镜头组合三档难度。它让 18 个视觉语言模型反推提示，再用原生成器回放，并联合原提示对齐与回放视频保真计算 Inversion Score。 实验效果：最强模型的总体 Inversion Score 只有 0.632；难度从单镜头升到多镜头后表现明显下降。主题与风格的“文本看似正确、回放却不像”差距最大，说明视频字幕能力不能替代可执行的生成控制恢复。 批判点评：提示反演同时涉及创作复用与隐私攻击，分数更高并非在所有场景都更好。基准把开放式提示压成五个维度，仍可能漏掉负面提示、采样器与种子等无法从画面稳定恢复的控制因素。 7. RelightFormer：9万物体训练多视角直接换光 RelightFormer: Feed-forward Generative Transformer for Multiview Object Relighting | 香港理工大学 | arXiv:2609.07414 关键词：图像重光照,多视角生成,生成Transformer,环境光照 前序问题：逆渲染要从图像分解几何、材质和光照，是高度欠定的优化问题；单图生成式重光照又忽略跨视角线索，难以在镜面、透明和毛发材质上保持一致。 本文贡献：RelightFormer 从视频基础模型改造出前馈生成 Transformer，用光照交叉注意力把目标环境贴图动态注入空间特征，并用对输入顺序不敏感的位置编码对称处理无序多视角。训练数据 LOD 包含 9 万个 Objaverse 物体与 3.9 万种独特光照，不显式估计法线、反照率等内在属性。 Architecture of RelightFormer. Input modalities (noise, reference images, and an environment map) are first patchified into token sequences, with ray embeddings added to encode stereo geometric priors. Noise and reference tokens are concatenated and processed through two parallel attention pathways: a multi-view self-attention module for intra- and cross-view feature aggregation, and an illumination attention module that dynamically injects lighting cues into spatial features. The outputs of both branches are element-wise summed and passed through an FFN. After the final layer, reference tokens are discarded, and the updated noise tokens are used to predict the flow-matching velocity field. For clarity, VAE encoding and decoding stages are omitted. 实验效果：在真实 OLATverse 材质分组上，RelightFormer 在多数类别取得最高前景指标；例如金属物体 sPSNR/PSNR 为 22.84/19.88，毛发物体为 17.75/14.28，并支持单视角、多视角和新视角的零样本重光照。 Qualitative results for multi-view image relighting in real-world OLATverse Dataset. 批判点评：绕过显式物理分解提升了易用性，却也降低了光照与材质参数的可解释性。9 万合成物体的材质分布与真实拍摄存在域差，复杂遮挡、非刚体和未知相机标定下的多视角一致性仍是风险。 8. AV-SafetyBench：只看视频会漏掉近半音画风险 AV-SafetyBench: A Safety Benchmark for Text-to-Audio-Video Generation | Suah Choi 等 | arXiv:2609.06991 关键词：音视频生成,安全评测,跨模态风险,生成基准 前序问题：文字到音视频模型同时生成画面、语音、音效和环境声，危险内容可能只藏在音轨，或由无害画面与无害声音组合后产生。只评视频或只评音频会系统性漏检。 本文贡献：AV-SafetyBench 建立四个轴、13 类风险的分类体系与 5200 条人工复核提示，分别从完整音画、仅视频、仅音频三种视角判定输出，再把完整音画风险归因到视频、音频、双模态各自危险或跨模态组合危险。 实验效果：五个开源音视频生成模型的完整音画不安全率为 25.1% 至 49.4%。在四个模型中，音频独有与音画联合风险占可归因不安全样本的 41.6% 至 48.3%；跨模态伤害类别中，87.5% 来自音画组合后才出现的风险。 批判点评：风险比例依赖提示集分布、生成拒答策略和裁判阈值，不应直接解释成真实产品事故率。基准主要覆盖公开模型与英语语境，多语言语音、方言暗示和长时叙事风险仍可能不足。 9. Concept Brittleness：用稀疏特征定位生图概念盲点 Interpreting Object-Dependent Concept Brittleness in Text-to-Image Diffusion Models | 复旦大学、深圳大学等 | arXiv:2609.09909 关键词：文生图,可解释性,稀疏自编码器,推理时修复 前序问题：同一风格或属性在大多数对象上能生成，却会对少数对象稳定失败。这类“对象依赖的概念脆弱性”不是换随机种子就能解释，也难从原始去噪特征中定位缺失了哪一条概念证据。 本文贡献：作者把逐步去噪轨迹投到稀疏自编码器空间，对比成功与失败样本，寻找缺失、变弱或出现过晚的概念维度，并从同类成功样本建立概念原型。推理时把失败样本的特征轻量插值到原型方向，用修复效果反证诊断是否抓住了真实缺口。 实验效果：跨多个扩散骨干的风格与属性失败案例中，原型插值显著改善概念一致性、文本保真和修复成功率。分析还显示越深层的去噪表示概念结构越清晰，而越早期介入通常有更强纠正作用。 批判点评：方法先要收集可靠的同类成功样本来构造原型，对长尾概念或没有清晰成功对照的情况较弱。SAE 的稀疏特征并不天然等于人类可读因果概念，插值改善结果也不能完全排除其他相关方向共同起作用。 10. SignRefine：局部适配器把手语手部精度提高30% SignRefine: Adapting Foundational Video Models for Sign Language Generation | 萨里大学 | arXiv:2609.08496 关键词：手语生成,视频扩散,局部适配器,关键点控制 前序问题：通用视频扩散模型主要在口语人物视频上训练，能生成自然人物，却经常把手指、嘴形和眉眼做错；对手语而言，这些小区域正承载语言信息，画质好但动作错仍不可理解。 本文贡献：SignRefine 冻结预训练视频 DiT 主干，只为左手、右手和脸部分别加入带空间掩码的局部适配器，把高分辨率区域条件注入指定 Transformer 层。系统只需二维关键点与一张人物参考图，并使用原生手语视频数据集 NVSign 训练区域控制。 实验效果：相对最强基线，SignRefine 的手部姿态精度指标最高提升 30%；手语用户在视觉质量与可理解性成对比较中超过 80% 的情况下选择 SignRefine。模型还展示了跨人物外观与视觉条件的泛化。 批判点评：二维关键点没有完整编码手形、接触关系和非手部语法，生成可理解性仍取决于关键点质量。当前数据的语言种类、地区变体和签署者覆盖决定了泛化边界，必须持续由聋人社群参与评测。 趋势观察 视频效率开始补齐全局结构 RoLA在90%稀疏下保留旋转位置全局分支，Mask Forcing则从训练分布侧减少自回滚模式坍塌；速度优化正在从少算注意力扩展到稳定学生分布。 条件控制向低维与局部区域收缩 Decoupled SF把音频先落到动作潜变量，SignRefine只强化手脸区域，说明让条件作用于真正相关的表示比全图注入更节省容量。 生成评测进入可回放和跨模态阶段 VI-Bench要求反推提示后重新生成，AV-SafetyBench同时检查画面、音轨及其组合；只看文本相似或单一模态已不足以评价生成系统。 基础设施成为算法可信度的一部分 Miles把回滚、训练和权重同步放在同一套可验证系统里，提醒大规模后训练的算法结论必须连同 on-policy 对齐与运行拓扑一起审查。 人工智能炼丹君 整理 | 2026-09-10 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-08|蚂蚁从零训6B开源生图-LLaDA-Image 今日 AIGC 论文速览 今日共 10 篇 重点论文标题列表 LLaDA-Image（Inclusion AI AGI Research Center）：从零训练开放生图模型 DSAQuant（Robbyant、浙江大学、香港理工大学、香港科技大学）：按去噪阶段做视频量化 ⚡ DM-Align（清华大学、快手科技、哈尔滨工业大学（深圳）、北京邮电大学）：四步视频同时对齐与蒸馏 RA-GRPO（清华大学、快手科技）：用反思轨迹稳定生成对齐 VoRTeC（清华大学深圳国际研究生院、哈尔滨工业大学（深圳）、北京大学）：用生成流做一步视频解码 今日论文速览 1. LLaDA-Image：从零训练开放生图模型 LLaDA-Image: Building Strong Image Generators with Fully Open Training Recipes | Inclusion AI AGI Research Center | arXiv:2609.03796 关键词：图像生成,开放模型,扩散语言模型,模型蒸馏 ⚠️ 前序问题：高质量图像生成模型常依赖不透明的数据配方、训练细节或已有模型权重，研究者难以复现从零训练过程；把理解、生成和编辑统一起来也容易牺牲其中一项能力。 本文贡献：作者从零训练一个 6B 参数 DiT，并接入冻结的 LLaDA2.0-Mini 视觉语言理解模块。训练先用纯图像预训练建立视觉先验，再做中期训练和图文统一训练；全流程使用 2.2 亿样本，其中 98% 为真实图像，并公开权重、代码和训练配方。团队还用 TwinFlow 将模型蒸馏为 2 至 4 步推理的 Turbo 版本。 实验效果：LLaDA-Image 在 Qwen-Image-Bench 英文与中文轨分别得到 53.53 和 53.38，领先当时其余开源模型；LongText-Bench 英文、中文得分为 0.923 和 0.913。编辑基准 GEdit-Bench 的英文、中文总分为 7.336 和 7.294，说明统一模型已具备较强的生成、文字渲染与编辑能力。 批判点评：2.2 亿样本的收集、清洗和训练成本仍然很高，公开配方也不会自动解决数据授权与可追溯性问题。报告覆盖模块很多，但部分组件的独立贡献和跨架构可迁移性仍需更多消融验证。 2. DSAQuant：按去噪阶段做视频量化 DSAQuant: Denoising-Stage-Aligned Quantization-Aware Training for Video Generation | Robbyant、浙江大学、香港理工大学、香港科技大学 | arXiv:2609.04031 关键词：视频生成,量化感知训练,低比特推理,部署优化 ⚠️ 前序问题：视频扩散模型压到 W4A4 或 W3A3 后，通常还能保住提示词语义、构图与粗粒度运动，却会明显丢失纹理、锐度和局部细节。传统量化训练把所有去噪时刻一视同仁，没有利用早期规划结构、后期补细节的分工。 本文贡献：DSAQuant 按去噪阶段切换监督目标：早期保持教师蒸馏以稳定全局结构与运动，后期逐渐转向目标驱动的细节重建；推理时在最后阶段关闭分类器自由引导，避免量化误差被 CFG 放大为高频伪影。方法同时覆盖 Wan 与 CogVideoX 系列。 实验效果：在 Wan2.1-1.3B 的 W4A4 设置下，DSAQuant 的 VBench 平均分为 67.21，高于 BF16 模型的 66.28 和 QVGen 对称量化的 63.56；在更激进的 W3A3 下，相对当时量化训练基线最高提升 6.60 分。 批判点评：论文重点验证生成质量，没有把端到端延迟、显存、能耗和不同硬件内核的实际收益放在同等位置；量化感知训练本身也有额外成本。后期关闭 CFG 可能改变文本对齐，需要在更广的提示与长视频任务上验证。 3. DM-Align：四步视频同时对齐与蒸馏 Joint Alignment and Distillation for Video Generation via Sample-Guided Distribution Matching | 清华大学、快手科技、哈尔滨工业大学（深圳）、北京邮电大学 | arXiv:2609.04283 关键词：视频生成,偏好对齐,分布匹配,少步蒸馏 ⚠️ 前序问题：视频生成的偏好对齐与少步蒸馏通常分成两段：先强化学习再蒸馏计算昂贵，先蒸馏再做强化学习又容易让模型坍塌。两段流程还要重复运行多步奖励评估，并在 ODE 与 SDE 轨迹间转换。 本文贡献：DM-Align 在一次分布匹配训练中同时叠加两种梯度：DMD2 梯度缩小真实模型与学生模型的分布差距，偏好梯度则利用成对偏好或组内探索，把生成分布推向人类偏好的样本。它把类似 DPO 与 GRPO 的信号写进同一训练目标，直接产出 4 次函数评估的视频模型。 实验效果：在 Wan2.1-T2V-1.3B、5 秒 832×480 视频上，组内模式以 4 NFE 得到 VBench 平均分 84.40、动态度 80.19；成对模式为 82.78。人工比较中，成对模式相对原模型净偏好提升 48%，相对单独 DMD2 提升 32%。 批判点评：实验集中在 1.3B 基模、5 秒 480p 视频，尚不足以说明长视频与更大模型也能稳定受益。样本引导仍依赖奖励或偏好数据，奖励偏差与奖励投机只是减轻，不能视为消失。 4. RA-GRPO：用反思轨迹稳定生成对齐 Step Back to Move Forward: Reflection-Aware Preference Optimization for Visual Generation | 清华大学、快手科技 | arXiv:2609.04282 关键词：偏好对齐,扩散模型,强化学习,奖励投机 ⚠️ 前序问题：生成模型用策略梯度对齐人类偏好时，探索常被局部最优牵引：奖励上升了，语义忠实度或真实感却可能下降。常规 GRPO 只从当前前向采样学习，很难主动修复已经偏离高概率数据流形的中间状态。 本文贡献：RA-GRPO 在训练中加入“向后反思”。Diffusion Reflection 在随机中间时刻用较弱估计器反演并校正潜变量，再由 Counterfactual Path Synthesis 把校正后的路径蒸馏回策略。反思只发生在优化阶段，因此部署时没有额外采样开销。 实验效果：在 FLUX.1-dev 与 HPSv2.1 提示集上，以 HPS 为奖励时，RA-GRPO 的 HPSv2.1、ImageReward、HPSv3 分别为 0.378、1.417、15.324，均高于论文复现的 DanceGRPO 与 MixGRPO；多目标 HPS+CLIP 训练也取得更均衡的自动指标。 批判点评：验证主要围绕 FLUX.1-dev、HPS 提示和自动奖励模型。弱估计器、指导强度与反思时刻的选择会影响稳定性；只看自动奖励仍可能漏掉新的投机模式，需要更大规模人工偏好与跨模型复核。 5. VoRTeC：用生成流做一步视频解码 VoRTeC: Taming Foundation Flow for One-step Real time Video Compression | 清华大学深圳国际研究生院、哈尔滨工业大学（深圳）、北京大学 | arXiv:2609.02291 关键词：视频压缩,流模型,实时解码,超低码率 ⚠️ 前序问题：传统神经视频压缩在超低码率下容易模糊，而扩散式生成压缩通常需要多步采样，难以实时运行。如何借用强视频生成模型的先验，又不复制其昂贵迭代过程，是部署瓶颈。 本文贡献：VoRTeC 冻结 Wan2.1 流模型，只训练紧凑潜码与轨迹位置预测器，用多尺度先验把一次解码对齐到生成流。跨帧组复用尾帧，并缓存生成先验，以降低连续视频的重复计算；训练不需要访问基础流模型的参数或梯度，可在单张 A6000 上完成。 实验效果：论文报告在相近感知质量下可节省 58.12% 至 73.25% 码率，并达到低于 0.01 bpp；推理相对多步生成压缩加速 3 至 197 倍，720p 达 13 fps、480p 达 32 fps。 批判点评：速度依赖具体显卡、分辨率与缓存条件，不能直接外推到移动设备。对取证、医疗、遥感等要求像素真实性的场景，生成先验可能引入不可接受的幻觉，需要独立的保真约束与错误标记。 6. Editable Visual Design：让视觉设计真正可编辑 Editable Visual Design | 腾讯混元、中山大学、清华大学、香港中文大学、上海交通大学 | arXiv:2609.04034 关键词：视觉设计,智能体,图像生成,HTML CSS ⚠️ 前序问题：文生图可以快速给出海报或信息图，但输出通常是一张扁平位图，文字、图标和布局无法继续精确编辑；纯代码生成又容易缺少视觉想象与审美反馈。 本文贡献：该系统让视觉语言模型充当创意大脑、图像生成器充当视觉世界模拟器，先想象整体效果，再把素材隔离为独立资产并用原生 HTML/CSS 重建文字、层级与布局。Agent Design Replay 学习专业设计轨迹，智能体通过截图反馈持续比较和修改。 实验效果：论文用海报、信息图、营销物料和长文本版式等案例展示：输出中的文字保留为真实文本，元素可以用鼠标拖动，图层与样式可继续修改。论文当前以定性案例证明可编辑工作流，没有给出可横向比较的统一量化分数。 批判点评：缺少大规模用户研究、任务完成时间和跨基线量化评测，使“更专业”仍难精确判断。流程依赖图像生成和代码智能体的能力，素材版权、网页代码安全与复杂版式的兼容性也需要产品级约束。 7. Temporal Context Routing：把脚本精确路由到时间轴 The Missing Temporal Link: Temporal Context Routing for Script-Driven Audio-Video Generation | 北京大学、Qwen Applications、香港科技大学、香港中文大学、上海交通大学 | arXiv:2609.02367 关键词：音视频生成,时间控制,脚本驱动,多模态生成 ⚠️ 前序问题：脚本驱动的音视频生成会同时处理镜头、对白、动作和音效，但全局文本条件不知道某条指令应该在哪一秒生效，常出现切镜过早、对白错位或动作与声音不同步。 本文贡献：Temporal Context Routing 先把脚本事件映射到音频与视频共享的时间轴，再将每段提示的引导信号只路由到匹配的时空位置。它给现有联合音视频模型补上显式时间链接，而不用让所有帧共同接受整段脚本。 实验效果：在 200 条测试脚本上，镜头边界平均绝对误差从 1.11 秒降到 0.042 秒，下降约 96%；对白在 0.5 秒容差内的准确率从 28.3% 提升到 84.1%，同时视觉质量与音画同步指标保持相近。 批判点评：实验规模仍有限，长叙事、重叠对白、快速多事件和镜头外音源会让路由更复杂。用户研究偏好不能替代对叙事连贯性与错误恢复的长期评估。 8. Unreal Engine World Data：用虚幻引擎规模化造数据 Building Pretraining Data for World Models: An Unreal Engine-Based Pipeline for Action-Conditioned Video Generation | Joy Future Academy、京东、清华大学、香港科技大学 | arXiv:2609.03557 关键词：世界模型,合成数据,虚幻引擎,动作条件视频 ⚠️ 前序问题：动作条件世界模型需要既有可控动作轨迹、又有高质量画面的长视频数据。直接在游戏引擎中边运行物理、边实时渲染，容易因帧率波动破坏动作与画面对齐，也难在数百 GPU 上稳定扩展。 本文贡献：作者把流程拆成两段：PIE 先按真实物理运行并记录角色、控制和相机状态，MRQ 再离线重放轨迹并高质量渲染。系统加入缓存感知的任务分片、节点槽位、场景筛选、亮度与审美过滤，以及失败恢复、上传和健康检查。 实验效果：在 25 台服务器、共 200 张 RTX 5090 上，系统从 2384 个资产包整理出 429 个关卡与 40 个类人角色，生成 2691 小时 1080p 和 6076 小时 720p 动作条件视频，并用于 EchoWM 数据建设。 批判点评：合成场景仍有引擎域偏差，审美和亮度过滤可能进一步删掉困难样本；资产许可、人物动作覆盖和 200 GPU 的成本也决定了复现门槛。数据规模不能替代真实世界验证。 9. Structured-Prior Inpainting：给交通标志注入物理先验 Structured-Prior-Guided Diffusion Inpainting with Physical Consistency for Traffic Sign Augmentation | 高德地图、阿里巴巴集团 | arXiv:2609.02348 关键词：图像修复,合成数据,交通标志,物理一致性 ⚠️ 前序问题：稀有交通标志样本不足，但普通文生图或修复模型容易生成错误文字、色彩和边缘。视觉上“像标志”还不够，训练检测器需要类别语义、模板几何与法规颜色都准确。 本文贡献：方法把三类结构先验送入扩散修复：JSON 语义提示描述类别，正视矢量图通过 IP-Adapter 提供测量颜色，仿射对齐的矢量模板通过 ControlNet 约束几何；训练再加入 CIELAB 颜色 L1 损失和 Sobel 边缘损失，强化物理一致性。 实验效果：在 TT100K2021 零样本测试中，OCR 完全匹配率为 91.1%，而 12B 参数 FLUX.1 Fill 为 44.2%；基于 SD1.5 的方案推理时间约为其十四分之一。把合成图加入训练后，稀有类别 AP50 提升到原来的 1.23 至 7.40 倍。 批判点评：公开验证集中在一种交通标志数据源，检测增益会受合成比例、地区法规、拍摄距离和天气影响。用于道路安全前，还需跨国家模板、夜间、遮挡和极端退化测试，并保留可审计的生成记录。 10. Pitch-class Steering：用潜空间探针控制旋律 Pitch-class Steering for Diffusion-based Music Generation via Latent-space Probes | 卡内基梅隆大学、独立研究者 | arXiv:2609.04516 关键词：音乐生成,扩散模型,旋律控制,潜空间探针 ⚠️ 前序问题：文本能描述音乐风格，却很难要求扩散音乐模型严格跟随指定旋律。重新训练完整模型或改架构成本高，而 MIDI 条件又不一定能直接接入现有生成器。 本文贡献：作者用配对音频与 MIDI 训练一个 12.5 万参数卷积探针，从 Stable Audio Open 的 VAE 潜变量逐帧解码音高类别。生成时冻结基础模型，把探针的可微损失作为引导信号，在每步去噪中推动潜变量靠近目标旋律，不修改生成模型结构。 实验效果：在 9 个提示词与 3 条旋律组成的 27 次试验中，引导生成的旋律一致性相对无引导基线提升 2.4 倍；Wilcoxon 检验给出 p<1e-5。论文已被 IEEE MLSP 2026 接收。 批判点评：27 次试验规模很小，统计显著不等于覆盖多样音乐风格。每步反向传播引导会增加推理开销，配对 MIDI 数据的偏差也可能限制泛化；还需听感盲测和更长曲目验证。 趋势观察 生成训练开始公开到数据与优化器层级 LLaDA-Image不仅开放权重，还披露2.2亿样本、纯图像预训练、Muon与少步蒸馏配方，竞争焦点正从模型接口转向可复现的完整训练系统。 视频部署优化必须贴合去噪阶段 DSAQuant按阶段分配量化监督，DM-Align把偏好对齐和少步蒸馏并成一次训练，VoRTeC则预测生成流位置完成一步解码；三者都在利用生成轨迹的内部结构减少成本。 显式控制信号重新进入生成链路 时间路由、交通标志模板与音高探针分别把时间、物理几何和旋律注入生成过程，显示开放式文本提示正在与可验证、可定位的结构条件结合。 人工智能炼丹君 整理 | 2026-09-08 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-04|港中深5秒训练撑起一小时世界推演-SolarWM 今日 AIGC 论文速览 今日共 10 篇 重点论文标题列表 SolarWM（香港中文大学（深圳）、SLAI、新加坡国立大学、香港中文大学、香港科技大学、香港科技大学（广州）、NVIDIA、UCLA、微软亚洲研究院）：5秒训练撑起一小时世界推演 SelfLift（清华大学、字节跳动）：少步扩散再砍41%延迟 f-loss（LIX 巴黎综合理工学院（CNRS, IP Paris）、AMIAD、LIGM 巴黎国立桥路学校、加州大学伯克利分校）：频域配平让收敛快40% MeRoPE（香港科技大学、卓驭科技）：大基线相机控制不再爆范数 GlyphAnchor（复旦大学、小红书、上海创智学院）：字形块锚定长文本渲染 今日论文速览 1. SolarWM：5秒训练撑起一小时世界推演 SolarWM: Open Data and Scalable Training for Long-Horizon Video World Models | 香港中文大学（深圳）、SLAI、新加坡国立大学、香港中文大学、香港科技大学、香港科技大学（广州）、NVIDIA、UCLA、微软亚洲研究院 | arXiv:2609.02886 关键词：交互式世界模型,长时序推演,多源数据引擎,骨干原生适配,分布匹配蒸馏,自回归因果模型,SolarWM 前序问题：把视频生成模型改造成可交互的世界模型，卡点其实不在骨干网络。论文点出的是一处「耦合」：一方面各个数据源彼此不兼容——时间尺度、相机几何、画质、运动幅度、字幕风格全都不一样；另一方面各家视频生成器用的表示和架构也不同。这两件事叠起来的后果是，天真地把数据混在一起、再为每个模型写一套专用实现，得到的监督信号是互相矛盾的，而且结果既难复现也难以互相比较。于是这个方向上大量工作看起来在进步，却无法判断进步来自数据、配方还是骨干。更具体的难题是长时序：交互式世界模型要求模型在用户持续操作下自回归地往前推演，而训练时能拿到的序列长度是有限的，如何让短序列训练出来的模型撑住远超训练窗口的推演，是这类系统真正的分水岭。 本文贡献：SolarWM 的回应是把上面那处耦合拆开，给出一个从数据准备一路到长时序推理的完整开放底座，具体是两件事加一套配方。第一是可重配置的多源数据引擎：它把来自 10 个数据集的 143 万个规范化片段转换成一份统一的、逐帧对齐的「契约」，内容覆盖视觉观测、度量尺度的相机几何、字幕、质量元数据、筛选决策以及来源出处；关键设计是把「单源处理」与「混合配比构造」解耦，这样调整数据配比不必重跑源处理。第二是骨干原生的适配框架：在共享的相机条件化、训练与推理接口之下，他们基于 Wan2.2、LTX-2.5 和 MiniMax-H3 实例化了四个 5B 到 33B 的模型，且刻意保留各自原生的表示与目标函数，而不是强行统一成一种写法——这正是让跨骨干结果可比的前提。第三是一套统一的三阶段配方：双向适配、教师强制的自回归初始化、以及分布匹配蒸馏。三者串起来把双向模型转成因果模型，从而支持实时交互。数据、管线、配方、权重与框架均开放。 Overview of the SolarWM-5B training pipeline and hour-scale inference results 实验效果：论文给出的核心结果是一个训练窗口与推演窗口之间的落差：模型只在 5 秒序列上训练，得到的因果模型却能在分钟级到小时级的推演区间内支持实时交互。附录里的定性证据分层给出——十秒级的域内第三人称结果、分钟级的域内不间断推演，以及从单张域外图像出发的分钟级自回归 rollout；最长的一组是小时级世界推演，从一帧真实初始观测出发、在一次不间断的自回归会话中稀疏采样直到 60 分钟端点，且场景提示词全程固定。跨骨干方面，四个 5B–33B 的模型（Wan2.2、LTX-2.5、MiniMax-H3 路线）在共享的相机条件化接口下均被实例化并给出双向预训练阶段的域外定性结果。 Hour-scale world rollout generated by the SolarWM-wan2.2-5B-fast causal student. Sparse frames are sampled throughout a single uninterrupted autoregressive session initialized with a real first frame from the held-out validation pool, spanning the initial observation to the 60-minute endpoint. The scene prompt remains fixed and the model follows a predetermined camera trajectory. 批判点评：这篇的价值主要不在某个新模块，而在它选择去修的那个东西——它把世界模型研究里「结果无法复现、无法比较」这件长期被容忍的事当成首要问题来处理，并且给出的答案是工程性的：一份逐帧对齐、连筛选决策和来源出处都写进去的数据契约，以及把单源处理与混合配比解耦的设计。后者尤其实在，因为调配比是这类研究里最高频的动作，能不重跑源处理就省下大量算力。保留各骨干原生表示与目标函数、只统一外层接口，也是个克制且正确的判断：强行统一写法会污染比较结论。三阶段配方本身（双向适配 → 教师强制自回归初始化 → 分布匹配蒸馏）不算首创，但把它固定成跨三个骨干都能跑通的统一收口，本身就是可复用的贡献。需要留意证据的形态：小时级推演目前靠定性 rollout 呈现，而长时序真正的难点——缓慢漂移、场景记忆是否退化、以及交互指令在几十分钟后是否还被正确响应——恰好是稀疏采样帧最不容易暴露的；这类主张更需要定量的漂移曲线来支撑。「实时」同样缺少帧率与时延的明确数字，而交互体验对这两个量极其敏感。还有一处值得追问：训练只用 5 秒序列却要推演一小时，跨越了四个数量级，分布匹配蒸馏在其中承担了多少稳定性、又在多长的时间尺度后开始失效，论文摘要层面没有给出边界。最后，143 万片段来自 10 个数据集，配比本身就是强超参，开放数据引擎让别人能复现这套配比，但配比是否接近最优仍是开放问题。总体上，把它当作一个可扩展的研究底座比当作一个性能主张来读更合适。 2. SelfLift：少步扩散再砍41%延迟 SelfLift: Accelerating Few-Step Diffusion via Self-Recovering Resolution Transition | 清华大学、字节跳动 | arXiv:2609.02036 关键词：少步扩散加速,渐进式分辨率推理,伪影风险图,pixel-VAE重编码,免训练修正,自蒸馏,SelfLift 前序问题：少步扩散已经把时间维度的计算压得很狠，于是每一次模型评估的空间开销就顶上来成了延迟主项。自然的下一步是渐进式分辨率推理：前期在低分辨率去噪，把高分辨率的算力留给后期精修。问题出在「升分辨率」这一下——既有做法通常把中间 latent 直接抬上去，然后指望后续去噪步骤自己把由此产生的分布错配吸收掉。这在多步的年代还行，但在少步这个预算下，可供恢复的步数本来就少，错配吸收不完，残留就直接表现为可见伪影。这构成一个连锁约束：因为伪影，切换点不敢放得太晚；而切换越早，低分辨率阶段占的比例越小，能省下的算力也就越有限。也就是说，加速比不是被算力上限卡住的，而是被「转换质量」卡住的。 本文贡献：SelfLift 的核心判断是修补信号不必外求，模型自己就能提供。它给出两档。第一档 SelfLift-zero 是免训练的「伪影感知一致性抬升」：把直接抬升 latent 的结果与经 pixel-VAE 重编码得到的结果做比较，两者的分歧同时承担两个角色——既是局部伪影风险的定位信号，又是模型原生的修正方向。论文的分析图指出这背后的机理：直接抬升会引入解码器可见的不一致，而 pixel-VAE 重编码提供的是一个更平滑但确实可达的锚点，朝这个锚点做修正就得到伪影更少的目标分辨率状态；同时它只在高风险区域做选择性修正，而不是全图均匀混合——均匀混合只能削弱重影和空间漂移，留下残余失真。这一档不需要外接超分模型、不增加去噪评估次数、也不改采样调度。第二档 SelfLift-rich 建立在这个更稳的转换之上，做「on-policy 自恢复」：在学生模型自己访问到的状态上，从一个内部自教师那里迁移密集的高分辨率指导，同时保持与被改变后的渐进式分辨率动力学对齐——论文的消融显示，改成 off-policy 蒸馏会产生模糊。 Overview of SelfLift. Given the predicted low-resolution clean endpoint, SelfLift-zero constructs a trajectory-preserving latent candidate and a VAE-reachable pixel anchor. Their consistency residual yields an artifact-risk map and adaptive weights for selectively correcting high-risk regions before re-noising. SelfLift-rich distills this correction into a lightweight latent lifter and performs on-policy recovery on student-visited states, using an EMA self-teacher for privileged high-resolution guidance and a dynamics objective to preserve the pretrained few-step trajectory. 实验效果：在 FLUX.2-Klein 与 Z-Image-Turbo 上，SelfLift 分别把端到端延迟降低 41.5% 和 44.1%。与时间步蒸馏叠加后，相对各自的 50 步模型给出 29.61× 和 19.21× 的整体加速，同时保持有竞争力的生成质量。定性一侧，论文在 FLUX.2-Klein-9b、仅 4 次函数评估（NFE）的激进加速设定下做了对比：Vanilla、RALU 与 Speed 出现严重伪影，MrFlow 靠一个更昂贵的外接超分模型改善了保真度，而 SelfLift-zero 通过模型原生的修正抑制伪影、SelfLift-rich 进一步恢复更丰富的细节。消融方面，转换策略消融用 CLIP-IQA 衡量清晰度、ImageReward 衡量提示对齐质量，并标出 SelfLift-zero 在清晰度与对齐之间取得最佳折中的工作点。 批判点评：这篇最好的地方是问题定位干净：它没有笼统地说「渐进式分辨率有伪影」，而是把因果链讲清楚了——伪影限制了切换时机，切换时机限制了加速比。一旦这样表述，优化目标就从「把伪影修掉」变成了「把切换点往后推」，这是一个更可操作的目标。用「直接抬升」与「pixel-VAE 重编码」两条路径的分歧同时充当风险图和修正方向，是个很省的设计：一次比较拿到两样东西，而且两样都来自模型内部，不引入外部超分这种既费算力又可能带来风格漂移的依赖。选择性修正而非全图均匀混合，也被消融证明是必要的——均匀混合只削弱而不清除重影与漂移。免训练档位的存在让它容易被采用，这在工程上比第二档更有价值。需要清楚几处边界。首先是数字的读法：41.5%/44.1% 与 29.61×/19.21× 基线不同，后者已经把时间步蒸馏的收益算进去了，单独引用容易夸大本方法的贡献。其次，摘要用「有竞争力的质量」而非「无损」，说明这是权衡；而这类方法的风险恰恰在高频细节和文字/人脸这类低容错区域，论文给的是 CLIP-IQA 与 ImageReward 这两个聚合指标，缺少针对细粒度结构的失败率分析。第三，SelfLift-rich 需要训练，且依赖一个内部自教师与 on-policy 采样，成本与实现复杂度都高于第一档，实际收益是否值得这份复杂度，取决于部署场景。第四，pixel-VAE 重编码本身也有开销，摘要强调不增加去噪评估次数，但重编码这条路径的代价在总账里占多少，值得在采用前实测。最后，两个验证骨干都是少步蒸馏模型，方法与「少步」这个前提绑得较紧，迁移到常规多步模型上是否仍有同等收益并不自明。 3. f-loss：频域配平让收敛快40% Balancing Frequencies and Pixels in Flow Matching | LIX 巴黎综合理工学院（CNRS, IP Paris）、AMIAD、LIGM 巴黎国立桥路学校、加州大学伯克利分校 | arXiv:2609.02748 关键词：flow matching,谱偏置,Focal Log-Frequency Loss,像素空间训练,收敛加速,损失替换,f-loss 前序问题：这篇处理的是一处几乎被当成常识、因此少有人清算的训练偏置。自然图像服从 1/f² 的谱分布：信号能量绝大部分堆在低空间频率，而纹理、边缘这些对观感真正重要的结构却分布在稀疏的高频带上。而像素空间的重建目标对所有空间误差一视同仁——于是低频凭借能量优势主宰了优化信号，细粒度细节的学习被一路往后拖。论文把这件事明确命名为「目标函数层面的谱失衡」，并指认它是像素空间 flow 模型训练效率低下的一个关键原因。值得注意的是这个诊断的位置：它不在架构里，也不在数据里，而在损失函数里——这意味着此前大量靠改架构来提升细节的努力，可能都在绕过真正的病灶。 本文贡献：对策分两层，都刻意保持简单。第一层是 Focal Log-Frequency Loss（f-loss）：一个在频谱上做过平衡的目标，把学习信号在各个频率之间拉平，从而突出那些在像素空间目标下被系统性低估的高频成分。第二层是一个训练策略，把频域监督与像素监督组合起来使用——训练早期先强调频域学习，好处是让模型把所有频率都先抓住；随后过渡到标准的像素空间 v-loss，专门做空间精修。这个先后顺序不是随手安排的：论文的收敛分析显示，频域损失在训练早期主导，而空间域损失在后期逐步追上，切换时机正是顺着这条演化曲线走的，作者的说法是让训练信号与模型不断变化的需求对齐。整套方法在概念上很朴素——不改任何架构，可以作为 flow matching 损失的直接替换（drop-in replacement）落地。 实验效果：在多个模型规模上，该方法把收敛速度提升最多 40%，同时持续改善 FID 与感知保真度。机理侧的证据分几层：谱分析显示仅用像素损失训练时，生成图像的功率谱相对真实图像存在系统性偏差——低频被高估、高频被低估；一个只含两个活跃频率的 MLP 玩具实验进一步显示，低频模式被迅速学到，而高频模式在整个训练过程中始终缺席。带通 FID 分析给出更细的画面：在低频和中频带上，两种损失最终收敛到相同的数值；差别出现在高频带——f-loss 在训练早期领先，随后基线一度追上，但 f-loss 在约 20 万步附近再度反超。定性一侧，早期训练阶段用 f-loss 生成的图像更早出现细腻纹理（如老虎条纹、茅草屋顶的干草），而基线在同期更偏向把物体边界画清楚（如帆船轮廓分明）。此外论文还报告了以墙钟时间为横轴的收敛对比，以及低/高频带上的平均幅值误差。 (Left) Images generated with our XL model at 256 resolution. Beware, 2 impostors (real images from the ImageNet training set) are hiding in these images. Place your bet on which ones they are and check the solution on page 10. (Right) FID vs. training epoch for an XL model. Our achieves faster convergence than JiT without requiring architectural modifications. 批判点评：这篇的诊断比方法更值得记住。把「细节学得慢」归因到损失函数对频率的隐含加权，而不是归因到容量或架构，是一次位置正确的归因——1/f² 是自然图像的统计事实，像素损失对空间误差的均匀对待则是实现上的默认选择，两者相乘就必然产出低频偏置。论文用两层证据把这条推理钉住：真实数据上功率谱的系统性偏差，以及只含两个频率的玩具实验里高频模式的完全缺席。后者尤其干净，因为它排除了容量不足这个替代解释。方法侧的克制也是优点：不改架构、可直接替换损失，这类改动的采用成本极低，而先频域后像素的两段式安排还有收敛曲线作为依据，不是拍出来的。带通 FID 分析是全篇最诚实的一段——它主动说明低频和中频最终会收敛到同一水平，优势集中在高频和更早的收敛时点，这比只报一个总 FID 要可信得多。几处需要留意。「最多 40%」是上界，跨规模的期望收益应当打折看；而高频段上基线中途曾追上、之后又被反超，说明这条优势并不单调，实际收益取决于训练预算落在曲线的哪一段。更实质的是适用范围：诊断成立的前提是像素空间训练，而当前主流做法大量在 latent 空间做 flow matching，latent 的谱统计与自然图像并不相同，这套配平能否平移过去，论文没有回答。还有 f-loss 引入的权重超参需要调（论文有相应消融），「drop-in」的说法在工程上仍有调参成本。最后必须提醒：源文件中带通 FID 与定性收敛这两张图的图注仍留着作者的「Placeholder / to be updated」字样，这是预印本未定稿的迹象，引用这两处时应当谨慎。 4. MeRoPE：大基线相机控制不再爆范数 MeRoPE: Metric Rotary Position Embedding for Camera-Controlled Video Generation | 香港科技大学、卓驭科技 | arXiv:2609.01252 关键词：相机可控视频生成,几何位置编码,保范数注意力,旋转位置编码,度量位移,对极视差先验,MeRoPE 前序问题：相机可控的视频生成普遍依赖几何感知的位置编码，把 token 条件在相机外参和逐 token 的视线方向上。论文指出这类方案有一个依赖尺度的失效模式，而且很具体：齐次投影式的编码会让注意力 logits 和特征范数随物理平移基线无界增长。翻译成实践语言就是——在真实的、以米为单位的相机轨迹上，相机走得越远，注意力分布和特征幅值就越容易失控。论文的动机实验把这个失效可视化了：沿一条直线轨迹，观察最后一帧中心 query token 对所有先前 key 帧的跨帧注意力质量分布，随着基线增大，既有方案会把越来越多的注意力质量分配给遥远的早期帧。这不是精度问题而是稳定性问题：编码本身在长距离下会扭曲注意力的结构，而自动驾驶这类场景恰恰全是大基线轨迹。 本文贡献：MeRoPE 的设计目标直接定在「保范数」上，三个部件各管一件事。第一，用正交旋转块编码标定视线之间的相对朝向——正交变换天然不改变向量长度，这是保范数的来源。第二，把原始的度量位移映射成多频旋转相位，也就是借 RoPE 的思路处理物理平移，而不是把位移当作可以无界增长的数值直接喂进去。第三，沿对极弧加一个视差锚定的对应先验，为跨帧的点对应提供几何约束。三者合起来的性质是论文明确主张的：严格保持特征范数、无论物理平移尺度多大都能限住 softmax 前的注意力 logits、并对全局刚体坐标变换保持精确不变性——最后这条意味着换世界坐标原点不会改变模型行为。论文还给出了这套编码的代数结构，把成对的 query-key 调制写成视差 MinRot、视线局部 MinRot、平移 RoPE 与原生 RoPE 四个块的正交直和，因此各部件互不干扰。 实验效果：论文在两个互补的数据集上验证：nuScenes 覆盖大基线轨迹，PanShot 覆盖多样的相机光学参数。结论是 MeRoPE 取得了比既有编码更强的相机控制，并且在旋转和平移两个维度上都达到了生成的相机运动与条件位姿之间的最佳一致性。定性一侧，论文在两个代表性 nuScenes 场景上给出三种指令轨迹（原始、左转、右转）下的结果，每行最左侧用鸟瞰图对照「指令路径」（实线）与「从生成视频中用 VGGT 恢复出的路径」（虚线），也就是说控制精度是通过反解生成结果来度量的，而不是自评。PanShot 一侧则跨越从针孔到鱼眼的相机光学范围，视场角与畸变从 (97°, 0.00) 到 (173°, 1.66)。此外论文报告了相机编码各部件的消融、架构与注入位置的消融、以及 query-camera 分组的计算开销（单块结果用一张 H20，整模结果用四张 H20 并匹配 15 个块的注入调度）。 Qualitative video generation under camera pose control. Visual results on two representative nuScenes scenes under three commanded trajectories (original, left turn, right turn). In each row, the leftmost plot displays the bird's-eye view of the commanded path (solid) and the path recovered from the generated video by VGGT-$\Omega$ (dashed), followed by generated video frames sampled at $t \in \{0, 16, 32, 48\}$. 批判点评：这篇的贡献形态是「把一个稳定性缺陷讲成可证的性质」，这比刷指标更耐读。它没有停在「大基线下效果变差」这种经验观察，而是指出了机制——齐次投影编码使 logits 与特征范数随物理平移无界增长，并用一张跨帧注意力质量图把失效形态摆出来：注意力被越拉越远的早期帧吸走。有了这个诊断，解法就有了明确的设计约束，即保范数；正交旋转块、把度量位移映射为多频旋转相位、以及沿对极弧的视差先验，三者都是服务于这个约束的手段而非拼凑。把成对调制写成四个块的正交直和，让各部件互不干扰，这种可分析的结构在位置编码这类基础组件上很值得。对全局刚体变换的精确不变性也是实用性质——它意味着换坐标原点不会改变行为，省掉一类隐蔽 bug。评测设计同样克制：nuScenes 管大基线、PanShot 管从针孔到鱼眼的光学多样性，两者互补而非同质堆叠；用 VGGT 从生成视频反解相机轨迹再与指令轨迹对照，比让模型自评要硬。需要注意的边界。第一，反解式度量把工具误差引进来了，VGGT 在大视场或强畸变下的精度本身就会波动，因此在 PanShot 的鱼眼一端，指标差异有多少来自生成、有多少来自反解，需要谨慎切分。第二，论文主张的是相机可控性上的领先，而不是视频质量的全面领先，这两件事在实践中会互相牵制——把位姿咬得更死通常要付出内容自由度的代价，摘要层面没有量化这个代价。第三，训练轨迹以前向主导走廊和大幅横向/转向机动为主，都是驾驶式运动，手持抖动、快速旋转这类分布未经检验。第四，保范数是个好性质，但它保证的是不发散，不等于注意力分配在语义上是对的；范数受控与对应关系正确之间仍有距离。最后，方法需要标定的视线与度量尺度的位姿作为输入，这在有标定的驾驶数据上不成问题，迁移到无标定的野外视频则是另一回事。 5. GlyphAnchor：字形块锚定长文本渲染 GlyphAnchor: Enhancing Visual Text Rendering via Position-Anchored Glyph Priors | 复旦大学、小红书、上海创智学院 | arXiv:2609.02349 关键词：视觉文字渲染,字形先验,位置锚定,扩散Transformer,分阶段SFT,文字感知后训练,GlyphAnchor 前序问题：把文字画准，至今仍是图像生成与编辑模型的老大难，尤其当目标里含有长文本、结构复杂的文本、密集排布的文本，或者生僻字。论文把已有路线归成两类并各指一处不足：一类靠更强的骨干和以数据为中心的训练来提升原生渲染能力，但不引入显式的字形先验；另一类引入了字形先验，却依赖专门设计，在上述这些困难场景下仍不够准确也不够稳健。也就是说，前者缺少关于「这个字长什么样」的直接信息，后者虽有信息但注入方式不够可靠。真正的难点在于文字渲染同时要求两件很难兼得的事：字形本身要正确（笔画级的精确），以及文字要落在图像里对的位置、对的透视和对的排布上。 本文贡献：GlyphAnchor 的做法是给骨干加一组轻量的「字形块条件」，而关键在于这些条件的位置是通过模型原生的位置编码锚定到目标图像上的——不是另起一套空间对齐机制，而是复用模型已有的位置表示，因此注入方式与骨干天然兼容。论文的架构图把这个设计说得更具体：提示词、可选的源图像、以及渲染出来的字形块图像各自被编码成 token 后拼接，送入文生图或图像编辑的扩散 Transformer 骨干；得到的字形块 token 被放进一个额外的条件帧里，形成一个「虚拟字形平面」，这个平面的坐标就锚定在目标图像的坐标系上。训练上分两步：先做分阶段的监督微调把这个能力建立起来，再用文字感知的后训练进一步提升稳健性。方法同时适用于文生图和图像编辑两种设定，并且论文强调它可以在多个骨干上生效。此外作者还提出 InfoTextBench，用于评测文本密集场景下的视觉文字渲染，生成与编辑两种设定都覆盖。 Overview of GlyphAnchor. Prompt, optional source images, and rendered glyph patch images are encoded into tokens and concatenated before a text-to-image or image-editing diffusion-transformer backbone. The resulting glyph patch tokens are placed in an additional condition frame, forming a virtual glyph plane whose coordinates are anchored to the target layout. 实验效果：论文在多个骨干与多个基准上做了实验，覆盖长文本、结构复杂文本、密集排布文本以及生僻字这几类困难场景，结论是 GlyphAnchor 持续改善文字保真度，同时保持整体图像质量。定性一侧，论文给出面向文本密集困难样例的对比（图注注明建议放大查看），并配了两组消融的定性结果：一组是位置锚定的消融，一组是分阶段监督微调的消融——两组都以视觉对比呈现。此外论文用 FireRed-Image-Edit-1.1 的样例来说明各项设计选择的动机。 Qualitative comparison on challenging text-rich cases. Best viewed with zoom. 批判点评：这篇的判断力体现在注入方式上。给扩散模型加字形先验并不新，难的是让「这个字长什么样」和「它该出现在哪」这两件事同时成立；很多方案在字形上做得细，却要另配一套空间对齐机制，结果引入新的失配。GlyphAnchor 选择复用骨干原生的位置编码来锚定字形块的位置，把字形块 token 放进一个额外条件帧、构成坐标锚定在目标图像上的「虚拟字形平面」——这个设计的好处是不与骨干的空间表示打架，也解释了它为何能在多个骨干上生效。条件保持轻量、训练分成「分阶段 SFT 建立能力 + 文字感知后训练提升稳健性」两步，也是符合工程直觉的安排：前者管会不会，后者管稳不稳。同时覆盖文生图与图像编辑两种设定，比只做其中一侧更有实用价值，因为真实需求里改字往往比从零生成更常见。需要留意证据的粒度。摘要层面给的是「持续改善文字保真度、同时保持整体图像质量」这样的方向性表述，没有具体的文字准确率数字或提升幅度；两组关键消融（位置锚定、分阶段 SFT）也以定性视觉对比为主，图注还提示需要放大查看，这意味着差异未必显著到一眼可辨。而文字渲染恰恰是最适合定量的任务之一——字符级准确率、词级准确率都是成熟指标，缺少这些数字会让「持续改善」难以校准。其次，InfoTextBench 由作者团队自建，用自家基准验证自家方法时，结论的说服力取决于该基准与既有基准的一致性，这一点需要在正文中确认。第三，「保持整体图像质量」是个需要警惕的表述：字形块条件本质上是往生成过程里塞入强先验，在文字区域之外是否引入风格或纹理上的副作用，值得看定量的图像质量指标而非只看示例图。最后，生僻字这一类的收益高度依赖字形渲染器的字体覆盖，这部分是方法外的工程依赖，实际落地时往往才是瓶颈。 6. CameraEditor：相机编辑改成时序预测 CameraEditor: Camera-Controlled Image Editing via Video-Prior Sequential Modeling | 西安交通大学、新加坡科技研究局（A*STAR） | arXiv:2609.01479 关键词：相机可控图像编辑,视频扩散先验,Chain-of-Frames,几何感知路由,全景裁切数据,ACM MM 2026,CameraEditor 前序问题：除了语义内容之外，相机参数其实决定了一张图的几何透视与外观。但现有图像编辑模型虽然在语义和风格操控上很强，一旦要求按相机参数做显式控制就暴露短板。论文把这个短板刻画成一个两难：面对大幅视角变化，指令驱动的模型要么出现结构撕裂，要么生成保守的结果、干脆无视几何指令。论文的动机图把失败拆得更细，指出三类典型问题：术语误解（把几何位移和语义变化混为一谈）、参数不精确（做不到按确切角度调整）、以及身份丢失（大幅视角变化下结构撕裂）。根子上的困难是，文本指令对几何量的表达本身是含糊的——「稍微转一点」既没有单位也没有参照系，而相机参数是精确的物理量。 本文贡献：CameraEditor 的关键一步是改问题的形式：把相机可控编辑从一个空间问题重写成时序预测问题，从而能借用视频扩散模型的时间连贯性作为先验。围绕这一步有三个部件。第一，配一个显式的几何感知模块，把几何量从文本的含糊中解放出来；论文的架构图说明推理时由一个路由机制通过 GeoCalib 选出最优的参考先验，以实现精确的视角对齐。第二，用动态全景裁切构造几何上严格的参考-目标对——这是数据侧的处置：全景图被参数化后裁切成参考-目标对，再经超分与视觉语言模型筛选，最后生成中间帧形成连续的时序序列；论文还单独用一张图展示了偏航、俯仰、翻滚、垂直视场角与径向畸变各自对裁切透视的影响。第三，也是最巧的一处：刻意插入中间过渡帧，把大幅视角变化分解成若干小步，为内容身份与空间连贯提供时间缓冲。论文构建了 5760 个训练实例，并作为独立贡献提出 CamEditor-Bench——一个与模型无关的评测套件，含 462 个测试用例。该文已被 ACM Multimedia 2026 接收。 Overview of CameraEditor. (a) Generation Pipeline: A video diffusion model generates the target Chain of Frames (CoF) sequence conditioned on the source image and reference visual sequence. (b) Dynamic Routing: A routing mechanism selects the optimal reference prior via GeoCalib during inference for precise viewpoint alignment. 实验效果：论文报告 CameraEditor 在相机控制精度与源身份保持两方面达到当前最优，优于既有方法。证据形态上，定性结果与几何误差图并排给出：每个方法的右侧面板分别显示 PF-I（上）与 PF-T（下）误差，暖色表示偏差更大，也就是说几何准确性是用透视场（Perspective Field）热力图来验证的，而非仅凭肉眼。扩展对比进一步显示，该框架在与目标相机几何对齐的同时，避免了标准扩散编辑中常见的身份漂移与结构幻觉。两组消融值得注意：一是相机感知模块的选择——随机路由或基于视觉语言模型的理解（Puffin 变体）给出的错误初始估计会导致灾难性的结构失真，而 GeoCalib 驱动的路由提供了稳健的几何锚点；二是中间过渡帧数量 N 的消融——直接单步生成（N=0）在大幅视角变化下出现空间撕裂与身份丢失，把 N 增加到 4、8、12 则提供了更强的连续几何先验。 Qualitative results alongside geometric error maps. For each method, the right panels display PF-I (top) and PF-T (bottom) errors, where warmer colors indicate larger deviations. 批判点评：这篇最值得学的是问题重述本身。相机可控编辑之所以难，是因为单张图的大幅视角变化本质上要求补出未观测区域，而这正是空间形式下最容易撕裂的地方；把它改写成时序预测，就把视频扩散模型积累的时间连贯性先验借了过来——这不是换个模型跑跑，而是换了一个更适配该困难的问题形式。顺着这条线，「插入中间过渡帧把大幅视角变化拆成小步」这个设计就变得顺理成章，而且消融数据支持得很直接：N=0 的单步生成出现撕裂和身份丢失，N 增到 4、8、12 则连续几何先验越来越强。用 GeoCalib 提供几何锚点、而不是让视觉语言模型去理解几何指令，同样是个有判断力的选择，消融里随机路由与 Puffin 变体导致「灾难性结构失真」是很有说服力的反证——它说明这类任务的瓶颈在几何估计的可靠性，而不在语言理解。用透视场热力图（PF-I/PF-T）来验证几何准确性，也比只给示例图硬。几处限制需要说清。首先，PF 是估计出来的量，用它当尺子意味着评测精度受估计器约束，在强畸变或大视场情形下这层不确定性会放大。其次，训练集只有 5760 个实例，且由全景图裁切构造——全景的几何分布天然受限（常见于特定拍摄设备与场景类型），因此对超出该分布的相机参数组合，泛化能力未经验证；CamEditor-Bench 的 462 个用例同为自建，自评成分需要读者自行折扣。第三，过渡帧是把双刃剑：N 越大几何先验越强，但推理成本随之线性上升，而论文摘要没给对应的时延数字，实际部署时这是必须先算清的账。第四，「源身份保持」在插入多帧过渡后仍是脆弱的——每一帧都是生成的，误差有累积的可能，而聚合指标不容易暴露偶发的严重失败。最后，方法依赖视频扩散骨干，继承了它的分辨率与时长约束，这在图像编辑这个本应轻量的场景里是一笔不小的开销。 7. LightBridge：3DGS重光照一次前向出结果 LightBridge: Feed-Forward Generative Relighting for 3D Gaussian Splatting | 中国科学技术大学 | arXiv:2609.02543 关键词：3D高斯溅射,可控重光照,前向推理,潜空间桥接扩散,高斯传播Transformer,多光照数据集,LightBridge 前序问题：3D 高斯溅射能做到高质量的实时新视角合成，但产出的资产有一个硬伤：光照是烘死在里面的，没法轻松重打光。已有路线各有代价。逆渲染方法为每个场景优化一套简化的反射率与光照模型，既限制效率也限制重光照质量——简化模型本身就装不下真实光照的复杂度。而近期的生成式方法借大型扩散模型做出了逼真的光照编辑，但要把它们用到 3DGS 上，通常还需要一个额外的逐场景优化阶段，把编辑后的外观重新烘回到表示里。也就是说，前者受限于模型表达力，后者受限于流程——每换一个场景就得再优化一次，这在资产量级上根本不划算。 本文贡献：LightBridge 的目标很明确：一次前向就完成完整 3DGS 资产的可控重光照，不做逐场景优化。为了能训练这样一个前向模型，作者先构建了一个大规模的多光照重光照数据集，为同一批场景提供成对的源观测与目标观测；论文展示了卧室与餐厅场景的样例——每列对应一种光照条件、每行对应一个匹配的相机视角，场景几何与相机位姿保持固定，只让光源状态、强度与颜色在列间变化，这种「控制变量」式的构造正是前向监督所需要的。方法本身有两个部件。第一是 Latent Bridge Relighting Diffusion：把重光照建模成潜空间里从源到目标的传输，从而能一步提取出 2D 视觉 token，不必做迭代式的扩散采样——这是省掉推理开销的关键。第二是 Gaussian Propagation Transformer：用一个点 Transformer，先做稀疏的图像到点自注意力、再做点到图像交叉注意力，把这些视觉线索高效地传播到完整的 3DGS 上，同时避免在所有图像 token 与高斯 token 之间做全注意力——后者在完整场景规模下是不可承受的。 Pipeline of LightBridge. The framework first uses Multi-Illumination Relighting Dataset for paired supervision, then extracts the 2D Visual Token with Latent Bridge Relighting Diffusion, and finally propagates it to the full 3DGS representation with Gaussian Propagation Transformer. 实验效果：论文的实验验证了上述设计，主张在具备竞争力的重光照质量之下，能够一次前向高效预测出完整的、已重光照的 3DGS 资产，且不需要针对场景的优化。定性一侧最关键的一组是在重光照视频轨迹之外的视角上做对比：每个样例从左到右依次是源 3DGS 渲染、由 GR3EN 优化出的表示所渲染的结果、以及 LightBridge 在同一相机位姿与同一目标光照下预测的重光照 3DGS 的渲染结果——选在轨迹外视角比较，正是为了检验重光照是否真的落进了 3D 表示而非只在训练视角上成立。此外论文给出了留出的餐厅与厨房场景上的视频重光照对比（每个结果沿共享的输入相机轨迹采样四帧），并用一张俯视图展示了某个代表性房间里六条局部相机轨迹的布置。训练侧的消融显示，高斯传播用目标潜变量与潜变量速度两种 token 训练时，速度 token 收敛更快，但两者最终损失接近。 Qualitative comparison at viewpoints outside the relighting video trajectory. From left to right, each example shows the source 3DGS rendering, the result rendered from the representation optimized by GR3EN, and the corresponding rendering from the relit 3DGS predicted by LightBridge under the same camera pose and target lighting. % Note that GR3EN fails to relight the scene whether the target light is visible (top row), as well as when it is not directly visible (bottom row) 批判点评：这篇的取舍很清楚，也因此值得读：它不追求重光照质量上的领先，而是把「免逐场景优化」这一条做成硬指标。这个选择是对的，因为生成式重光照真正的落地障碍从来不是单张图好不好看，而是每换一个场景都要再优化一轮——在资产规模上这条成本曲线根本压不下来。两个部件都服务于这个目标：把重光照建模成潜空间里源到目标的传输，从而一步取出视觉 token、免掉迭代采样；再用先「图像到点」稀疏自注意力、后「点到图像」交叉注意力的方式把线索铺到完整 3DGS 上，规避全注意力的组合爆炸。数据集的构造尤其体现方法意识：固定几何与相机位姿、只变光源状态/强度/颜色，这种控制变量式的成对监督正是前向模型能学到「只改光、不改结构」的前提。评测设计里最有判断力的一处是选在重光照视频轨迹之外的视角做对比——这直接检验重光照是否真的落进了 3D 表示，而不是只在被监督到的视角上成立，很多同类工作恰恰在这里含糊。需要看清几处边界。第一，摘要自己用的是「有竞争力的质量」，也就是承认这是以效率换相当质量；如果下游对光照真实感的要求高于对吞吐的要求，逐场景优化路线仍可能更合适。第二，数据集是作者自建的合成室内场景（卧室、餐厅、厨房这类），室内合成数据的光照统计与真实采集差距不小，而重光照恰恰高度依赖材质与间接光的真实性，因此室外场景与真实数据上的表现完全未知。第三，前向模型的可控性边界值得追问：它能处理的是「现有光源的状态、强度与颜色」这类控制，是否支持新增光源、改变光源位置或换成完全不同的光照环境，摘要没有说清。第四，一步式的潜空间传输省掉了迭代采样，但也放弃了扩散采样在质量上的调节余地——没有「多花几步换更好结果」这个旋钮，在困难样例上没有退路。最后，代码与数据集要等录用后公开，当前无法独立复核。 8. VibeVoice-ASR-Streaming：流式边听边分谁在说话 VibeVoice-ASR-Streaming Technical Report | 微软研究院、中国科学院大学、上海交通大学 | arXiv:2609.02812 关键词：流式语音识别,说话人归属,端到端统一建模,音频分块交错,前瞻音频,开源权重,VibeVoice-ASR-Streaming 前序问题：传统的说话人归属语音识别把「识别说了什么」和「分辨谁在说」当成两个独立任务串起来做。近期像 VibeVoice-ASR 这样的端到端模型已经把两者统一进单个模型，但仍有一处关键短板：这些统一模型主要支持离线识别，也就是要等音频结束才能出结果。这对实时语音助手和智能体是致命的——它们需要的是低延迟。于是问题变成：能否在保留「统一建模」这个优势的同时，把它做成流式？难点在于说话人归属天生带有全局性，判断「谁在说」往往需要参照整段音频里的其他片段，而流式意味着只能看到已经到达的部分。 本文贡献：VibeVoice-ASR-Streaming 是最早一批基于大语言模型的端到端流式说话人归属 ASR 方案之一。它的机制说起来很朴素：把固定大小的音频块、少量前瞻音频、以及此前已生成的文本三者交错编排在同一个自回归上下文里。论文的架构图给出了更精确的描述——语音块与说话人归属的文本块在单个自回归上下文中交错，每个块后面跟一段固定 L=4 帧（0.5 秒）的前瞻音频，然后才生成该块对应的文本。这个安排的效果是，模型可以在语音到达的同时产出「谁说了什么」，而不需要一个独立的说话人分离阶段——分离能力被吸收进同一个自回归过程里。前瞻窗口的存在是一处务实的折中：它用固定的 0.5 秒延迟代价，换取块边界附近判断所需的一点未来上下文。作者发布了 1.5B 与 7B 两个规模的模型权重以及推理代码。 Architecture of VibeVoice-ASR-Streaming. Speech chunks $X_k$ and speaker-attributed text chunks $Y_k$ are interleaved in a single autoregressive context, and each chunk is followed by a fixed $L=4$-frame (0.5 s) lookahead before its text is generated. 实验效果：识别精度方面，7B 模型在五个评测集上取得了最低的平均 WER/CER。说话人归属方面，在 13 个评测设定中的 12 个取得最佳或并列最佳。论文的对比图把范围说得更具体：与四个已部署的商用流式 ASR 系统在四个会议基准与 MLC-Challenge 上比较，其中 AliMeeting 与 AISHELL-4 用 CER 评估、AMI-SDM 与 AMI-IHM 用 WER 评估；MLC-Challenge 里日语和韩语用 CER、其余七种语言用 WER。为保证可比性，所有在线 API 的音频都按 2.9 秒的块流式送入，与本模型的块大小对齐。论文另外报告了单说话人识别结果，但明确说明这是作为一种类别检查而非竞争性主张来呈现的。 Recognition error of VibeVoice-ASR-Streaming-7B and four deployed streaming ASR systems on the four meeting benchmarks and MLC-Challenge. AliMeeting and AISHELL-4 are evaluated with CER, while AMI-SDM and AMI-IHM are evaluated with WER. For MLC-Challenge, Japanese and Korean are evaluated with CER and the remaining seven languages with WER; the reported value is the macro average over the nine evaluated languages. 批判点评：这篇的价值在于把一个已经被验证的统一建模思路推进到流式，而所用手段刻意保持简单——没有引入新的分离模块或额外的对齐机制，就是把音频块、少量前瞻音频、历史文本交错进同一个自回归上下文。这种「用上下文编排替代架构增补」的做法在大语言模型时代往往更稳，因为它不破坏预训练带来的能力。取消独立的说话人分离阶段是真正的收益：传统串联方案里分离阶段的错误会直接污染下游归属，而统一进自回归过程后这个误差传递链被砍掉了。固定 L=4 帧（0.5 秒）前瞻是个诚实的折中——说话人归属在块边界附近确实需要一点未来信息，明确标出这个代价比含糊处理要好。评测上把在线 API 的输入统一到 2.9 秒块以对齐自家块大小，是对可比性的主动维护，值得肯定；同时把单说话人结果明确降格为「类别检查而非竞争性主张」，这种自我限定在技术报告里不多见。开放 1.5B 与 7B 权重及推理代码，让结论可被独立复核。需要留意的地方。第一，两个头号数字都是聚合或近似全胜的表述——「五个集上平均 WER/CER 最低」不排除单个数据集上落后，「13 个设定中 12 个最佳或并列最佳」也明确留了一个未领先的设定，读的时候不宜简化为全面领先。第二，与商用系统横比先天不可控：对方的模型规模、内部延迟策略、是否使用更多上下文都不透明，块大小对齐只解决了输入侧的一个维度。第三，0.5 秒前瞻只是算法延迟下限，真实端到端时延还要加上 7B 模型的计算耗时，而报告未给出吞吐或实时率数字——对「实时语音助手」这个宣称的应用场景，这恰恰是最该给的数字。第四，说话人归属的全局性并未被消除而是被上下文长度约束了：随着会议时长增加，早期说话人身份能否稳定保持，是流式方案的经典失效点，需要按时长分层的结果才能判断。最后，多语言部分的语言分布不均，MLC-Challenge 上九种语言各自的样本量与难度差异会影响均值的解读。 9. Kirin：野外视频学出四足动物动作 Kirin: Animal Motion Generation from In-the-Wild Video | 伊利诺伊大学厄巴纳-香槟分校、宾夕法尼亚大学、斯坦福大学、剑桥大学 | arXiv:2609.01823 关键词：动物运动生成,野外视频重建,视频文本运动三元组,AiM3D数据集,图像条件化,自动绑定动画,ECCV 2026 前序问题：理解动物运动对建模动物行为与生物力学是基础性的，但这个方向的进展远远落后于人体运动研究，原因很直接：缺少高质量运动数据。人体运动可以在受控环境里用动捕采集，而对绝大多数动物物种这根本不现实——你没法给野生四足动物贴标记点。结果是现有数据集规模小、域受限，这又直接限制了动画等下游应用。这里的困境有点循环：没有数据就训不出运动先验，没有运动先验就只能靠人工逐帧调动画。论文选择的突破口是绕开采集这件事本身——既然受控采集做不到，那就从已经大量存在的野外动物视频里把运动重建出来。 本文贡献：Kirin 是一条从视频到可渲染动画资产的完整链路，包含重建、学习先验、生成三段。第一段是数据：利用大量野外动物视频重建出 3D 运动序列并配上字幕，构成 AiM3D——论文称其为首个为四足动物提供对齐的「视频-文本-运动」三元组的大规模数据集。重建这一步的做法是把问题拆开：借现成的 3D 四足动物重建方法和 3D 跟踪方法分别推断关节运动与全局位移，再把两者合起来得到最终的运动重建。这个拆分很关键，因为「身体怎么动」和「整体往哪走」在野外视频里的可观测性完全不同。第二段是模型：在 AiM3D 上训练一个视觉引导的运动生成模型，同时以文本和图像为条件——图像条件不是可选项而是有实质作用的，论文的消融显示在相同文本提示「一只动物在行走」下，不同输入图像会带来相应的骨架变化与步态差异，也就是说图像承担了「这是什么动物、身体比例如何」这部分信息。第三段是落地：借一个现成的图像到 3D 模型自动完成绑定与动画，把生成的运动直接套到 3D 网格上，产出可直接渲染的动物动画。该文已被 ECCV 2026 接收。 Left: Overview of Kirin generation pipeline. A text description and an image are provided as inputs. The text and image are used for motion generation, while the image is also used to generate a T-posed mesh. The animation module then rigs the generated motion onto the mesh to produce the final animated 3D model. Right: Overview of the motion generation architecture. Text features are extracted using a frozen DistilBERT encoder, and image features are extracted using a frozen DINOv3 encoder. The text, image, and denoising step embeddings are combined and fed into a transformer decoder with cross-attention to generate motion sequences. % annotate the notations in the figure, add subtitles for left and right parts, use darker gray color for arrows, texts are too small 实验效果：论文与两个基线做了定性对比，两组都直指对手的具体失效模式。与 Puppeteer 比的是网格动画：在相同的文本与图像输入下，Puppeteer 常常在输入网格上产生很小甚至没有运动，而本方法生成的动作会跟随文本提示。与 AniMo 比的是骨架运动：AniMo 只用文本，本方法同时以文本和图像为条件；AniMo 出现的失败包括运动不遵循提示词以及骨架形状不一致，而本方法产出的运动更真实。数据侧论文给出多层展示：动物关节运动的数据样例（每行左侧是两段运动的文本描述，随后是视频帧与对应的重建 3D 运动）、全局位移的可视化（把根关节轨迹投影到地面以显示整体位移）、以及数据集统计——各动物类别的视频数与帧数分布、以及全数据集上的运动类型分布（每个视频被赋予一到三个运动标签）。另有一组补充结果专门展示全局运动更显著的例子。 Visual comparison of generated mesh animation with the baseline. The left columns show the input text and image, which are used for both pipelines. Puppeteer often produces little or no motion on the input mesh, whereas our method generates realistic movements that follow the text prompt. 批判点评：这篇解题的思路很值得学：面对「受控采集在动物身上不可行」这个硬约束，它没有去改进采集，而是把已经海量存在的野外视频当成数据源，用重建把无标注视频转成运动监督。这一步走通了，整个循环就被打开了。重建阶段把「关节运动」与「全局位移」分开处理、再合并，是有针对性的设计——野外视频里身体姿态和整体位移的可观测性差别很大，混在一起估计容易互相污染。图像条件的引入也不是堆砌模态：消融显示同一句「一只动物在行走」配不同图像会产出相应的骨架与步态差异，说明图像承担了物种与身体比例这部分文本说不清的信息，这正是动物域比人体域更需要视觉条件的原因。最后接上现成的图像到 3D 模型自动绑定，把产物一路推到「可直接渲染」，让这项工作对动画流程有实际可用性，而不是停在骨架序列。两组基线对比也选得准，各自指向具体失效模式：Puppeteer 几乎不动，AniMo 不遵循提示且骨架不一致。需要清楚的是证据形态与数据性质。第一，摘要层面给的主要是定性对比和数据集统计，缺少定量指标——运动生成有成熟的评价手段（关节误差、足部滑动、用户研究胜率），没有这些数字时「更真实」难以校准。第二，也是更根本的：AiM3D 的「真值」是用现成的 3D 重建与跟踪方法从野外视频推断出来的，不是动捕级真值，因此数据里必然带有上游工具的系统性偏差，而在这份数据上训练的模型会继承这些偏差；这不否定其价值，但意味着它衡量的是「与重建结果一致」而非「与真实运动一致」。第三，覆盖面限定在四足动物，鸟类、鱼类等形态差异大的类别未涉及，而这些恰恰是动画中同样常见的需求。第四，野外视频的运动分布天然偏向常见行为（行走、奔跑），罕见动作与高动态动作的样本很可能稀疏，数据集的运动类型分布图应能反映这一点。最后，自动绑定这一环依赖外部图像到 3D 模型，其网格质量与拓扑会直接决定最终动画的可用性，这部分不在本文的控制范围内。 10. RIG-BENCH：2000题测生成模型会不会推理 Thinking in Pictures: A Systematic Benchmark for Reasoning-driven Image Generation | 伊利诺伊大学厄巴纳-香槟分校、纽约大学 | arXiv:2609.02864 关键词：推理驱动图像生成,统一生成模型,评测基准,视觉推理,推理生成落差,世界模拟器,RIG-BENCH 前序问题：统一生成模型和世界模拟器在视觉感知与合成上已经拿到了前所未有的结果，但论文指出这些模型主要依赖表层的事件对齐，高层视觉推理的能力基本没被认真考察过。作者提出的判据是「Reasoning-to-Generation」——真正的视觉生成智能应当能从视觉输入里推断出隐含规则，然后把解答以精确的、受逻辑约束的视觉结果呈现出来。注意这个要求比常见的「按提示词画对」严格得多：它不是考察模型能否理解描述，而是考察模型能否在没有被告知规则的情况下自己找出规则，并且把找出来的规则正确地画出来。这两步任何一步断掉，结果就不成立，而现有基准基本不区分这两种失败。 本文贡献：RIG-BENCH 的贡献是把上面这个能力做成可系统评测的东西，覆盖四个认知负荷较高的域：基于概念、基于变换、模式与结构、以及基于场景，共 2000 个精选样本。论文的数据总览图说明了每类题的构造：每个条目提供视觉上下文（输入/上下文）加一张未展示的真值图像（GT Target），模型必须从视觉上下文推断出正确答案并以图像形式产出。评测流程分三步且刻意收紧了口径：第一步「源任务接口」，从已建立的视觉推理基准里取「图+题+选项」，经人工改写成「图+提示词+无选项」——抹掉选项是关键，因为一旦给选项，任务就退化成选择而非生成；第二步「统一生成协议」，被选模型接收上下文图像加提示词，直接生成答案图像；第三步「打分与报告」，把生成图与真值图的比较同时交给三条路径：裁判模型评分、自动指标（DINO、CLIP-I、LPIPS、FID）、以及人工 rubric 与人类手绘答案的对照，最后汇总成总分。2000 个样本进一步被拆成四大任务族之下的十一个细粒度子任务。 End-to-end pipeline of RIG-Bench. (1) Source Task Interface: items are drawn from established visual reasoning benchmarks and manually re-cast with an image-based output prompt (no options exposed to the model). (2) Unified Generation Protocol: selected models receive the context images plus the prompt and generate the answer image directly. (3) Scoring and Reporting: each generation is compared against the ground-truth image using both an LLM judge over a hand-written rubric and automatic perceptual metrics, with an additional human study for calibration. 实验效果：论文对当前最先进的统一生成模型以及图像/视频生成模型做了广泛评测，核心结论是存在显著的「推理-生成落差」：模型经常产出局部看起来合理、但全局逻辑不成立的输出。结果呈现上，论文给出九个生成模型在各子任务上的评分对比，并用线型区分模型类别——实线为闭源商用图像生成器、虚线为开源图像生成器、点线为视频生成器，因此可以看出这个落差是跨类别普遍存在还是集中于某一类。论文还做了用户研究（附带评测界面截图），并给出开源模型、闭源商用模型与视频生成模型各自的补充定性样例。作者将 RIG-BENCH 定位为一个诊断框架，用于引导下一代逻辑上更有依据的统一生成模型与世界模拟器的发展。 Distribution of the $2{,}000$ samples in RIG-Bench. % The inner ring summarizes the four task families; the outer % ring breaks them down into eleven fine-grained subtasks. 批判点评：这篇把一个含糊的担忧变成了可测量的东西，这是基准类工作最该做的事。「模型只是在做表层事件对齐」这句判断在圈内流传已久，但缺少能证伪它的题目；RIG-BENCH 给出的定义相当锋利——从视觉输入推断隐含规则，再把解答画出来，两步都要成立。协议设计里最有判断力的一处是抹掉选项：一旦给出选项，任务就从「生成」退化成「识别 + 挑选」，而这恰恰是很多多模态评测无意间放水的地方；改写成图像输出、隐去选项，才真正逼模型把推理结果落到像素上。四大任务族下再分十一个细粒度子任务，让失败可以被定位到具体的推理类型，而不是只得到一个总分。打分环节没有偷懒地只用一种尺子，而是让裁判模型、自动相似度指标与人工 rubric 三路并行，这在生成式评测里是必要的冗余。用线型区分闭源图像生成器、开源图像生成器与视频生成器，也是有意为之——它让读者能判断「推理-生成落差」是全行业共性还是某类架构的问题，这比一张排行榜有用得多。「局部合理、全局不成立」这个失败刻画本身就很有价值，它指向的是生成模型缺少全局一致性约束，而非缺少局部保真度。需要注意几处。第一，这是诊断而非解法，它告诉我们模型不会推理，但没有给出为什么不会——是推理能力缺失，还是推理正确却无法用像素准确表达，这两种解释后果完全不同，而现有打分方式很难把它们分开。第二，题目由既有视觉推理基准人工改写而来，因此难度分布、覆盖偏好乃至潜在的数据污染都从源基准继承，某些模型在预训练中见过相关题型的风险无法完全排除。第三，自动指标这一路（DINO、CLIP-I、LPIPS、FID）本质上度量的是与真值图的视觉相似度，而很多推理题的正确解在视觉上并不唯一，这会系统性压低分数、可能夸大所谓落差；论文用裁判模型与人工 rubric 来平衡，但三路分数如何加权、彼此一致性如何，摘要层面没有交代。第四，摘要没有给出各模型的具体分数与排名，「显著落差」的量级因此难以判断。最后，作为诊断框架，它的长期价值取决于是否被后续工作当作优化目标；而一旦被当作优化目标，隐含规则类题目又特别容易被针对性拟合，这是所有此类基准都要面对的宿命。 趋势观察 长时序世界模型的瓶颈已经从「架构」挪到了「数据契约」和「训练配方」 — 今天最值得读的是 SolarWM。它有意思的地方不在提出某个新模块，而在于承认了一件行业里心知肚明却少有人正面收拾的事：世界模型这条线上，真正拖慢进展的不是骨干网络不够强，而是各家数据的时间尺度、相机几何、画质、运动幅度、字幕风格全都不一样，各家实现又绑死在自己的模型上，于是监督信号互相矛盾、结果无法复现也无法比较。SolarWM 的回应是把 10 个数据集的 143 万个片段压成一份统一的、逐帧对齐的「数据契约」——视觉观测、度量尺度的相机几何、字幕、质量元数据、筛选决策、来源出处全部在同一份规格里，并且刻意把「单源处理」和「混合配比」解耦，这样换配方不用重跑数据。在这套共享的相机条件化与训练/推理接口上，他们基于 Wan2.2、LTX-2.5、MiniMax-H3 实例化了四个 5B–33B 的模型，且保留各自原生的表示与目标函数，再用一套三阶段配方（双向适配 → 教师强制的自回归初始化 → 分布匹配蒸馏）统一收口。结果是：只在 5 秒序列上训练，得到的因果模型却能做到分钟级到小时级的实时交互推演。这个「训练窗口极短、推演窗口极长」的落差，是今天这批工作里最值得注意的一处。 往下看，加速这条线今天出现了训练侧和推理侧的双响。SelfLift 处理的是少步扩散里一个具体到有点刻薄的矛盾：当时间步已经被压到个位数，每次前向的空间开销就成了延迟主项，于是大家改用「先低分辨率去噪、后期再升到高分辨率」的渐进式推理；但既有做法把中间 latent 直接抬上去，指望后续步骤自己吸收掉分布错配——在少步这个预算下根本吸收不完，残留就是可见的伪影，反过来又迫使切换点必须提前，加速比因此上不去。SelfLift 的解法是让模型自己当医生：直接抬升的 latent 与经 pixel-VAE 重编码的 latent 之间的分歧，既当作局部伪影风险图，又当作模型原生的修正方向，全程不需要外接超分、不加去噪评估、不改采样表。在 FLUX.2-Klein 和 Z-Image-Turbo 上端到端延迟分别降 41.5% 和 44.1%，叠加时间步蒸馏后相对 50 步模型是 29.61× 和 19.21×。f-loss 则从训练目标动手，指出了一处几乎被当成常识而无人清算的偏置：自然图像服从 1/f² 的谱分布，能量绝大部分堆在低频，但纹理和边缘这些真正影响观感的结构却占据稀疏的高频带；而像素空间的重建损失对所有空间误差一视同仁，等于让低频主宰了优化信号、把细节的学习一路往后拖。它的处置很朴素——先用一个跨频率均衡的 Focal Log-Frequency Loss 把各频段的学习信号拉平，训练后期再切回标准的像素 v-loss 做空间精修，不改架构、可直接替换原有 flow matching 损失，多个模型规模上收敛最多快 40%，FID 与感知保真度同时改善。这两篇一个改推理、一个改训练，但共同点是都没有加参数，而是去修正「信号分配」本身。 相机可控这条线今天也有两篇互为镜像的工作。MeRoPE 指出既有几何位置编码有一个依赖尺度的失效模式：齐次投影式的编码会让注意力 logits 和特征范数随物理平移基线无界增长——也就是说，在真实的、以米为单位的相机轨迹上，走得越远越容易崩。它的对策是保范数：用正交旋转块编码标定视线之间的相对朝向，把原始度量位移映射成多频旋转相位，再沿对极弧加一个视差锚定的对应先验，从而严格保住特征范数、把 softmax 前的 logits 限住、并对全局刚体坐标变换保持精确不变性。CameraEditor 面对的是同一个物理量在图像编辑侧的表现：现有编辑模型擅长语义和风格，一旦要求按相机参数做大幅视角变化，就在「结构撕裂」和「保守到干脆无视几何指令」之间二选一。它的做法是把这个空间问题改写成时序预测问题——借视频扩散的时间连贯性，配一个显式几何感知模块和动态参考路由，用动态全景裁切构造几何上严格的参考对，再刻意插入中间过渡帧把大幅视角变化拆成小步，给身份一致性留出时间缓冲；该文已被 ACM Multimedia 2026 接收。 剩下几篇各自补齐一块拼图，但有一条隐线值得点出：它们都在把「一次前向就出最终产物」当作目标。LightBridge 让 3DGS 重光照不再需要逐场景优化，单次前向直接吐出完整的可重光照 3DGS 资产；GlyphAnchor 用轻量字形块条件、且位置通过模型原生位置编码锚定到目标图像，去救长文本、密排文本和生僻字的渲染；VibeVoice-ASR-Streaming 把「谁说了什么」做成流式，靠交错固定长音频块、少量前瞻音频与历史文本，取消了独立的说话人分离阶段；Kirin 把野外动物视频重建成 3D 运动并配上字幕，做出首个四足动物的视频-文本-运动三元组数据集。最后 RIG-BENCH 给这一天留了个刹车：它用 2000 道题去考「从视觉输入推断隐含规则、再把解答画出来」这件事，结论是当前统一生成模型普遍存在推理-生成落差——局部看着合理，全局逻辑不成立。把它和开头的 SolarWM 放在一起读会更清楚：我们已经能让模型把世界推演一小时，但还没能确保它推演的那一小时讲得通。 人工智能炼丹君 整理 | 2026-09-04 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-02|阿里7B原生音视频生成硬刚33B大模型-DreamX 今日 AIGC 论文速览 今日共 10 篇 · 原生音视频联合生成与 2K 高清化 1 篇 · 交互式世界模型的记忆与几何一致性 2 篇 · 推理期物理与质量增强，不改权重 3 篇 · 扩散推理加速：token 压缩与区域复用 2 篇 · 像素空间生成范式与端到端隐空间 2 篇 · 工业级细节保真与 RL 后训练 1 篇 重点论文标题列表 DreamX-Creator（阿里巴巴 DreamX Team）：7B原生音视频联合生成打到2K Matrix-Game 3.5（昆仑万维 Skywork）：把世界记忆细到patch级3D云 OMR（越南 Fulbright 大学 + 加州大学洛杉矶分校（BMVC 2026））：用冻结V-JEPA梯度纠物理违背 ShellGame（首尔国立大学 + Roblox）：视频世界模型追不住隐藏状态 GEARS（北京大学 + 阿里巴巴（ACM TOG / SIGGRAPH Asia 2026））：把丢掉的候选诊断修复再利用 今日论文速览 1. DreamX-Creator：7B原生音视频联合生成打到2K DreamX-Creator: Democratizing Native Audio-Video Generation at 2K Resolution | 阿里巴巴 DreamX Team | arXiv:2608.31106 关键词：原生音视频联合生成,门控跨模态注意力(Gated Cross-Modal Attention),2K自回归精修,音视频强化学习,阿里巴巴,DreamX-Creator 前序问题：现在的视频生成器对声音的处理基本是两种姿势：要么干脆不生成音频，要么先把视频做完、再拿另一个模型去配音。这两条路都切断了视觉动态与声学事件之间的互相建模——画面里杯子落地的那一帧和「啪」这一声本该是同一个物理事件的两个投影，级联管线却只能让后者去追前者，声音沦为画面的附属品，而不能反过来约束画面。真正的原生联合生成又有另一重现实障碍：可用的开源方案要么规模很大（33B 量级），要么不开放权重，导致这个方向的研究门槛被模型尺寸和可得性顶住了。于是问题变成一个很具体的工程判断：能不能在 7B 这种「一张卡装得下」的尺度上，把音频与视频真正放在同一个去噪过程里联合建模，同时还要覆盖 2K 这种实用分辨率？难点在于两个模态的表示、时间尺度和信息密度差异都很大，一上来就全程共享参数容易互相拖累，而完全独立又回到了级联的老问题。 本文贡献：DreamX-Creator 1.0 的核心判断是：耦合不必从第一层开始，但必须细到 token 与 head。它以一个 7B 生成器为中心，条件是首帧加文本提示，然后让模态专用的音频流与视频流联合去噪——网络前一半两条流完全独立处理（此处没有跨模态残差），后一半才通过 Gated Cross-Modal Attention 双向耦合：A2V 与 V2A 两个方向各有一路门控交叉注意力，门作用在每个激活的跨模态注意力头的输出上，且是 token 级与 head 级的，等于让模型自己学「这一帧、这个头到底要不要听对面模态」，两条流之间还共享文本编码器与时间坐标系。数据侧配了统一的 Audio-Video Data System，负责构造并过滤时间上连贯的片段、产出结构化多模态标注，并把片段按能力维度组织成数据池。训练走渐进式联合训练：两个音视频预训练阶段之后接高质量微调。再往后是 Audio-Video Reinforcement Learning，用 Modality-Aware Multimodal Feedback 把视频侧、音频侧和跨模态的反馈分别路由回对应的流。高分辨率不靠原生 2K 训练，而是一条自回归 1 步 2K 精修管线。 auto 实验效果：论文用盲测的双人对比给出了最有说服力的结果：面对参数量远大于自己的开源与闭源系统，7B 的 DreamX-Creator 在视频质量上对 Wan2.7 拿到 45.5% 胜 / 13.1% 平 / 41.3% 负，对 KLing v3 是 48.8% 胜 / 10.6% 平 / 40.7% 负，对 33B 的 MiniMax-H3 是 39.5% 胜 / 18.7% 平 / 41.8% 负——也就是说在纯视觉观感上它已经和这些系统在同一量级上互有胜负。但短板同样被论文自己摆了出来：音频质量对 MiniMax-H3 只有 23.7% 胜而 45.5% 负，对 Wan2.7 是 29.3% 胜 / 43.4% 负；文本-视频对齐（TV-Align）对 MiniMax-H3 仅 15.2% 胜、53.0% 平、31.7% 负。相对 LTX-2.3 与 MiniMax-H3 的自动指标里，它在部分维度落后但在 PQ（6.7169 vs 6.4094）与 IB（0.3081 vs 0.2677）上占优。 auto 批判点评：这篇最扎实的贡献是把「原生联合」从一个规模问题重新框成了架构问题：前一半独立、后一半门控耦合，本质上承认了音频和视频在低层特征上没什么可共享的，真正需要交互的是语义与事件层面，而 token 级 + head 级门控又把「什么时候交互」交给数据决定而不是人手设计。这个设计让 7B 有机会在视觉质量上和 33B 掰手腕，是有说服力的。1 步 2K 精修的分工也务实——把分辨率从训练成本里剥离出去。但要注意几个真实的边界。第一，音频侧的差距不是小瑕疵而是结构性的：对 MiniMax-H3 的音频质量只有 23.7% 胜率，几乎是一半场次输掉，这说明「让音频流分走一半参数」在 7B 尺度上给音频留的容量确实不够，门控耦合能改善同步但补不了音质本身。第二，TV-Align 上 53% 的高平局率值得警惕，这往往意味着评测者难以分辨差异，此时胜率的含义会被稀释，用它论证提示遵循能力偏弱说服力有限。第三，2K 是精修出来的而不是生成出来的，那么 2K 尺度上的细节是模型「知道」的还是精修器「补」的，论文没有拆开——如果是后者，2K 的语义正确性并没有得到额外保证。第四，机构与贡献者名单在源码里写着「将随公开版本最终确定」，也就是说这仍是一份技术报告状态的工作，权重是否真开放、开放到什么程度，决定了标题里 Democratizing 这个词能兑现多少。 2. Matrix-Game 3.5：把世界记忆细到patch级3D云 Matrix-Game 3.5: Enhancing Real-Time Streaming Interactive World Models with Patch Memory | 昆仑万维 Skywork | arXiv:2608.29910 关键词：交互式世界模型,patch memory,tiled PRoPE,静态动态解耦,渐进式长程蒸馏,单卡720p实时20FPS,昆仑万维 前序问题：交互式世界模型要做的事情比视频生成难一个量级：它必须以闭环自回归的方式生成未来观测，同时响应相机运动、用户动作和高层提示。麻烦在于自回归会把自己的预测当成后续的上下文，视觉与几何误差因此持续累积，场景逐渐漂移、身份不再一致、可控性退化。有限的上下文窗口又意味着模型无法直接访问远处的观测，所以「回到之前去过的地方」这件事越往后越难；大幅视角变化时，模型不仅要检索到相关的历史信息，还得判断这些信息在当前相机下的正确几何对应位置。更棘手的是持久性与演化的张力：静态环境应当长期保持不变，动态实体却要随用户交互和提示而变化——一刀切地「全部记住」或「全部重新生成」都不对。既有方案的分歧其实在于历史观测以什么单位存储：压缩成 latent token 或 transformer memory 的路线高效但只是隐式表示；按整帧存储再用相机几何检索（Context as Memory、WorldMem、Matrix-Game 3.0）能靠显式空间线索改善场景重访，但一帧是不可分割的记忆单元，只能整体取出、且只能从它原本的视角取出；显式重建成点云或 splat 则几何约束强但难以合成未观测或新出现的内容。 本文贡献：Matrix-Game 3.5 的核心想法是把历史观测组织成显式的、几何感知的持久记忆，粒度落在图像 patch 而不是整帧或压缩 latent。统一的几何感知记忆框架由两部分组成，且 patch-memory 与 tiled-PRoPE 都不引入任何额外可学习参数：patch memory 把历史图像 patch 用度量深度加相机内外参反投影到一个共同的 3D 空间形成 patch 云，目标相机视锥去查询这个云，并在目标视角下用 z-buffer 为每个 latent 位置只保留离相机最近的表面、丢弃被遮挡的候选，最后把选中的 patch 散射进一张对齐目标视角的记忆画布；tiled PRoPE 是作者对 PRoPE 的视频化改造，在检索到的记忆与目标视角注意力之间建立显式几何对应，与原生 RoPE 在同一个注意力核里协同——温和到直线行走时注意力图相对纯时序核的最大变化仅约 1.3%。动态建模上，用运动感知的物体过滤把静态场景观测与动态主体分开，静态区域融进 patch memory，动态主体用轻量的多视角参考 token 表示，配合上下文遮罩与辅助训练损失抑制鬼影和身份漂移。最后是渐进式长程蒸馏：先用教师强制的 Perceptual Flow Matching 得到高质量少步因果初始化模型，再用 self-rollout DMD 直接优化推理时的自回归过程，按课程逐步蒸馏无分类器引导、相机控制与记忆条件化生成。 auto 实验效果：训练数据来自 Unreal 仿真环境、开放世界游戏与互联网视频三类来源，论文报告模型在长程场景回忆、几何一致的相机控制、主体一致性生成、提示驱动的世界演化，以及稳定的开放世界实时交互上都取得了不错的表现，实测能力是单张 GPU 上 720p 分辨率最高 20 FPS 的实时生成。定性结果里最能说明问题的是参考 token 的消融：在其他条件完全固定、只切换有无参考 token 前缀的匹配 rollout 中，取第 300–400 帧来看，加入参考条件后相机运动下的身份与外观漂移明显减少——而且论文特别说明参考帧只取自因果可得的初始化与历史，真值帧仅作视觉比对用、从不喂给模型。tiled PRoPE 的分析图则显示它在保留时序带状结构的同时奖励位姿相似性，两种机制在一个注意力核里并存而非互相干扰。 auto 批判点评：这篇的判断力体现在选对了「记忆单元」这个变量。整帧检索的问题不在于存得少，而在于一帧是原子的——你只能把它整体搬过来，且只能沿它原来的视角看，视角一变这份记忆就半废。降到 patch 粒度之后，记忆天然变成可按可见性筛选、可按几何重排的东西，z-buffer 那一步等于把遮挡推理直接做进了检索里，这比让注意力自己去学遮挡关系要可靠得多。更值得称道的是 patch-memory 与 tiled-PRoPE 都不加可学习参数，这让它有机会作为一个通用组件接到别的骨干上，而不是又一个只能整体接受的架构。静态动态解耦也切中了实际痛点：长程 rollout 里最难看的失败恰恰是本该不动的墙在漂、本该保持身份的角色在变脸。但局限也很清楚。第一，整套机制吃深度和位姿：patch 要靠度量深度反投影、要靠相机内外参对齐，那么深度估计误差和位姿噪声会直接变成记忆里的几何错位，论文没有给出这条链路的敏感性分析——在真实互联网视频这类位姿本就不准的数据上，这个风险不小。第二，persistent 3D patch 云是会一直长的，论文强调了组件不加参数，但没说清内存与检索代价如何随交互时长增长、有没有淘汰策略，而这恰恰是「长程」的成本核心。第三，静态与动态的二分依赖运动感知过滤器，那些介于两者之间的东西（缓慢变化的光照、被推动后停下的物体）落在哪一侧并不明确，分错的代价是鬼影或不该有的持久化。第四，作为技术报告，缺少与同类记忆方案的统一定量对比，20 FPS 也只是单一配置下的数字，读者难以判断这套机制相对整帧检索的净收益到底有多大。 3. OMR：用冻结V-JEPA梯度纠物理违背 Off-Manifold Refinement: Guiding Video Generators with a Frozen World Model | 越南 Fulbright 大学 + 加州大学洛杉矶分校（BMVC 2026） | arXiv:2608.29904 关键词：推理期物理修正,V-JEPA 2.1意外度能量,单轨迹梯度注入,训练无关,Wan2.2,Physics-IQ,BMVC 2026 前序问题：现在的视频生成器在物理动力学上会犯很低级的错：物体悬在空中、轨迹违反重力、接触关系凭空消失。根子在于目标函数——标准的去噪与流匹配目标拟合的是视觉数据分布，它并不显式惩罚这类物理违背，画面只要看着像训练数据里的样子就够了。既有的补救办法都能改善物理一致性，但代价通常不小。候选选择类方法要生成多个视频再逐个打分，算力开销随候选数线性上涨；基于梯度的世界模型引导需要反复解码再重新编码中间估计，每一步都过一遍 VAE；生成器内部的精修方案要加扰动再重新去噪的循环；而后训练路线则要准备精选数据并额外做一轮优化，成本最高也最不灵活。于是留下一个很实际的缺口：能不能在完全不动模型权重、不生成多个候选、也不反复解码的前提下，把「这个片段物理上不合理」这个信号送进采样过程？ 本文贡献：作者提出 Off-Manifold Refinement（OMR），一种推理期方法，把世界模型的反馈直接注入单条采样轨迹，而不是在多条轨迹之间做选择。具体做法是在计划好的中段 ODE 步上，给生成器的速度场加上一项梯度——来自 adapter 空间里 V-JEPA 2.1 的「意外度能量」（surprise energy）。V-JEPA 有一个编码器和一个从可见上下文预测被遮挡未来嵌入的预测器，它在真实视频上训练出的这套目标提供了一个关于「合理时间延续」的学习先验：物体应当持续存在、运动应当平滑、接触关系应当成立。作者从每段 81 帧视频里取 48 帧窗口来算这个能量。这项外部修正会把 latent 推离未修正的采样轨迹，推向被冻结预测器判定为物理上更合理的区域，然后生成器从修正后的状态继续渲染。中间有一个跨表示的桥梁问题：Wan 的 latent 与 V-JEPA 的目标在同一段视频上编码的是不同目标下的表示，一个为合成保留内容与运动、一个为预测保留结构，所以作者训练了一个 adapter 做任务特定的变换，且这个 adapter 是在真实 OpenVid-1M 片段编码出的 latent 上训练、却用在生成过程中从带噪采样状态推出的临时干净预测上。 auto 实验效果：论文的定性结果最直观：同一个 Wan2.2 生成器下，基线在后空翻落地时出现腿部运动时序不一致和身体姿态的突变，而 OMR 给出了连贯的腿-身协同、垫子形变、符合重力的衣物运动和惯性驱动的下落。四组帧条对比把 Wan2.2、P&P 与 OMR 并排放在一起，强调的是时间上的因果：撞击应当与材料响应同时发生、工具应当与被它形变的物体保持耦合、身体运动应当在帧间保持支撑与动量——在第一组里 Wan2.2 在明确撞击之前就出现了破洞、P&P 有损伤但缺少同步的接触，OMR 的撞击与响应对齐得最好。定量侧作者在 Physics-IQ 上以固定 50 条提示做了 Wan2.2-I2V 的试点，比较引导、BoN-4 及两者组合三种设定；混合现象的「其他物理原理」一行从 46.6% 提升到 47.6% 的联合分数，其中 PC≥4 的比例从 56.6% 升到 58.7%。稳定性诊断显示中段轨迹的预测干净 latent 与对应的完成 latent 在 cosine/ρ/τ 上分别为 0.762/0.617/0.446 与 0.769/0.624/0.451，两行相当接近，支持了 adapter 用在 OMR 实际工作分布上的合理性。 auto 批判点评：这篇的巧劲在于找到了一个便宜的干预点。既有方案要么在多条轨迹之间选（贵在候选数），要么反复解码回像素域再编码（贵在 VAE），OMR 直接在 latent 空间借 V-JEPA 的预测误差当能量、只在中段几步加一次梯度，本质上是把「物理合理性」当成一个可微的正则项挂在采样轨迹上。选 V-JEPA 也选得对——它的训练目标天然就是「从可见推未见」，这正是物理直觉的操作化定义，比拿一个判别式打分器要更贴近因果。那个 adapter 的诊断实验也做得诚实，用中段预测 latent 与完成 latent 的相关性接近来论证分布匹配，是个恰当的稳定性检查。但要清楚它证明了什么、没证明什么。第一，定量证据很薄：Physics-IQ 上 46.6%→47.6% 是约 1 个百分点的提升，而且是 50 条提示的试点规模，作者自己也只把它当作「聚合分数没崩」的对照——把这篇当成「解决了视频物理问题」来读会过度解释，它更像一个可行性演示。第二，adapter 存在明确的分布错配：训练在真实视频 latent 上，使用在从带噪状态推出的临时干净预测上，论文用相关性接近来辩护，但相关系数 0.76 的 cosine 并不算高，在物理更极端的片段上这个 gap 可能被放大。第三，方法的上限被 V-JEPA 顶住——它能判「这看起来不像真实视频的延续」，但不能判「这违反了动量守恒」，所以对训练分布内常见的物理它有效，对罕见但严格的物理约束未必。第四，只在中段 ODE 步注入是个超参选择，注入的时机与强度如何影响画面质量与物理性的权衡，论文没有给出充分的敏感性分析。 4. ShellGame：视频世界模型追不住隐藏状态 Can Video World Models Track Unobserved World States? | 首尔国立大学 + Roblox | arXiv:2608.30692 关键词：隐藏状态追踪,视频版猜球游戏(Shell Game),S5状态追踪,线性注意力负特征值,LaCT快速权重,Transformer KV缓存局限,Roblox 前序问题：视频世界模型越来越多地被当作模拟器来用，但一个尖锐的问题被视觉保真度掩盖了：画面生成得像，并不能证明模型维护了世界的隐藏状态。世界里大量重要的东西是当前不可见的——被盖住的球、关上门后房间里的陈设、背包里的物品。如果模型只是把「看起来合理的下一帧」渲染出来，它可以在完全不知道球在哪个杯子下的情况下，依然画出一个像样的揭晓画面。这就使得现有的评测方式存在系统性盲区：几乎所有指标都在衡量渲染质量、时间一致性或提示遵循，没有一个在直接考察「不可见的状态有没有被正确携带」。作者要回答的正是这个被绕开的问题——把视觉渲染与隐藏状态的合成解耦开，单独测后者。 本文贡献：作者设计了一个动作条件化的视频版 Shell Game 作为探针，它是 $S_5$ 状态追踪问题的视觉类比：先揭晓球在哪个杯子下，然后把杯子盖上，经过一串交换动作，最后再揭晓——整个交换序列里球始终不可见，模型必须在架构内部携带并更新这个状态。他们在这个任务上系统比较了双向与自回归 Transformer、Mamba，以及转移特征值被限制在非负区间的线性注意力。诊断的关键洞察是：像素扩散目标从来没有监督过那个看不见的隐藏状态，所以生成的帧本身不可能承载它，状态只能活在架构里而不是 token 里。对 Transformer 来说，那个架构状态只是一个只增不减（append-only）的 KV 缓存，因此模型必须在每个 chunk 都从整段历史里重新推导出隐藏的排列，而不是维护它。作者进一步找到两个确实能外推的机制，共同点是都跨 chunk 携带一个状态并原地修改它：一是线性注意力——一旦允许转移特征值取负就能成功；二是 LaCT，其外推能力随快速权重头数 H 增加而提升。他们还在纯文本的 $S_3$/$S_5$ 词问题上做了对照，测量各架构解决长度 N 问题所需的最少层数与长度外推行为。 auto 实验效果：结论相当刺眼：双向和自回归 Transformer、Mamba、以及转移特征值限制在 $[0,1]$ 的线性注意力，全都只能拟合训练时的 5 次交换，交换链一长就朝随机水平掉下去，但同时仍在生成看起来合理的视频，而且增加去噪步数完全没有帮助。机制侧的量化很清楚：把转移特征值范围从 $[0,1]$ 放宽到 $[-1,1]$ 后，多个线性注意力变体（GDN、GDN2、GDP₃、KDA）的状态准确率在整条曲线上都提升，GDN2 在 N=30 时仍有约 0.8；LaCT 的外推随快速权重头数变好，H=16 在 N=30 时约 0.87、H=1/H=2 则贴在随机线上；scratchpad token 数量 M 的影响则弱得多，M 从 1 加到 1024 在 N=20 之后都掉向随机，而作为自然随机水平对照的裸 SWA1 骨干（M=0）连训练内长度 N=5 都做不到。定性 rollout 里，在训练长度两倍（N=10）的 Shell Game 上，GDN-neg 与 LaCT8 最终落在与真值相同的杯子上，而因果 DiT 与普通 GDN 没有；在纹理化 3D Block World 的局部动作条件化任务上（80 帧干净前缀 + 240 帧延续），LaCT8 能把方块和球保持在接近真值的位置，其他骨干渲染出的房间看着连贯但里面的东西已经漂走了。 auto 批判点评：这是今天最有方法论价值的一篇，因为它把一个大家隐约感觉到但说不清的问题变成了可测量的：视觉保真度和状态追踪是两件事，而现有评测只测前者。Shell Game 这个探针设计得很干净——球被盖住之后画面里再没有任何关于它的信息，模型要么在架构里带着这个状态，要么只能猜，没有中间地带；而「增加去噪步数毫无帮助」这个观察尤其致命，它排除了「算力不够」这种廉价解释，把矛头精确指向表示能力。对 Transformer 的诊断也说到了本质：append-only 的 KV 缓存不是一个可以原地更新的状态寄存器，模型每个 chunk 都得从整段历史里重新推导排列，这在长序列上必然崩。找到的两个正面机制（负特征值、快速权重）共享「跨 chunk 带状态且原地改」这一性质，这个统一解释很有力。但要注意它的适用边界。第一，这是合成探针，$S_5$ 状态追踪是一个刻意构造的、纯组合性的困难任务，真实世界的隐藏状态往往有大量视觉与常识线索可借（东西通常不会凭空移动、遮挡物有形状约束），所以「在 Shell Game 上失败」不等于「在真实场景里同样糟」，这个外推需要谨慎。第二，反过来说负面结果也可能被低估——真实场景的状态空间比 5 个杯子大得多，若连这个都做不到，实际情况恐怕更差；论文没有在两个方向上都给出校准。第三，正面机制目前只在这些探针上被验证，负特征值线性注意力和 LaCT 在真实视频生成质量上要付什么代价（画质、训练稳定性、吞吐）文中没有交代，而这恰恰决定它们能不能真的替换现有骨干。第四，作者把「状态必须活在架构里」这一点讲得很好，但没有讨论第三条路——把状态显式外置成可读写的结构（今天另一条线的做法），这在方法空间上留了一块空白。 5. GEARS：把丢掉的候选诊断修复再利用 Test-Time Scaling for Video Diffusion Models via Diagnosis-Guided Candidate Recycling | 北京大学 + 阿里巴巴（ACM TOG / SIGGRAPH Asia 2026） | arXiv:2608.29322 关键词：test-time scaling,候选回收,诊断式latent编辑,分阶段调度,Wan2.1-T2V-1.3B,SIGGRAPH Asia 2026,北京大学 前序问题：视频扩散模型的生成质量已经很高，但高保真结果在很大程度上仍依赖闭源系统或昂贵的大规模基础设施。Test-time scaling（TTS）提供了一条免训练的路子：靠推理阶段多花算力来提升轻量生成器。问题是现有方法基本都困在「噪声搜索」这一个范式里——采样、选择、扰动去噪轨迹，然后把低分候选在昂贵的生成完成之后直接丢掉。这个「生成再丢弃」的流程浪费的不只是算力，更是那些可回收样本里已经编码好的部分运动、布局或外观结构：一个候选可能整体评分低，但它的镜头构图是对的、主体运动方向是对的，只是某个局部崩了。把它整条丢掉，等于把对的部分和错的部分一起扔。于是问题变成：能不能把低分候选当成可编辑的先验，而不是垃圾？这需要回答三个子问题——此刻该修什么、什么时候修、哪些候选值得修。 本文贡献：作者提出 GEARS（Guided Editing for Adaptive Recycling Search），一个免训练框架，把诊断引导的候选回收引入视频 TTS，通过「生成-评估-编辑」的循环把候选变成可编辑先验。它沿着从纯噪声到干净 latent 的去噪轨迹插入多个「生成转编辑」检查点 $s_0, s_1, \ldots, s_k$，并明确区分高噪区间（偏重运动）与低噪区间（偏重视觉）。框架由两个协作组件构成。Stage-Aware Scheduler 决定修什么、何时修、以及哪些候选该被保留、回收或丢弃：它先确定当前阶段的关注点（高噪阶段用运动质量 MQ、低噪阶段用视觉质量 VQ 作为排序依据），再做排序与路由——语义门控在低文本对齐时直接丢弃、把「弱但有希望」的一批送去回收器、其余有效候选作为精英保留。Candidate Recycler 则负责诊断与修复：由一个 MLLM 根据当前阶段的运动/视觉关注点与关键帧，把候选的提示改写成更好的版本，再配合流形感知的 SDE 去噪把修复落地。关键的一个设计细节是：在每个检查点，候选是先被完整去噪、解码、当作干净视频来评估的，带噪 latent 从不被直接打分——这避免了在噪声态上做不可靠的质量判断。奖励模型是运动质量、视觉质量与文本对齐三项之和。 auto 实验效果：论文的机制展示很直观：一个排名靠后但语义上有效的候选，在传统「生成即选择」的 TTS 里会被丢掉，而 GEARS 先在高噪检查点修掉它的运动缺陷、再在低噪检查点增强视觉细节，修复后的候选回到最终候选池并被选为最佳视频。分阶段修复的案例里，第一阶段（高噪）候选没有充分实现要求的行走动作，回收器在保留兔子主体与奇幻场景的同时恢复了连贯的主体运动，右侧插图用共享尺度的背景补偿光流显示残余运动的大小与方向；第二阶段（低噪）则在保持结构的前提下精修外观与纹理。分布层面的证据是 VQ–MQ 空间里的联合与边缘分布对比：GEARS 把可回收候选整体推向更高的联合质量区域，而不只是把最好的那个挑出来。scaling 行为在 Wan2.1-T2V-1.3B 与 Wan2.1-VACE-1.3B 两个骨干上都做了验证。 auto 批判点评：这篇的洞察其实很朴素但少有人认真对待：TTS 的浪费不在采样，而在丢弃。既有方法从 Video-T1 的独立轨迹选优、到 DLBS 的逐步保留 K 个精英做束搜索、再到 EvoSearch 在精英附近做中段变异，路线越来越精细，但共同前提都是「低分即无用」。GEARS 把这个前提拆了——低分候选是一个有部分正确结构的初值，值得诊断而不是抛弃。两个设计决策尤其站得住：一是候选必须先完整去噪解码成干净视频再评估，绝不给带噪 latent 打分，这一条避免了整个领域常见的「用噪声态代理指标做决策」的可靠性问题；二是把高噪修运动、低噪修细节这个分工写进调度器，与扩散过程本身的信息层级对齐，而不是在所有阶段用同一个标准。用 MLLM 做诊断并改写提示，也比用一个不可解释的打分器更容易调试。但有几处需要保留判断。第一，成本核算不透明：每个检查点都要把候选完整去噪、解码、评估，再对被回收者做编辑与重新去噪，这些开销相对「直接多采几条轨迹」是否真的更划算，需要在同等算力预算下比较，而这类等价预算对照是 TTS 类工作最容易含糊的地方。第二，整条链路依赖奖励模型（MQ+VQ+TA 之和）的可靠性，而运动质量的自动评估本身是公认的难题，如果 MQ 有系统偏差，调度器的「该修什么」判断会跟着偏，且这种偏差会被回收循环放大而非抵消。第三，MLLM 改写提示引入了一个不易复现的环节——同一个候选在不同 MLLM 或不同温度下会得到不同的修复方向，论文对这部分的方差没有交代。第四，验证骨干集中在 1.3B 规模，在更大的生成器上，「候选本身已经不错、可回收空间变小」这一效应会不会吃掉大部分收益，仍是开放问题。 6. RTI：希尔伯特曲线切出内容形状token Elastic Token Compression for Pixel-Space Diffusion Transformers | 德国维尔茨堡大学 + Google | arXiv:2608.29281 关键词：像素空间扩散,弹性token压缩,希尔伯特曲线排序,区域token接口(RTI),单checkpoint多预算,GenEval,维尔茨堡大学 前序问题：自然图像把细节集中在画面很小的一部分，但扩散模型对每个 patch、在每一层、每个时间步都花一个完整的 token。这种浪费在像素空间模型里最严重，因为它没有 autoencoder 先把低层冗余吸收掉。作者探测一个预训练的像素文生图 transformer，发现它中间块的 token 在图像平坦处是冗余的，而且这种冗余占据的是连通的、随内容成形的区域——这就带来一个表示上的要求：要利用这种冗余，就需要几何形状与之匹配的 token，而不是规则网格块。既有的降维方案各自丢掉了这个性质的一部分：相似度合并会把同一组的成员散落在画面各处，不再是连通区域；隐空间瓶颈把位置信息丢了；直接跳过则是把本该被总结的内容删掉。于是核心难题是：怎样得到「形状随内容变化、又能高效实现」的 token 分组——二维空间上的任意连通区域划分在实现上是很昂贵的。 本文贡献：解法的巧劲在于降维：沿希尔伯特曲线给 patch 排序。这条空间填充曲线的性质是相邻位置在图像上永远是邻居，因此任意一段连续区间都对应一个连通区域，且这个区域的大小与形状会随内容自然变化——于是「在二维上做分组」这个难题变成了「在一维上做切割」。作者在模型特征变化最大的位置切开，把每一段池化成一个 region token。为了让模型适应这种新 token，他们提出 Region Token Interface（RTI）做适配；训练时 region 数量是随机抽取的，所以同一个 checkpoint 能服务所有压缩预算，这就是标题里 elastic 的含义——不必为每个算力预算各训一版。作者在 MiniT2I 系列的两个模型规模上验证，并与相似度合并（Feat Sim）、隐空间数组（Latent Array）、token 跳过（Token Skip）等做了机制层面的对照，还做了排序方式的消融（希尔伯特 vs 光栅）以检验「连通性是否真的重要」。 auto 实验效果：机制对照图把四种方案的分组结构与生成结果并排放在一起：RTI 的分组呈现出与图像内容贴合的连通色块、生成结果保住了主体（背着风笛的犰狳）的完整结构与纹理；Feat Sim 的分组碎裂成散点、生成结果虽然还成形但细节退化；Latent Array 完全丢掉了空间结构、生成结果崩成一团抽象形体；Token Skip 大面积留白、结果只剩轮廓。排序消融给出了「连通性必要性」的直接证据：在 MiniT2I-B/16 上比较希尔伯特与光栅两种排序，在较宽松的预算（$R_{cells}=128$）下两者接近，但预算压到 $R_{cells}=64$ 时希尔伯特保住了人脸、翅膀与网格结构，光栅则把它们抹开、人物形体也散掉。效率-质量曲线上，RTI 在 $R_{cells}=256$ 时以 1.79 秒/图达到 GenEval 82.7%、ImageReward 0.953，而基线 MiniT2I-L/16 要花到 4.62 秒才达到 86.4% / 0.950——也就是说在 ImageReward 这个指标上 RTI 用约 2.6 倍更短的时间达到了同等水平；把预算放到 5.58 秒时 RTI 达到 86.2% / 1.155，ImageReward 超过基线 5.77 秒的 1.039。 auto 批判点评：这篇最漂亮的地方是把一个几何难题化成了排序问题。「需要形状随内容变化的 token」这个需求听起来必须做复杂的二维分割，但希尔伯特曲线的局部性保证让一维上的任意连续段自动成为二维上的连通区域，于是分组变成切割，实现代价陡降。更值得肯定的是它对既有方案的批评是结构性而非性能性的——指出相似度合并散落分组、隐空间瓶颈丢位置、跳过删内容，各自丢掉了「连通、有位置、被总结」这三个性质中的一个，这种分析比单纯比分数有说服力得多，而排序消融（希尔伯特 vs 光栅）恰好把「连通性」单独隔离出来做了验证，是很干净的对照设计。训练时随机抽 region 数从而一个 checkpoint 覆盖所有预算，也是很实用的工程决策。但要注意几个边界。第一，作者自己承认速度有天花板：prelude、coda 与文本流不参与压缩，所以再怎么压 region 数，端到端加速也会饱和——这意味着该方法适合中等压缩率区间，指望它带来数量级提速是不现实的。第二，GenEval 上并没有全面胜出：长预算下 86.2% 对基线 87.0%，是略低的；真正的优势集中在短预算区间和 ImageReward 上，而 ImageReward 是偏好类指标，与 GenEval 这种组合性正确率指标的结论不一致时，应当分开陈述而不是合并成「更好」。第三，方法针对的是像素空间扩散这个相对小众的设定——论文自己说浪费在像素空间最大，那么在主流的 latent 扩散上，autoencoder 已经吸收了大部分低层冗余，这套机制还剩多少收益空间是未验证的。第四，切割位置由「特征变化最大处」决定，这个判据依赖被探测模型的中间层表示，换骨干后是否仍然稳定、需不需要重新校准，文中没有交代。 7. RegionCache：多轮编辑只重算改动区域 RegionCache: Semantic-Aware Region Reuse for Efficient Multi-Turn Image Generation | 东北大学计算机科学与工程学院（IJCAI 2026） | arXiv:2608.29809 关键词：多轮图像编辑,语义感知区域复用,cross-attention定位,自适应复用调度,PixArt-alpha,1.43-2.55倍加速,IJCAI 2026 前序问题：真实世界的图像生成往往是多轮编辑：用户一轮一轮地改小块区域，而大部分画面内容保持不变。但现有基于 DiT 的编辑管线在每一轮都把整张图重算一遍，产生大量冗余计算——用户只是把「一只猫在星空下」改成「一只狗在星空下」，星空那部分的去噪过程却要从头再跑一次。现有的 DiT 加速方法又都忽略了跨提示的语义对应关系，于是落入两种错误：要么保守地不复用、造成不必要的重算，要么激进地复用了实际已经改变的区域、损害编辑质量。问题的难点在于要同时回答两件事——哪些区域在这一轮语义上确实没变（这需要跨提示的语义比对，而不只是像素比对），以及对这些区域可以复用到什么程度（完全跳过整个去噪过程，还是只在部分时间步复用）。 本文贡献：作者提出 RegionCache，一个面向多轮图像编辑的语义感知复用框架，选择性地复用未改变区域的扩散状态。它由两部分构成。Prompt-aligned Region Caching 负责识别与缓存：通过连续提示之间的语义重叠（Semantic Overlap Identification）确定哪些语义单元延续了下来，再用 cross-attention 定位把每个语义单元对应到图像上的具体区域，把该区域的 mask 与隐状态存进 cache pool——比如「cat」与「starlite」各自被独立缓存。Semantic-aware Region Reusing 负责决定复用策略：它把区域分成改变区域与未改变区域，在区域级稀疏注意力下，语义未变的部分（如 starlite）可以在全部时间步复用，而语义已变的部分（cat→dog）只在早期步复用；复用的时间表是自适应的，依据提示相似度与上下文一致性来定，而不是固定阈值。作者还测量了自注意力与其他计算在不同推理步数和分辨率下的延迟占比，用以定位加速空间到底在哪里。 auto 实验效果：在 PixArt-alpha 上，RegionCache 实现了 1.43 倍到 2.55 倍的端到端加速，同时保持可比的图像质量。框架图给出的机制示例很直白：从「A cat under the starlite」到「A dog under the starlite」，starlite 被判为语义未变从而全步复用，cat→dog 这一改变区域只在早期步复用、后续正常重算，因此改动准确落在主体上而背景星空的观感保持一致。案例研究把 RegionCache 与既有多轮编辑框架并排比较了多轮编辑的结果质量。延迟拆解则显示自注意力在不同推理步与分辨率下的占比，是复用设计的依据。 auto 批判点评：这篇选的问题很贴近真实使用：多轮编辑是图像生成产品里最常见的交互形态，而每轮全量重算确实是明显的浪费。它的关键判断是把复用的依据从像素相似度提升到语义重叠——用提示之间的语义比对加 cross-attention 定位来决定复用区域，这比在 latent 上做相似度阈值要可靠，因为「猫变成狗」在像素上可能相似度不低，但语义上必须重算。区分「全步复用」与「仅早期步复用」也是有见地的：扩散的早期步决定布局与低频结构，改变区域在这个阶段与原图共享的信息其实不少，一刀切地全部重算同样是浪费。用延迟拆解来定位加速空间，说明作者是先量了再设计，而不是凭直觉。但这篇的分量比较轻，几处需要注意。第一，1.43–2.55 倍这个区间很宽，说明收益强烈依赖每轮改动占画面的比例——改一个小配饰接近上界、重构主体接近下界，论文用一个区间概括，读者难以判断在自己的使用分布下能拿到多少。第二，只在 PixArt-alpha 上验证，而 PixArt-alpha 相对当前主流的编辑骨干已经偏旧，这套机制在更强的编辑模型（其注意力模式与语义定位质量都不同）上是否同样有效并未回答。第三，质量结论停留在「comparable」这个定性表述与案例图，而复用本质上是一种近似，最该被量化的恰恰是「复用带来的质量损失」在多轮累积后会不会漂移——第 5 轮、第 10 轮之后误差是否累积，论文没有给出多轮深度上的退化曲线。第四，整条链路依赖语义重叠判断的准确性，一旦把实际改变的区域误判为未变，错误会被缓存下来并影响后续所有轮次，这个失效模式的代价比一般加速方法要重，但文中没有讨论回退机制。 8. PixelIR：保真与感知拆成两条流 PixelIR: Fidelity-Perception Decoupling via Pixel-Space Image-Residual Flow Matching for Efficient One-Step Real-World Super-Resolution | 上海交通大学（实习期间完成） | arXiv:2608.30782 关键词：真实图像超分,保真-感知解耦,像素空间残差流匹配,一步蒸馏,双粒度像素transformer,上海交通大学 前序问题：真实世界图像超分（Real-ISR）要同时做两件互相拉扯的事：既要保住退化观测所支持的结构（保真），又要重建出感知上真实的细节（感知）。现有方法基本都在一个共享网络里同时优化这两个目标，于是两者在整个训练过程中持续互相干扰，它们之间的平衡也很难控制——你想多要一点细节，结构就开始漂；想守住结构，画面就发糊。近期的一步方法虽然把采样步数降下来了，但往往同时继承了两个包袱：耦合的优化行为，以及来自多步前身的昂贵高分辨率骨干。作者的判断是：高效的 Real-ISR 不只需要更短的采样轨迹，还需要对「忠实重建」和「感知细节合成」这两件事分别建模——把它们塞在一个网络里用一组权重去权衡，从设计上就是错的。 本文贡献：PixelIR 提出建立在像素空间图像-残差流匹配之上的保真-感知解耦框架，把一次超分拆成两条流。第一阶段（Fidelity Preservation）学一个图像流，用 4 步把上采样后的低质输入映射到一个忠实的基础重建 $\hat{x}_b$。第二阶段（Perception Refinement）学一个残差流，在冻结的基础重建条件下、用另外 4 步从噪声里合成缺失的感知细节 $\hat{r}$，再通过残差合成得到教师输出 $\hat{x}_t$——关键在于残差流不需要反复重新学习或覆写已经完成的整体复原解，它只负责补差值。两个阶段都使用双粒度像素 transformer：语义层面的 DiT 块加像素层面的 PiT 块，配 AdaLN-Zero 调制。为了部署，作者把教师蒸馏成一个五阶段逐步收窄的学生：从 16×16 patch 经 8×8、4×4、2×2 到 1×1 patchify，前两级用 DiT 块处理语义 token、后三级用 PiT 块处理像素 token，配合金字塔 patchify 与双锚点流蒸馏（对齐 $\hat{x}_s$ 到教师输出 $\hat{x}_t$ 以及到真值 GT 两个方向），最终得到一步推理的学生模型。 auto 实验效果：论文在 DIV2K 上给出六指标的组件剖面雷达图（每个指标方向对齐并按最优值归一化，越远越好）来展示解耦消融的效果，并在 LSDIR 与 RealSR 的困难样例上做了定性对比。方法层面最实质的效率结论是：教师用 4+4 步、学生蒸馏为一步，且骨干通过五阶段金字塔逐步收窄——这直接针对「一步方法仍继承昂贵高分辨率骨干」这一痛点，即把计算按 patch 粒度分层，语义处理放在粗粒度、像素处理放在细粒度，而不是全程在高分辨率上跑完整 transformer。 auto 批判点评：这篇的架构判断是对的：保真与感知的冲突不是调参问题而是表示问题，让一个网络用一组权重同时承载「不要偏离观测」和「大胆编细节」两个相反的诉求，本身就在制造干扰。拆成基础重建 + 残差合成之后，残差流只需要建模「差什么」，不必反复重学已经解好的整体结构，这个分解在信息论上也更经济。双粒度设计（DiT 管语义、PiT 管像素）与五阶段金字塔蒸馏配合得很自然——把昂贵的注意力放在粗粒度、把逐像素处理放在细粒度，正面回应了「一步方法仍背着高分辨率骨干」这个真实成本问题。双锚点蒸馏同时对齐教师与真值，也比只蒸馏教师更稳。但有几处需要留意。第一，训练与部署链路相当长：4 步图像流 + 4 步残差流的教师，再蒸馏成五阶段一步学生，中间每一环都有超参与对齐损失，复现成本和调试难度都不低，而论文对这条链路的稳定性（比如残差流在基础重建质量波动时是否鲁棒）交代不多。第二，残差流以冻结的基础重建为条件，这意味着基础重建的错误会被完整继承——如果第一阶段把结构判断错了，第二阶段只会把错误结构渲染得更「真实」，这类失效在超分里恰恰是最有害的（把噪点补成清晰的伪细节），论文没有专门分析。第三，评测证据以雷达图与定性对比为主，六个指标归一化后画在一张雷达图上很好看，但归一化会掩盖绝对差距的大小，读者无法判断某个维度上的领先是显著还是微弱。第四，署名信息显示工作在实习期间完成、机构标注较为简略，作为一篇方法论文其可复现材料（代码、权重）是否释出会明显影响这套多阶段管线的实际影响力。 9. GenFirst：先练生成再练重建防塌缩 GenFirst: Generation Before Reconstruction for Stable End-to-End Latent Generative Modeling | 中国科学技术大学 + 字节跳动 Seed | arXiv:2608.29335 关键词：端到端隐空间训练,隐空间塌缩,KL熵项,生成-重建冲突,非对称学习动态,REPA-E,字节跳动Seed 前序问题：隐空间生成模型的标准做法是两阶段：先训一个 VAE 做重建，再在冻结的隐空间上训生成模型。但为重建优化出来的隐空间不一定适合生成——重建只要求信息可恢复，生成还要求分布可采样，两者的最优解未必重合。于是联合训练看起来很有吸引力，可直接端到端训练一直很难做：一是容易发生隐空间塌缩，二是面临生成-重建冲突。已有的折中方案 REPA-E 通过截断生成梯度、并用一个外部的表示对齐损失（DINOv2）来重塑隐空间以避免塌缩，但这么做的代价是生成目标不再直接塑造隐空间——绕开了塌缩，也绕开了「让隐空间为生成服务」这个初衷。作者要回答的是：能不能让生成损失真的作用在编码器上，同时不塌缩？ 本文贡献：作者重新分析了不同目标如何塑造隐空间，得到两个关键洞察。第一，KL 散度目标里的熵项是防止塌缩的关键：重建与先验拟合都倾向于收缩后验，而熵项保留了非退化的隐空间不确定性——换句话说，塌缩不是生成梯度本身的错，而是缺了一个撑开后验的力。第二，重建与生成呈现非对称的学习动态：重建快且监督强，在很少的训练步内就能达到不错的图像保真度；生成慢且更难优化，需要长得多的过程才能学出一个可采样的隐分布。基于这两点，他们实现了首次不发生隐空间塌缩的直接端到端训练，并提出 GenFirst——一个简单的「生成先于重建」策略：让生成目标先塑造隐空间，之后再refine重建。论文的对比图把四种范式并置：(a) 传统两阶段用固定的重建优化隐空间，对生成次优；(b) 朴素端到端让生成损失更新编码器但导致塌缩；(c) REPA-E 靠 stop-grad 加外部 REPA 损失避免塌缩，但生成损失不直接塑造隐空间；(d) 本文方法用先验损失塑造隐空间、熵项防止塌缩。作者还做了扩展实验：隐空间级 SigLIP 监督以学习生成与表示共享的隐空间、基于 caption 的 VLM-NLL 监督施加在中间视觉特征上、以及用块因果扩散 transformer 做统一文本-图像建模（连续文本与图像 latent 联合优化，支持双向的文生图与图生文）。 auto 实验效果：收敛加速是最直接的证据：在类条件 ImageNet 生成上报告不带 CFG 的 FID-50K 曲线，在文生图上报告 EiT Version A/B 与 SiT+REPA 基线的 GenEval 与 DPG 分数——两个 EiT 变体都在 80K 步就超过了基线 200K 步的表现，也就是约 2.5 倍的步数效率。非对称动态的可视化清楚显示重建在远少的步数内达到良好图像保真度，而生成需要更长的优化过程才学到可采样的隐分布，这正是「先生成后重建」这个次序的依据。定性上，三种隐空间设定用同一个 MMDiT 与采样配置对比：DPG-Bench 上的文生图与 COCO Karpathy 测试集上的图生文都显示端到端训练的隐空间提升了提示保真度与描述连贯性，其中文本-图像联合隐空间训练的定性结果最强。消融给出了 gFID 与 rFID 的权衡曲线：没有任何固定的先验损失权重能同时兼顾生成与重建，而在重建精修阶段用一个中等先验权重能得到最好的权衡。 auto 批判点评：这篇的分析质量高于它的方法复杂度，而这恰恰是优点。「塌缩的原因是缺了熵项撑开后验」这个诊断把问题从「生成梯度有毒、必须截断」纠正成「少了一个平衡力」，直接否定了 REPA-E 那条绕行路线的必要性——后者为避免塌缩付出的代价是生成损失不再塑造隐空间，等于放弃了端到端的意义。第二个洞察「重建快、生成慢」看起来朴素，但它把训练次序变成一个有依据的设计变量而非试错结果：既然慢的那个更需要主导隐空间的形状，就让它先来。方法本身简单到几乎不增加实现负担，却拿到约 2.5 倍的步数效率，这种「分析驱动的简单解」比堆结构更有价值。消融里「没有任何固定先验权重能兼顾生成与重建」这个结论也很诚实，它说明这不是调参能解决的问题，从而反过来支持了分阶段的必要性。但要注意几点。第一，主要收益是收敛速度而非质量上限：80K 步超过基线 200K 步说的是效率，论文没有强调最终收敛质量拉开了多大差距，把这篇读成「生成质量大幅提升」会误读。第二，FID 曲线是不带 CFG 的，而实际部署几乎都开 CFG，无 CFG 下的 FID 优势能否在开 CFG 后保持，是这类工作常见的落差点。第三，扩展实验（SigLIP 监督、VLM-NLL、块因果统一建模）铺得很开，每一项都只给了「稳定训练」的定性结论，广度换走了深度——尤其统一文本-图像建模是个大命题，用一张扩展图交代略显单薄。第四，实验规模集中在 ImageNet 类条件与中等规模文生图，端到端联合训练在更大数据与更大模型上是否仍然稳定（熵项的权重是否需要随规模重新校准）没有回答，而这决定它能否进入真实的大规模训练流程。 10. RAGDiffusion++：RL救回SFT抹平的高频纹理 RAGDiffusion++: From Macro-Retrieval to Micro-Fidelity Alignment for Garment Generation | 上海交通大学 + 阿里巴巴 | arXiv:2608.29280 关键词：服装资产生成,高频轨迹塌缩,AR-GRPO,Garment-RM奖励模型,artifact hacking,双图像流DiT,上海交通大学 前序问题：标准服装资产生成——把各种真实场景里的衣服还原成正面平铺图——商业价值很大，但同时要求宏观拓扑准确与微观物理保真。作者前作 RAGDiffusion 已经用检索增强的宏观约束消除了大尺度结构幻觉，可工业级的微观纹理真实感仍是未解的瓶颈。他们把这个限制正式命名为 High-Frequency Trajectory Collapse（高频轨迹塌缩）：监督微调（SFT）收敛到训练分布的条件均值，而这个分布由平滑的低频纹理主导，于是高频图案（织物纹理、复杂 logo）变得几乎不可采样——不是模型学不会，是它被拉向了均值。而天真地加上强化学习后训练又会引发另一个问题 Artifact Hacking：模型利用通用奖励模型里的语义偏差，生成具有欺骗性的棋盘格噪声来骗高分，看着「细节丰富」实际是伪影。所以真正的难题是双重的：既要让 RL 把采样分布往高频模式上重塑，又要防止它塌向奖励可被利用的伪影解。 本文贡献：作者的核心洞察是 RL 能从根本上重塑流模型的采样分布——在准确的奖励引导下提升高保真轨迹的概率——同时用对抗正则化来约束这个过程不跑偏。方法上提出 AR-GRPO，并配套一个领域专用奖励模型 Garment-RM 来提供细粒度、属性感知的信号，替代通用大模型作为奖励来源。架构侧是 Dual-Image-Stream DiT：通过复制部分去噪图像流及其预训练权重，引入一条专门的条件图像流，让条件信息在与去噪信息同构的通道里流动而不是被挤进 cross-attention。针对 reward hacking，他们对比了 Adv-GRPO 的做法（用对抗损失激进地更新所有奖励模型，导致奖励模型丧失分类能力），改为让判别器先加速早期奖励上升、再把 $R_{GRM}$ 与 $R_{LPIPS}$ 稳定在一个无伪影的均衡点上。 auto 实验效果：最有说服力的是打破 SFT 瓶颈这条曲线：SFT 阶段模型达到性能平台期，延长训练时长或扩大数据都只有递减回报，而引入 AR-GRPO 后 FID 出现急剧下降，瓶颈被突破；配套的视觉对比展示了 SFT 在捕捉高频物理细节（复杂织物纹理、精细图案）上的局限以及 RL 优化带来的显著改善。频域分析给出了机制层面的证据：相比基础 SFT 模型，RL 结果与真实图像之间的频谱差异更小、方向性偏差更弱，径向平均的频谱误差曲线显示 RL 模型在中高频的宽区间上误差更低。奖励模型侧，Garment-RM 在细粒度属性感知上全面超过 GPT-4o 与 Qwen3-VL 这些通用大模型，从而为 RL 阶段提供可靠的属性感知信号；作者还用 Garment-RM 嵌入的 t-SNE 图与人类偏好选择实验验证其有效性。防 hacking 的对照很直接：标准 GRPO 与 Adv-GRPO 都塌缩成棋盘格伪影，而 AR-GRPO 保持输出干净。 auto 批判点评：这篇的诊断做得比方法更好。「High-Frequency Trajectory Collapse」是个准确的命名：SFT 回归条件均值这件事在理论上早就清楚，但把它与「高频纹理变得不可采样」直接挂钩、再用频域误差曲线量化出来，把一个模糊的「SFT 生成发糊」变成了可测量的现象，这比笼统地说「RL 效果更好」有价值得多。更值得肯定的是它没有停在「用 RL 就好了」——而是同时指认了 RL 的失效模式 Artifact Hacking，并且给出了机制解释：通用奖励模型有语义偏差，模型会生成棋盘格噪声去利用它。这种「问题-解法-解法的新问题」的递进是扎实工作的标志。用领域专用的 Garment-RM 替代通用 VLM 做奖励，也是个正确判断：细粒度属性感知上 GPT-4o 这类通用模型确实不可靠，而奖励模型的偏差在 RL 里会被放大而非平均掉。但边界也清楚。第一，这是一个高度垂直的任务——正面平铺服装图有强先验（构图固定、拓扑已知），所以「用检索约束宏观、用 RL 攻微观」这套组合能奏效，它对通用文生图的可迁移性存疑，因为通用场景既没有可检索的模板也没有 Garment-RM 这样能训出来的窄域奖励。第二，Garment-RM 本身成为新的单点依赖：整个 RL 的方向由它决定，而论文验证它的方式是与通用模型比较加 t-SNE 加人类偏好，这证明了它比通用模型好，但没有刻画它自己的盲区在哪——一个有系统偏差的窄域奖励模型，其偏差会被 RL 忠实地放大。第三，对抗正则化引入了判别器与两个奖励项（$R_{GRM}$、$R_{LPIPS}$）的三方平衡，论文说它稳定在无伪影均衡点，但这类平衡对超参往往敏感，训练稳定性的证据主要是奖励轨迹图，缺少多次运行的方差。第四，作为前作的延续版本，宏观检索部分的贡献不属于本文，读者需要注意本文的净增量集中在 RL 后训练与奖励设计上。 趋势观察 原生音视频联合生成开始用「先分开、后门控耦合」压小模型尺寸 — 今天最值得读的一篇是阿里 DreamX 团队的 DreamX-Creator 1.0，它给出了一个很务实的判断：音视频联合生成不需要一上来就把两个模态揉在一起。它的 7B 生成器让音频流和视频流在网络前一半完全独立去噪，只在后一半通过 Gated Cross-Modal Attention 耦合，而且门控是 token 级与 head 级的，等于让模型自己决定「哪一帧、哪个注意力头需要听对面模态」。这个设计的意义在于用结构换参数量——在与 33B 的 MiniMax-H3、以及 Wan2.7 / KLing v3 的盲测对比里，7B 的它在视频质量上对 Wan2.7 拿到 45.5% 胜率、对 KLing v3 拿到 48.8%，虽然音频质量仍明显落后（对 MiniMax-H3 只有 23.7% 胜、45.5% 负），但这已经说明「原生联合」不必等大模型。它还配了一条自回归 1 步 2K 精修管线，把高分辨率从训练问题变成后处理问题。同一天的 VIBE 从另一侧呼应：视频配乐不能只靠重建损失，得把 tempo、调性这类可验证约束和「好听」这类主观质量分开做奖励。两条路线的共同判断是，多模态生成的下一步是把模态间的耦合点和奖励信号都设计得更细。 交互世界模型的持久性之争，从「存多少帧」转向「以什么粒度存」 — Matrix-Game 3.5 和 ShellGame 这两篇是今天最像一对的论文，都在追问世界模型能否真的记住世界，但一个给方案、一个下判决。昆仑万维 Skywork 的 Matrix-Game 3.5 把历史记忆的粒度从「整帧」降到「patch」：它把历史 latent patch 按深度和相机位姿反投影进一个持久 3D 空间，目标相机的视锥去查询这个 patch 云，再用 z-buffer 只保留每个位置最靠前的表面，最后散射成一张对齐当前视角的 memory canvas。关键是 patch-memory 与 tiled-PRoPE 两个组件都不引入任何新的可学习参数，所以能直接接在骨干上，单卡 720p 做到 20 FPS 实时。它还把静态场景和动态主体拆开，前者进 patch memory、后者用轻量参考 token，专门治长程 rollout 里的鬼影和身份漂移。而 ShellGame（首尔国立大学 + Roblox）则用一个精心设计的反例给整个方向降温：他们把 $S_5$ 状态追踪问题包装成视频版「猜球在哪个杯子下」，球被盖住后经过 N 次交换再揭晓。结论相当刺眼——双向和自回归 Transformer、Mamba、以及特征值被限制在非负区间的线性注意力，全都只能拟合训练时的 5 次交换，交换链一长就掉到随机水平，但画面依然生成得很像样，加更多去噪步数毫无帮助。根因在于像素扩散目标从来没有监督过那个看不见的隐藏状态，所以状态只能活在架构里而非 token 里。他们找到两个真能外推的机制，共同点是都跨 chunk 携带状态并原地修改：线性注意力一旦允许转移特征值取负就成功，LaCT 则随快速权重头数增加而变好。两篇合起来的信号是：视觉保真度完全不能作为世界模型「懂世界」的证据，得单独设计状态追踪的诊断任务。 推理期干预成为提升生成质量的主战场：不改权重、不重训 — 今天有三篇不约而同地把算力花在推理阶段而非训练阶段，而且都刻意避开了「重训一版」这条路。Off-Manifold Refinement（越南 Fulbright 大学 + UCLA，BMVC 2026）针对视频生成的物理违背问题：物体悬空、轨迹违反重力、接触消失。它的做法是在采样轨迹中段的若干 ODE 步，把冻结的 V-JEPA 2.1 「意外度能量」的梯度加到生成器速度场上，把 latent 推离原轨迹、推向被预测器判为更物理合理的区域，然后让生成器继续渲染。相比要生成并打分多个候选、或反复解码再编码的既有方案，它只在单条轨迹上做一次外部纠正。GEARS（北大 + 阿里，ACM TOG / SIGGRAPH Asia 2026）攻的是 test-time scaling 的浪费：现有方法采样一堆轨迹然后把低分候选直接丢掉，而那些候选里已经编码了可用的运动、布局或外观结构。它在去噪轨迹上插入多个检查点，由 Stage-Aware Scheduler 决定此刻该修什么、哪些候选该留该回收该丢，再由 Candidate Recycler 通过诊断式 latent 编辑把「弱但有希望」的候选修回来，高噪阶段修运动、低噪阶段修细节。NoisEasier（ECCV 2026）则用可微奖励引导优化整条随机轨迹而非只优化初始 latent，在 VBench 与 T2V-CompBench 的属性绑定、物体交互、计数这些难维度上平均提升超过 10%。三篇的共同判断是：与其冒 reward hacking 的风险去微调权重，不如把冻结模型当成可被引导的对象。 扩散加速的新抓手是「内容形状」和「语义复用」，不再是均匀砍 token — RTI（维尔茨堡大学 + Google）和 RegionCache（东北大学，IJCAI 2026）代表了扩散加速的两个新角度，都放弃了「均匀降采样」这个默认动作。RTI 处理的是像素空间扩散的结构性浪费：自然图像的细节只集中在画面一小部分，但模型在每一层、每个时间步都给每个 patch 分配一个完整 token，而像素空间模型没有 autoencoder 先吸收低层冗余，浪费最大。它探测到中间块的 token 在图像平坦处冗余，且冗余占据的是连通的、随内容成形的区域——于是需要形状同样随内容变化的 token。解法很巧：沿 Hilbert 曲线给 patch 排序，因为相邻位置在图像上永远是邻居，任意连续段就是一个连通区域，二维分组变成一维切割。切在特征变化最大处，每段池化成一个 region token，微调时随机抽取 region 数量，所以一个 checkpoint 服务所有预算。相比之下相似度合并会打散分组、隐空间瓶颈丢掉位置、直接跳过则是把该总结的东西删掉。RegionCache 针对的是多轮编辑场景：用户往往只改一小块，但 DiT 管线每轮都重算整张图。它用连续 prompt 之间的语义重叠加 cross-attention 定位找出可复用区域，按 prompt 相似度自适应决定复用力度，在 PixArt-alpha 上端到端加速 1.43–2.55 倍。两篇都在说同一件事：加速的抓手应该来自内容和语义的结构，而不是对 token 一刀切。 人工智能炼丹君 整理 | 2026-09-02 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-01|西湖大学让写代码的智能体当世界大脑CWM 今日 AIGC 论文速览 今日共 10 篇 · 世界模型与可执行状态 2 篇 · 长视频生成的记忆与一致性 2 篇 · 注意力与推理加速 1 篇 · 视频生成模型作为几何/物理先验 2 篇 · 生成式模型的规模律 1 篇 · 可控生成与工业落地 2 篇 重点论文标题列表 Code World Model（西湖大学 AGI Lab + 南洋理工大学）：让写代码的智能体当世界大脑 LayerRecall（浙江大学 + 香港大学）：只往记忆敏感层注入历史K/V SWA vs Linear Attention（Microsoft Applied Sciences Group）：免训练滑窗高线性注意力2-10倍 DensityKV（Manifold AI + 清华大学）：免训练把120秒历史压到3.28GiB CLAP（普林斯顿大学）：人类视频也能训机器人世界模型 今日论文速览 1. Code World Model：让写代码的智能体当世界大脑 Code World Model: Coding Agent as World Brain | 西湖大学 AGI Lab + 南洋理工大学 | arXiv:2608.25927 关键词：世界模型,coding agent,可执行世界状态,proxy 视频,MiniMax-H3,时空约束,西湖大学,南洋理工 前序问题：现在的视频世界模型基本都是从视觉观测里学动力学，这条路有个结构性的短板：视频只呈现「发生了什么结果」，并不承载「为什么会这样、规则是什么」。于是模型学到的是像素层面的统计关联，而不是支配世界演化的知识与机制。后果很具体——持久性守不住。玩家砸碎的花瓶在几十帧之后可能自己复原，捡走的道具会重新出现在原地，因为「这个物体已经不存在了」这件事从来没有被显式记录，只是被寄望于模型的隐式记忆能扛住。开放式演化更是无从谈起：一个只会预测下一帧的模型没有可查询、可修改的世界状态，你无法问它「现在背包里有几把剑」，也无法让它在规则层面上一致地长期跑下去。真正缺的东西是一个显式、持久、可按规则更新的状态表示，而这恰好是视频模型这种表示形式最不擅长承载的。 本文贡献：Code World Model 的做法是把「世界如何演化」和「世界长什么样」彻底分开。前者交给语言模型的推理与编码能力：一个 coding agent 充当 world brain，接收交互意图，推理事件及其后果，然后写出可执行代码去更新一份持久的世界状态，从而保证演化是符合规则的、后果是留得住的。后者交给视频模型的生成先验。两者之间的桥梁是作者提出的 proxy representation——把世界状态编译成一段编码了逐帧时空约束的 proxy 视频（画面里是分割色块与骨架这类粗糙几何），再用它去条件化视频模型渲染出高保真观测。为此作者还建了数据管线，从游戏录像和真实视频里构造对齐的 proxy–observation 配对数据。实验用 MiniMax-H3 作为视频骨干在配对的 gameplay 数据上微调，结果它能跟随 coding agent 搭出的简单交互世界所给定的 proxy 时空规格，同时保留丰富的视觉细节与动态。 auto 实验效果：作者展示的核心结果是这套「代码管状态、视频管画面」的组合确实能跑通：微调后的 MiniMax-H3 遵循 proxy 指定的时空结构，把粗糙的色块骨架渲染成细节丰富的画面。视觉质量部分最值得注意的是数据效率——仅用五小时 GTA V 游戏录像做微调，模型就在角色、环境、运动方式和相机轨迹都不同的场景上表现出泛化能力，论文的 case 图里既有真人角色也有二次元角色（美少女战士造型），说明外观由文本与视频先验控制、运动由 proxy 控制这个分工是成立的。此外作者也在真实视频上构造了 proxy–observation 配对，说明这套表示不只适用于游戏。整体上论文的定位是可行性验证与范式提出，而不是刷榜。 auto 批判点评：这篇最有价值的地方是把「持久性」这个问题从模型能力问题重新定义成了系统架构问题。既然规则和状态本来就适合用代码表达，那硬要视频模型在隐空间里隐式维护它，本身就是拿错了工具；让 coding agent 写代码维护状态、视频模型只做渲染，是一个分工干净且可验证的设计——世界状态可以被打印、被断言、被单元测试，这在纯生成式世界模型里是做不到的。proxy 视频作为界面也选得务实：它同时携带几何与时序约束，又足够粗糙以至于生成模型有充分自由度补细节。但局限相当明显。第一，整套系统的天花板被 coding agent 顶住了——世界的规则得先被语言模型正确地推理并写成代码，稍微复杂的物理（流体、形变、多体接触）根本不是几行代码能覆盖的，论文验证的也确实是「simple interactive worlds」。第二，proxy 到观测这一步是有信息瓶颈的：proxy 只编码了粗粒度时空约束，那些不在 proxy 里的物理细节（材质变化、光影随事件的响应）就只能由视频模型自由发挥，未必与代码里的状态一致，这等于在系统中留了一道「状态与画面可能对不上」的缝。第三，实验缺少对照——没有和强视频世界模型在同一任务上比长程一致性，也没有量化「持久性」这个自己主打的卖点，比如「事件发生 N 秒后后果是否仍被正确渲染」这样的指标，读者只能从 case 里目测。 2. LayerRecall：只往记忆敏感层注入历史K/V LayerRecall: A State-Conditioned Memory Router for Long-Horizon Consistency in Video Generation | 浙江大学 + 香港大学 | arXiv:2608.28460 关键词：长视频生成,记忆路由,分层注意力,K/V 检索,多镜头一致性,MemoBench,浙江大学,香港大学 前序问题：自回归视频扩散靠一个有界的近期上下文逐块生成，这让长视频在算力上变得可行，但也埋了一个必然的漏洞：基于时间邻近的缓存策略会把「暂时用不到」的历史逐出，而一旦某个主体、物体、场景或属性在几十秒后重新出现，需要的线索恰恰是刚被逐出的那部分。已有的记忆机制思路是给模型开一个通往非局部历史的通道，但作者指出一个关键区别——「能访问」不等于「会用」。他们的分析发现 video DiT 的各层对当前块、近期上下文与远期历史的偏好差异明显，也就是说层与层之间在记忆这件事上分工不同。这意味着长程记忆其实是两个耦合的决策：检索什么，以及在哪里用它。把历史无差别地灌进所有层，既浪费又可能干扰那些本该专注局部连续性的层。另一个现实约束是数据：高质量的长时程视频稀缺，显式的「记忆分配」标注更是根本不存在。 本文贡献：LayerRecall 是一个以当前状态为条件、按层选择的记忆路由器。它维护按层索引的记忆库存放有限的历史 K/V 候选，用当前块的隐状态算出一个查询（图中给出的形式是全局查询加上一个由 gate 与 MLP 调制的层相关增量 Δq），再用余弦相似度对各历史片段打分，决定检索哪些。关键的第二步是注入位置：检索到的状态只被送进事先剖析出的「记忆敏感层」，其余层完整保留原有的 sink、滑动窗口与当前块注意力上下文，因此局部连续性不受影响，额外开销也很小。为了摆脱对稀缺长视频和记忆分配标注的依赖，作者提出 Cross-Horizon Prediction Matching（CHPM），用短时程可得的监督信号来训练这个在预测空间工作的有界记忆路由器，绕开了显式标注。 auto 实验效果：在 100 条多镜头评测提示上，LayerRecall 在 MemoBench 与 MovieBench 上取得最好的整体结果，同时在 VBench-Long 上与其骨干持平——这个组合是它主张的核心证据：增强了长程恢复能力，但没有牺牲局部连续性。定性分析里作者展示了一个叫「记忆引导的自我纠正」的现象：三镜头序列中主体在第一镜头穿纯蓝内搭，第二镜头离场，第三镜头重新出现时最初带了错误的花纹，随后 LayerRecall 把早先的纯蓝外观召回，同时保住了人物身份、灰色开衫、正在进行的动作与场景结构，也就是说属性恢复是局部发生的，没有触发整体画面的重置。作者另外给了跨骨干可移植性与推理开销可忽略的分析，但明确把这一点表述为「在所测模型上的可移植性」而非普适的零样本适用性。 auto 批判点评：「层各有偏好，所以记忆要选层注入」是个漂亮且可验证的观察，也是这篇比一般「加个记忆库」工作高明的地方——它把注入位置当成与检索内容同等重要的决策变量，而选择性注入自然带来了低开销和不破坏局部注意力这两个副产品，工程上很讨喜。CHPM 用跨时程预测匹配替代不存在的记忆分配标注，也是务实的解法。需要保留的疑问有几点。首先，记忆敏感层是「剖析」出来的，这就引入了一个骨干相关的先验步骤，论文也诚实地把跨骨干结论限定在所测模型内；那么换一个架构差异较大的骨干时，这套剖析要重做多少、成本多高，是决定它能否成为通用组件的关键，文中讨论不足。其次，VBench-Long 只是持平，说明当前收益集中在「重现一致性」这个特定维度，对整体视频质量并无提升，这个边界读者应当清楚。第三，自我纠正那个案例虽然很有说服力，但它同时暴露一个隐忧：模型是在出错之后才召回正确属性的，也就是说错误已经被生成出来并停留了若干帧，路由器扮演的是事后修正而非事前预防；对需要严格连续性的应用，这种「先错后改」的行为模式本身就是一种瑕疵，论文没有量化它出现的频率与持续时长。 3. SWA vs Linear Attention：免训练滑窗高线性注意力2-10倍 Sliding-window beats linear attention | Microsoft Applied Sciences Group | arXiv:2608.28444 关键词：线性注意力,滑动窗口注意力,attention sink,KV cache,长上下文,推理加速,基线对比,微软 前序问题：二次复杂度注意力让大模型在内存和能耗上都不可持续：每个新 token 的代价都比前一个大，因为它的 key 和 value 必须被无限期地存在显存里。为了解决这个问题，一条备受关注的路线是把已经训好的模型改造成线性注意力（retrofitting），承诺以很低的成本换来常数级的状态开销和接近原始水平的性能，相关工作这几年数量可观。作者的批评切中要害：这条线一直没有和足够简单的基线做过认真对比。滑动窗口注意力（SWA）就是那个被跳过的对照组——它同样把每步的注意力开销限死在窗口大小内，同样让 KV 占用与序列长度解耦，但它不需要任何改造训练，是一行配置就能开启的方案。当一个研究方向连年在自己的评测里进步，却从未被最朴素的替代方案挑战过，那么这些进步究竟来自方法本身还是来自评测协议的选择，就成了一个必须回答的问题。 本文贡献：这篇不提新方法，而是补上那场缺失的对照实验：把带 attention sink 的 SWA 与经过 post-training 的线性注意力模型，在多个不同的 LLM 与多类下游任务上做系统比较。论文用一张注意力掩码对照图把三种方案的机制差异讲清楚：完整注意力是满的下三角；LoLCATs / Liger-GLA 这类混合方案在近处用 softmax、远处叠加线性注意力，覆盖整个下三角；带 sink 的 SWA 则只保留最左侧的 sink 列与主对角线附近的窗口带，其余位置直接留空。除了任务效果，作者还量化了解码吞吐与状态内存随上下文长度（128 到 256K）的变化曲线，把「快多少、省多少」和「准多少」放在同一张桌子上比较。最后给出的是一条明确的部署建议，而不是一个新架构。 auto 实验效果：结论是带 sink 的 SWA 在多个 LLM、多类下游任务上表现与 post-trained 线性注意力持平或更好；而在长上下文推理任务上差距被拉开——Needle-in-a-Haystack 与 BABILong 上 SWA 的表现是线性注意力的 2 到 10 倍。效率侧的曲线同样一边倒：完整注意力的解码吞吐从 128 上下文起就随长度持续下滑，到 256K 时降了一个多数量级，KV 占用则近乎线性地涨到 10³ MiB 量级；SWA（窗口 64 与 512）与线性方案的吞吐则在全区间基本是平的，内存占用保持在个位数 MiB 的常数水平，其中 SWA=64 的吞吐是所有方案中最高的。作者据此给出的建议相当直白：要降低推理内存成本，应该直接切到 SWA，而不是去 post-train 线性模型；线性注意力若要追上 SWA，恐怕得从头训练或投入远更大规模的 post-training。 auto 批判点评：这篇的价值不在技术新意而在方法论卫生：它用一个被长期忽略的朴素基线，检验了一个热门方向的实际收益，并且检验方式是公平的——同时报吞吐、内存与任务效果，而不是只挑有利维度。长上下文推理上 2 到 10 倍的差距尤其值得警惕，因为它指向一个具体的机制解释：线性注意力把历史压成固定大小的状态，本质上是有损压缩，需要精确回忆某个远处细节的任务（大海捞针正是如此）最容易暴露这种损失；而 SWA 虽然看不到远处，但它对窗口内的信息是无损的，配上 sink 又能保住那个对稳定性至关重要的锚点。不过这个结论的适用边界必须说清楚。首先它比较的对象是「post-trained」线性模型，作者自己也承认从头训练的线性注意力可能是另一回事，因此不能被读成「线性注意力这条路错了」。其次，SWA 的强项恰好是它的弱点的另一面：它在窗口外真的什么都看不到，那些需要跨越超长距离做全局聚合（而非精确检索）的任务，理论上应该更利于线性注意力，论文若能补上这类任务的反例会更完整。第三，attention sink 这个关键组件的贡献没有被单独拆开——SWA 好在哪里，有多少来自窗口本身、多少来自 sink，读者无法从现有结果中分离。 4. DensityKV：免训练把120秒历史压到3.28GiB DensityKV: Density-Guided KV Cache Compression for Long Video Generation | Manifold AI + 清华大学 | arXiv:2608.27922 关键词：长视频生成,KV cache 压缩,免训练,Soft-Riesz 密度,post-RoPE key,滑动窗口注意力,Manifold AI,清华大学 前序问题：自回归视频扩散用滑动窗口注意力实现流式生成，但每个新块都以之前生成的内容为条件，于是外观和运动上的误差会沿着 rollout 递归地传播放大。保留历史 K/V 记忆可以留住早先的主体与场景状态，对长时程一致性有实质帮助，但直接全存下来会带来两个问题。一是存储随 rollout 无限增长——生成得越久，这份历史档案就越大，没有上界；二是这些状态之间存在大量冗余：视频里的循环性内容（同一个人反复出现、同一片背景反复入画）会让相似的 key 一遍又一遍地被写进记忆，重复覆盖同一片区域，占了空间却没有带来新信息。已有的检索式方案（如 LongLive-RAG）保留全部被逐出的历史再按需检索，一致性是换来了，但存储代价随时长线性上升，这在实际部署里很快就不可接受。 本文贡献：DensityKV 是一个免训练的历史 K/V 库管理策略，核心思想是用「局部冗余度」来决定一个新状态该不该被收进记忆。它为每个注意力头维护独立的 token 级 K/V 库，并且只在 post-RoPE 的 key 上度量冗余——理由很具体：直接参与注意力路由计算的正是这些 post-RoPE key，冗余应当在真正影响路由的那个空间里衡量。度量方式是 Soft-Riesz 密度：候选 key 落在已有 key 的高密度邻域里就说明信息重复，予以拒收；落在稀疏区域则接纳。通过约束状态进入库之后的邻域密度增长，DensityKV 限制了历史的重复累积，同时保留那些真正携带不同状态的片段，且每个 value 与其 key 严格配对。在生成时，这个有界的压缩历史与本地滑动窗口一起被当前帧注意，不需要任何训练或改结构。 auto 实验效果：存储侧的对比最直观：随生成长度增加，检索式的 LongLive-RAG 的持久时序状态是线性增长的，30 秒 32.1 GiB、60 秒 64.3 GiB、120 秒 128.5 GiB；而 DensityKV 与 Deep Forcing 保持有界，120 秒时分别只有 3.28 GiB 和 3.76 GiB——DensityKV 是三者中最低的，且与 rollout 长度无关。质量侧，作者在三个自回归视频生成骨干与多个生成长度上做了评估，结论是在相同的历史 KV 容量上限下，DensityKV 提升了长时程一致性与生成稳定性，同时持久历史存储不随 rollout 增长。作者还在与 LongLive-RAG 对齐的评测协议下报告了 30/60/120 秒的单指标胜率统计，以及 120 秒长度上两组骨干–提示配对的定性对比。 auto 批判点评：把冗余度量放在 post-RoPE key 上是这篇最见功力的一个细节——很多 KV 压缩工作在 pre-RoPE 表示或 value 空间上做相似度判断，但真正决定「这个历史 token 会不会被注意到」的是加了位置编码之后的 key，度量空间和作用空间对齐了，判据才有意义。免训练、每头独立建库这两点也让它作为即插即用组件的门槛很低。可质疑之处主要在评估口径。第一，主要卖点是「有界存储 + 一致性更好」，但 Deep Forcing 同样有界（3.76 vs 3.28 GiB），两者差距其实很小，所以真正的胜负要看质量维度，而质量对比是在「相同容量上限」这个受控前提下给出的相对改善，加上以单指标胜率的形式汇报，读者很难判断绝对差距有多大——胜率高不代表差距显著。第二，密度判据本身是个启发式：Soft-Riesz 密度衡量的是表示空间里的几何拥挤程度，而「表示相近」并不严格等价于「语义冗余」，一个在视觉上关键但恰好落在密集区的状态会被误拒，论文没有分析这种误拒的代价。第三，方法针对的是「循环性内容造成的重复覆盖」，那么在场景持续大幅变化、几乎没有重复的视频上，密度筛选可用的压缩空间理应很小，此时它退化成什么行为、还有多少收益，文中缺少这类不利场景的讨论。 5. CLAP：人类视频也能训机器人世界模型 CLAP: Cross-Embodiment Video World Models are Zero-Shot Physical Simulators | 普林斯顿大学 | arXiv:2608.27406 关键词：跨本体,动作条件视频生成,世界模型,latent action,末端执行器位姿,零样本部署,DROID,普林斯顿 前序问题：当前最好的动作条件视频模型基本都被绑在单一机器人本体上，这让它们无法利用互联网上海量的异构视频——那些视频里其实包含了学习可泛化物理规律所需的丰富信号，只是拍摄主体从某型机械臂换成了人手或别的机器人。跨本体学习之所以难，症结在动作表示：不同机器人平台的动作空间差异极大（自由度不同、坐标系不同、抓取方式不同），而人类视频里根本就没有动作标注这回事。于是研究者面临一个两难，要么放弃海量人类视频只用带标注的机器人数据，要么用一个高度抽象的统一表示但丢掉精度。作者的出发点是一个物理上的判断：支配时空动力学的普适物理规律并不关心执行者是谁，所以跨本体的数据本应是可以共用的，缺的只是把异构动作对齐起来的机制。 本文贡献：CLAP 是一个跨本体动作条件视频生成框架，能在人类与机器人混合的互联网规模视频上训练。它先用三种表示来调和不同的动作空间：末端执行器位姿（精度高但需要标注与统一坐标系）、语言指令（对基础模型而言域间差异最小但精度差）、以及 latent action（可从无标注视频里自监督学到）。为了绕开每种表示各自的短板，作者设计了基于课程的跨本体学习配方：第一阶段用 latent action 在大量无标注视频上学基础物理先验，第二阶段再把这些先验落地到末端执行器动作空间，从而支持零样本部署到真实任务。作者把 latent action、课程版、末端执行器版分别做成了模型变体，并开源了全部代码与模型。 auto 实验效果：在 DROID 这类有挑战性的环境里，CLAP 接近或超过了当前最好的单本体视频模型；在 Bridge 这类较简单的域上只有轻微的保真度下降。在混合了多种本体的 OXE-Mix 数据上，latent action 版与课程版取得最高的预测精度，末端执行器版紧随其后。作者强调这些优势会通过少样本适配进一步复合放大——用 CLAP 作骨干微调后，在 G1 人形机器人上实现了高精度的动力学预测；论文也展示了对双臂 YAM 机器人的少样本适配。最终交付的是作者称为迄今最全面的一套动作条件视频世界模型，覆盖三种动作条件空间（末端执行器、语言、latent）与多种机器人形态，包括跨本体、DROID、Bridge、双臂 YAM 与 G1 人形。作者在附录中还主动澄清了几点：CLAP 并非普遍优于单本体模型，偶尔会不如为单一本体定制的模型；也没有哪一种动作表示能普遍胜出。 auto 批判点评：把跨本体的核心难点定位为「动作表示对齐」而不是「模型容量不够」，并且用三种表示各取所长、再用课程把它们串起来，这个设计是有物理直觉支撑的：先在无标注数据上用 latent action 学通用动力学，再用末端执行器位姿把抽象先验锚定到可执行的动作空间，顺序符合「先学规律后学接口」的逻辑。附录里主动写明「不普遍优于单本体模型」「没有单一最优表示」这类结论，在当下的论文风气里是值得肯定的诚实。但仍有值得追问的地方。第一，末端执行器位姿虽然比关节角通用，仍然是个偏「机械臂中心」的表示，用它去描述人手的复杂操作（多指协同、手内调整）必然是降维的，那么第二阶段的落地过程中，第一阶段从人类视频学到的精细动力学有多少能真正被继承下来，论文没有拆解。第二，主要指标是视频预测精度，而世界模型的最终价值在于能否支撑决策——预测得像不代表推演得对，如果没有下游策略学习或规划任务上的对照，「zero-shot physical simulator」这个说法是超出证据范围的。第三，Bridge 上的保真度下降虽然被描述为轻微，但它暴露的是跨本体学习的固有代价：容量被分摊到多个域，简单域上不如专用模型，这个 trade-off 在什么规模下会翻转，值得给出定量的规模分析。 6. Manifold4D：几何信息注入初始噪声而非条件 Manifold4D: Denoising on Point Cloud Rendered Manifolds for Video Re-shooting | 浙江大学 + Manifold Tech + 上海科技大学 + 剑桥大学 | arXiv:2608.28174 关键词：视频重拍,相机轨迹控制,flow matching,噪声流形,点云渲染,4D 重建,浙江大学,剑桥大学 前序问题：视频重拍要做的事是：给一段单目视频和一条用户指定的相机轨迹，把这段动态场景沿新轨迹重新渲染出来。主流做法是把目标几何显式地喂给网络——用逐帧深度把源视频抬升成 4D 点云，再沿目标轨迹光栅化成一张点云渲染图。问题出在这张渲染图和源视频被同时当作视觉条件送进网络：它们在每一个去噪步骤上互相竞争，模型被迫面对一个「信任困境」——该信渲染图几分？渲染图携带正确的目标视角几何但通常稀疏、有空洞、动态主体容易糊；源视频有完整的外观与运动但视角是错的。训练分布内还能靠数据学出一个折中，一旦遇到分布外的数据，这个折中就会失衡，表现为要么轨迹控制不准（太信源视频），要么画质崩坏（太信渲染图）。 本文贡献：作者的主张很干脆：一张已经与目标视角像素对齐的渲染图，压根不需要作为显式的条件流被送进网络。Manifold4D 把渲染图直接注入 flow matching 的初始噪声——生成不再从标准高斯噪声出发，而是从一个携带几何信息的新噪声流形出发，源视频因此成为唯一的视觉条件。这样一来渲染图恰好被使用一次，网络也从来不需要学习「怎么读懂这张渲染图」；在后续的每个去噪步骤里，模型可以专心处理源视频。具体流程是：由单目视频重建 4D 点云并沿目标轨迹渲染，渲染结果的 VAE latent 被注入噪声并 patchify 成 token，源视频同样编码成 token，两者在帧维度拼接后连同编码后的相机轨迹一起送入 DiT 去噪。作者还构建了 DAVIS-Traj 基准用于评测。 auto 实验效果：在自建的 DAVIS-Traj 基准和 Vista4D 评测集上，Manifold4D 在所有相机控制指标上都取得最好成绩：旋转误差分别降低 25% 和 27%，平移误差最多降低 32%，同时在视频保真度上与最强基线持平，并在真实场景的新视角光度质量上领先。用户研究显示它在轨迹跟随与动态一致性上有明显优势。两个补充实验支撑了它的核心主张：一是当偏航幅度超出训练范围时，它与基线的差距进一步拉大，说明这种几何注入方式的外推性更好；二是当刻意破坏渲染图（去掉运动掩码，让所有帧的动态点堆叠在一起把主体糊掉）时，模型仍能从源视频里恢复出正确的运动——这证明几何先验起的是引导作用，而不是压制生成。 auto 批判点评：这篇的核心洞察相当漂亮，而且是那种一旦说出来就显得理所当然的洞察：条件流的作用是给网络提供「需要被理解和转换」的信息，而一张已经和目标视角像素对齐的渲染图不需要被理解，它需要的只是被作为起点。把它挪到初始噪声里，等于把一个「网络得学着去信任多少」的软决策，换成了一个「先天就在那里」的硬约束，信任困境就此消失。两个验证实验也设计得很到位——外推区间差距拉大证明了几何先验的泛化性，故意破坏渲染图仍能恢复运动则证明了它没有过度依赖先验，一正一反把「引导而非覆盖」这个说法钉住了。需要注意的边界是：整套方法建立在「渲染图与目标视角像素对齐」这个前提上，而这个对齐完全依赖前置的深度估计与 4D 重建质量；深度出系统性错误时，错误会被直接编码进初始噪声，而此时网络甚至没有一个条件通道可以用来纠偏——鲁棒性实验破坏的是动态主体的清晰度（糊），并没有测试深度尺度或结构性错误这类更致命的失效。其次，视频保真度只是与最强基线持平，收益集中在相机控制精度上，读者不应把它理解为画质也更好。第三，DAVIS-Traj 是作者自建的基准，虽然同时在 Vista4D 上做了验证，但主基准自建这件事在轨迹幅度分布的选择上天然存在有利于自己方法的空间。 7. GeoNeXt：深度法向重写成下一帧预测 Video Generative Models as Geometry Learner | 萨里大学 + 帝国理工学院 | arXiv:2608.28549 关键词：单目深度估计,表面法向,视频扩散,几何先验,数据高效,零样本,ECCV,萨里大学 前序问题：用生成模型做几何估计现在有两条常见路径，各有各的浪费。第一条是拿现成的图像扩散模型分别为深度和法向训练任务专属模型，每个几何目标一个模型，这样做丢掉了一件本该利用的事——深度和法向在几何上是强相关的（法向可以由深度的梯度导出），分开训练等于放弃了联合建模的机会。第二条是改造图像扩散骨干（比如动自注意力结构）做联合微调，这条路能共享表示，但代价是通常需要大量标注数据，而带真值几何标注的数据本身就贵。作者认为这两条路的共同局限来自骨干选错了：图像扩散模型的先验是单帧的，而几何估计本质上需要跨视角、跨帧的结构化理解，这恰好是视频生成模型在预训练中天然获得的东西。 本文贡献：GeoNeXt 把预训练视频生成模型重新用作几何估计的统一且数据高效的框架，关键在于把任务创新性地表述成「下一帧预测」：图像和几何目标被放在同一个时间序列的不同槽位上，于是「从图像推几何」和「从几何推图像」都变成视频模型最擅长的那件事——预测序列的下一段。具体实现上，从预训练的 Stable Video Diffusion 出发，用冻结的 Stable Diffusion VAE 把 RGB 图像、深度、表面法向分别编码进隐空间；加噪时把图像 latent 复制到深度与法向这两个几何槽位，并通过拼接几何 latent 做进一步条件化；只微调 GeoNeXt U-Net（跳过 cross-attention），训练目标是图像、深度、法向三项重建损失之和。这样模型既继承了视频模型天然结构化的知识与更丰富的先验，又能联合建模图像与几何两个方向。 auto 实验效果：在多个数据集上的零样本单目深度与表面法向估计实验中，GeoNeXt 同时超过了此前的任务专属生成方法和统一生成方法，而且用的训练数据显著更少。更值得注意的是它与判别式方法的对比：论文称其性能可与那些多用了 100 倍以上数据训练的判别式 SOTA 方法相媲美，在若干基准上甚至更为突出。定性结果方面，作者展示的跨数据集深度对比显示 GeoNeXt 对精细结构的重建更好，法向对比则显示它产生的法向更准确、细节更多，能有效捕捉细小几何结构与表面朝向。整体上论文的卖点是数据效率——同等或更好的效果，训练数据少一到两个数量级。 auto 批判点评：「几何估计其实是个序列预测问题」这个重构是这篇的核心贡献，也是它数据效率高的原因所在——它没有让模型从头学几何，而是把几何塞进了模型已经很擅长的那个任务形式里，于是预训练里积累的时空结构先验可以直接复用。把图像 latent 复制到几何槽位这个细节也很聪明：它给了模型一个「几何应当与图像空间对齐」的强初始化，而不是让它从噪声里猜。真正的局限在于代价与定位。第一，视频扩散骨干比图像扩散骨干重得多，推理成本必然更高，而深度估计在实际应用里往往是实时或近实时的需求，论文若不给出与判别式方法的推理开销对比，「相媲美」这个结论在部署视角下是不完整的——用 100 倍少的数据换 N 倍的推理时间，是否划算取决于场景。第二，与判别式 SOTA 的关系被表述为「rivals」并在部分基准领先，这意味着并未全面超越，读者应把这篇的价值定位在数据效率而非绝对精度。第三，深度与法向的联合建模被当作卖点，但论文（从摘要层面）没有量化这种联合到底贡献了多少——如果单独训练两个 GeoNeXt 也能达到接近的效果，那「利用几何目标内在相关性」这个动机就削弱了，一个联合 vs 分离的消融是必要的。 8. ATA：单张参考图学出可加减属性向量 Attribute Token Arithmetic: Disentangled and Continuous Semantic Control for Visual Autoregressive Models | 莫纳什大学 | arXiv:2608.28082 关键词：视觉自回归,属性解耦,连续语义控制,向量算术,VAR,单图学习,免重训,莫纳什大学 前序问题：自回归文生图最近进展很快，用一个统一的生成框架就能做出高保真图像，但细粒度语义控制一直不好做，原因有两个：属性之间是纠缠的，以及文本表示和细粒度视觉表示之间存在错位。具体表现是你想让猫「胖一点」，改了提示词之后猫可能连品种和身份都变了；你想控制「胖」的程度，语言又给不出连续的刻度——「a fat cat」和「a very fat cat」之间没有可靠的插值。已有的自回归编辑方法要么需要重训模型或大规模监督，要么只能做离散的、整体性的替换，不能做「把这一个属性沿一条轴连续推一点」这种操作，更做不到把多个属性各自独立地叠加上去。 本文贡献：ATA 的灵感来自词嵌入里那个经典的向量算术性质：既然语义在嵌入空间里可以加减，那视觉属性也许可以。方法在预训练自回归模型的隐空间里直接找出对应视觉属性（论文举的例子是变老、变胖、情绪）的语义方向，而且这些方向只需从单张参考图学得，不需要重训模型也不需要大规模监督。做法上，给定一张参考图和一对语义只差一个属性的提示词（比如「A fat cat on the ground」与「A cat on the ground」），ATA 学出两个语义方向，并通过一个 Delta-Mod 模块把学到的方向加到 cross-attention 里对应的 VAR 对齐文本 token 上——关键是加到属性 token（「fat」）而不是身份 token（「cat」）上。生成时属性就可以通过与其他属性 token 的简单算术运算被连续调节与组合式叠加。 auto 实验效果：实验显示 ATA 实现了保持身份的、细粒度的、多属性同时调节的编辑效果，在可控性、通用性和计算效率三方面都优于已有的自回归编辑基线。作者展示的能力包括：连续调节单个属性强度并可将两个属性依次增强；跨类别的属性迁移——把「苹果形状」这个属性施加到「蛋糕」上时，ATA 是让蛋糕逐渐变成苹果形状的蛋糕，而基线方法直接把蛋糕变成了苹果，把原本定义在斯芬克斯猫上的「Sphynx」属性迁移到羊身上也能得到渐变的无毛效果；身份与属性的组合性——从三张参考图提取身份方向后与眼镜、帽子、项链、雾等属性方向自由重组，身份保持不变。消融实验支撑了「加到属性 token」这个设计：把方向优化到身份 token「cat」上会改变主体身份，加到与属性无关的 token「ground」上则完全不产生变胖效果。 auto 批判点评：这篇最有说服力的部分是那个消融：把方向加到「cat」会改身份、加到「ground」什么也不发生、只有加到「fat」才既变胖又保身份——这三条对照直接证明了语义方向的作用位置是可定位、可解释的，而不是碰巧调出来的效果。跨类别迁移那组结果也很能说明解耦的质量：基线把蛋糕变成苹果，ATA 变成苹果形状的蛋糕，前者是把属性当成了类别替换，后者才是真正把「形状」这一维从「是什么东西」里剥离出来。单张参考图、免重训这两点也让实用门槛很低。局限主要在适用范围。第一，方法绑定在视觉自回归（VAR）这一类模型的「VAR 对齐文本 token + cross-attention」结构上，是否能迁移到扩散类主流模型并不显然，而当前工业界的图像编辑主力仍是扩散模型，这限制了影响面。第二，整套机制依赖「提示词对里的差异恰好对应一个可分离的视觉属性」，那些语言上难以用单个 token 差异表达的属性（复杂光照、特定构图、多物体空间关系）恐怕找不到干净的方向，论文自己也保留了一张 limitations 图。第三，对比对象限定在自回归编辑基线，没有与更强的扩散类编辑方法同台，「优于已有方法」的适用范围应当按这个口径理解。 9. VATIX：9B驾驶视频模型的规模律实测 How Far Can 5,500 Hours of Driving Take You? A Scaling Law Analysis of Video Diffusion Models | valeo.ai + 索邦大学 | arXiv:2608.28404 关键词：规模律,视频扩散,自动驾驶,固定数据集,训练预算分配,nuScenes,开源SOTA,valeo.ai 前序问题：自动驾驶的视频生成走不通网络规模那条路：驾驶数据采集昂贵、受隐私法规约束、也不能随便抓取，所以模型必须在一个固定语料上把价值榨干。这就使得「算力该怎么花」变成一个真问题而不是学术趣味——同样的预算，是拿去把模型做大，还是拿去训得更久？还需不需要再采数据？在网络规模数据的语境下这些问题往往被「加数据就好」掩盖过去，但在固定语料的约束下必须正面回答。此前领域内缺少针对驾驶视频扩散模型、从零训练、覆盖足够宽参数区间的系统规模律研究，从业者只能凭直觉分配预算。 本文贡献：作者做了一次系统的规模律研究：从零训练一族参数量从 1M 到 9B 的视频扩散模型，在最多 5,500 小时的驾驶数据上按不同曝光量训练，观察验证损失如何随模型规模与训练曝光变化。模型架构是标准的 flow matching 视频 DiT：视频 latent 由 Wan encoder 编码后加噪，经 N 个 transformer 块处理，每块含空间注意力、时间注意力与 MLP，全部由 AdaLN 调制；时间步 t 与自车轨迹的 25 个 BEV waypoint 分别用正弦特征嵌入并各过一个 MLP，相加后切成 scale 与 shift 两份用于调制，输出是速度（v-prediction）。也就是说轨迹条件是通过调制通路而非 cross-attention 注入的。作者开源了代码与预训练模型，底层驾驶数据由 NATIX 分阶段单独发布。 auto 实验效果：验证损失在模型规模与训练曝光两个维度上都呈现一致的幂律。最实用的一条结论是两者的敏感度不对称：损失随训练曝光下降得远比随模型规模下降得快，因此在算力受限时，把预算投给更长的训练是提升一个固定模型最有效的方式；但更大的模型仍然能达到更低的渐近损失，所以当算力足够时，计算最优的扩展方向依然是把模型做大。基于这套分析作者训了一个 9B 参数模型，据其所知是在驾驶数据上从零训练的最大视频扩散模型，并在 nuScenes 上刷出了驾驶视频生成的开源新 SOTA。定性方面，5 秒生成的对比显示：20M 以下的小模型能抓住整体场景布局但很快跨帧丢失物体一致性；135M 的基础模型对场景理解更好（比如能正确预测车辆正在左转），但在更长时程上难以维持连贯动态；1.1B 模型进一步改善画质与场景结构，却仍有时间不一致并在约 2.5 秒后开始崩坏。 auto 批判点评：这类工作的价值不在方法新意而在把从业者的直觉换成可查的曲线，而且它选的约束条件——固定语料、不能靠抓数据解围——正是自动驾驶、医疗影像这些受限领域的真实处境，因此结论的可迁移性比在网络规模数据上做的规模律更强。「曝光的边际收益大于参数量、但大模型渐近更低」这个不对称结论也很有操作价值：它把「小算力延长训练、大算力放大模型」这条分界线画了出来。诚实之处在于定性结果没有粉饰，直接写明 1.1B 模型在约 2.5 秒后就开始崩坏。需要保留的疑问有三点。第一，所有规模律结论都建立在验证损失上，而扩散模型的验证损失与人类感知质量、下游可用性之间的相关性并不牢固——损失继续下降不一定换来更长的时间一致性，这恰好是驾驶视频最关键的属性，论文若能给出「损失 vs 崩坏时长」的对应关系会有力得多。第二，5,500 小时这个上界本身就是结论的边界：所有关于「还需不需要更多数据」的判断都是在这个尺度内的外推，超出后曲线是否仍成立无从检验。第三，架构是固定的单一族系（Wan encoder + AdaLN 调制的时空注意力块），而规模律对架构选择是敏感的，把轨迹通过 AdaLN 调制注入而非 cross-attention 也是一个具体选择，换一种条件注入方式时这些幂律的系数能否保持，文中未作讨论。 10. CommerceVibe：电商创意生成HTML而非像素 CommerceVibe: Learning to Design E-Commerce Creatives as Executable Visual Code via Dual-Feedback Reinforcement Learning | 同济大学 + 阿里巴巴 | arXiv:2608.27893 关键词：电商创意生成,可执行视觉代码,HTML/CSS 合成,双反馈强化学习,GRPO,VLM 评判,阿里巴巴,同济大学 前序问题：高质量电商创意图是展示商品和传达营销信息的关键。扩散模型让创意生成变得可规模化，也能产出视觉上很好看的图，但落到实际投放前总要返工，原因很实在：文字会畸变、商品细节不一致。更麻烦的是产物形态——扩散模型输出的是一张压平的位图，没有显式结构，因此难以编辑与复用，改一个价格数字都得重新生成整张图。还有第三个障碍在训练侧：电商创意的设计要求往往是复合的、带硬约束的（文字必须清晰可读、商品必须可见不被遮挡、版式必须合法），这类要求很难被编码成可验证的训练信号，而没有可验证信号就没法做有效的强化学习。 本文贡献：CommerceVibe 换掉了产物形态：把创意表示为可执行的视觉代码，生成任务因此被表述成条件化的 HTML/CSS 程序合成。给定商品图、设计要求和商品信息，它产出可渲染、可编辑、可复用的创意。为了让复合设计要求变成训练信号，作者提出双反馈强化学习：一路是基于规则的反馈，对渲染后的程序检查文字可读性、商品可见性和版式合法性——这些都是渲染完就能机械判定的硬指标；另一路是来自视觉语言模型的视觉反馈，从六个感知与商业维度评判渲染出的创意是否符合输入规格。两路信号互补，前者管约束满足，后者管依赖感知的质量。训练流程是先用超过 28,000 条电商样本对 Qwen3.5-9B 做监督微调建立基础创意能力，再用双反馈奖励通过 GRPO 做强化学习优化策略，最终一次推理直出创意。 auto 实验效果：在 1,300 例的基准上，优化后的 CommerceVibe 拿到 94.0/100 的加权分，而只做监督微调的版本是 87.3，也就是说双反馈强化学习贡献了约 6.7 分的提升，同时优于若干强外部模型。作者还请了五位电商设计专家做盲评，结果进一步验证了这些改进——这一点比自动指标更关键，因为规则分和 VLM 打分都可能被针对性优化，而人类专家的盲评是相对独立的检验。细粒度结果按 1,140 例单图与 160 例多图两类分别报告了检测器级别的规则子分和 VLM 评判各维度的评分。定性对比里作者用不同颜色的轮廓标出了文字、商品、版式、VLM 四类代表性问题的位置，未被识别出问题的类别则打绿勾。 auto 批判点评：把创意从位图改成 HTML/CSS 是一次典型的「换表示解决一类问题」：文字畸变消失了，因为文字是真的文字而不是画出来的像素；可编辑性有了，因为产物本来就是结构化代码；更妙的是它顺手解决了强化学习最缺的那件东西——可验证的奖励。渲染完的程序可以用检测器机械地判定文字是否可读、商品是否被遮挡、版式是否越界，这些硬约束在像素空间里很难可靠判定，在代码+渲染的组合里却是现成的。双反馈的分工也合理：规则管能判定的，VLM 管只能感知的。可质疑的地方集中在评估与边界。第一，奖励里有 VLM 打分，而基准的加权分很可能也包含 VLM 判定维度，这就存在训练信号与评测指标同源的隐患——94.0 这个分数有多少来自真实质量提升、多少来自对评判器偏好的拟合，需要更强的隔离设计，专家盲评是好的补充但只有五人。第二，HTML/CSS 表示的表达力有天花板：它擅长版式、文字与图层合成，但那些需要像素级生成的创意元素（商品与背景的自然融合、光影一致、艺术化质感）不是 CSS 能表达的，因此这套方案更准确的定位是「可编程版式合成」而非通用创意生成，与扩散模型是互补关系而非替代。第三，1,300 例基准与 28,000 条训练样本都来自同一电商生态，品类分布、审美规范高度同质，跨平台或跨文化的泛化能力没有证据支撑。 趋势观察 世界模型开始把「状态」从像素里拆出来，交给代码托管 — 今天最值得读的一篇工作提出了一个有点反直觉的分工：世界的演化规则不要让视频模型去学，交给会写代码的语言模型；视频模型只负责把状态渲染成好看的画面。Code World Model 让 coding agent 充当「世界大脑」，把事件与后果推理成可执行代码，代码维护一份持久化的世界状态，状态再被编译成一段粗糙的 proxy 视频去条件化视频模型。这个拆法直指纯视频世界模型的老毛病——视频只呈现「结果」，不承载「规则」，所以模型很难保证「我刚才砸碎的花瓶下一帧还是碎的」。把状态搬进代码后，持久性由程序保证而不是靠模型记性。同一天的 CLAP 从另一侧呼应：它用末端执行器位姿、语言指令、latent action 三种表示把人类视频和多种机器人本体统一到一个动作空间，让世界模型能吃下互联网规模的异构视频。两条路线的共同判断是：世界模型要往前走，得先把「动作/状态的表示」这件脏活干干净。 长视频一致性的战场已经从「窗口多大」转向「记什么、记在哪一层」 — LayerRecall 和 DensityKV 是今天最像一对的两篇，都在攻自回归视频扩散的历史记忆，但切入点完全不同。LayerRecall 的观察是：video DiT 的不同层对「当前/近期/远期」上下文的偏好并不一样，所以长程记忆是个双重决策——检索哪些历史 K/V，以及注入到哪几层。它只往少数「记忆敏感层」注入，其余层保留原来的 sink + 滑窗注意力，因此几乎零推理开销还能跨骨干迁移。DensityKV 则完全免训练，用 post-RoPE key 的 Soft-Riesz 局部密度判断新状态是否冗余：密度高就拒收，从而把持久历史存储限死在与 rollout 长度无关的常数上——120 秒生成时 LongLive-RAG 要 128.5 GiB，DensityKV 只用 3.28 GiB。两篇加在一起说明一件事：「无限长视频」这个目标的瓶颈已经不是注意力算得多快，而是历史怎么以有界代价被有选择地保留。 效率研究出现一波「回头验旧基线」的反思，结论不太体面 — 微软那篇《Sliding-window beats linear attention》标题就把结论说完了：带 sink 的滑动窗口注意力在多个 LLM、多个下游任务上打平或打赢经过 post-training 的线性注意力模型；在 Needle-in-a-Haystack 和 BABILong 这类长上下文推理上，SWA 高出 2 到 10 倍，而且它压根不需要 post-training。作者的批评相当直接——线性注意力这条线一直没有和足够简单的基线做过公平对比。这类工作在今天的效率研究里越来越重要：当一个方向在自己的评测里连年进步，却从未被最朴素的对照组挑战过，进步就可能是评测协议的产物。同一天 DensityKV 也是免训练路线，两篇一起构成一个信号：先把最便宜的方案做到位，再谈复杂改造。 视频生成模型正被反过来当作几何与物理的通用先验 — GeoNeXt 把单目深度与法向估计重写成「next-frames prediction」，直接复用预训练视频生成模型，理由是视频模型天然携带结构化的时空先验，比图像扩散模型更适合联合建模「图像↔几何」，实测能用远少的数据打赢那些多训 100 倍数据的判别式方法。Manifold4D 的思路更巧：视频重拍任务里点云渲染图和原视频作为两路条件会互相打架，模型不知道该信谁多少，于是它干脆不把渲染图当条件，而是注入到 flow matching 的初始噪声里——生成从一个「带几何信息的噪声流形」出发，渲染图只被用一次，网络也不必学会怎么读它，旋转误差因此降了 25% 与 27%。这两篇的共性是把视频生成模型当成基础设施而不是终点产品：它提供先验，任务只是换个输出头或换个注入位置。 人工智能炼丹君 整理 | 2026-09-01 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-08-31|复旦GameWAM同时生成画面和键鼠动作 今日 AIGC 论文速览 今日共 10 篇 · 世界模型与动作生成 2 篇 · 生成模型推理加速 2 篇 · 3D 资产生成与程序化建模 1 篇 · 视频与图像编辑一致性 2 篇 · 语音与实时交互 2 篇 · 世界模型评测 1 篇 重点论文标题列表 GameWAM（复旦大学 + LIGHTSPEED + 清华大学深圳国际研究生院）：首个能闭环玩游戏的世界动作模型 WALL-SS（自变量机器人 (X Square Robot)）：有界显存跑出分钟级流式推演 ClusterAttention（独立研究者）：无结构输入单次前向也能免训练加速 Procedura（南京大学）：把物体写成带装配约束的程序 MMLVE-Agent（南开大学 VCIP + 腾讯在线视频 BU）：全局记忆卡守住跨镜头编辑一致 今日论文速览 1. GameWAM：首个能闭环玩游戏的世界动作模型 GameWAM: A World Action Model for Video Games | 复旦大学 + LIGHTSPEED + 清华大学深圳国际研究生院 | arXiv:2608.26200 关键词：世界动作模型,游戏智能体,flow matching,块因果条件,键鼠控制生成,LASI,复旦,LIGHTSPEED 前序问题：游戏这个场景把两条原本分开的技术路线逼到了同一张桌子上。一边是游戏智能体：它们把画面和任务描述直接映射成动作，能玩但没有对世界如何演化的显式建模，一旦遇到需要预判后果的操作就只能靠模仿数据里的条件反射。另一边是交互式游戏世界模型：给定动作它能预测出相当逼真的未来画面，但它本身不是策略——没人告诉它该按哪个键，它就只是个渲染器。World-Action Model（WAM）的想法是把两者合成一个模型，让它同时输出「会发生什么」和「该做什么」。但游戏对 WAM 特别不友好：第一人称视角意味着画面变化极快，世界状态又要长期保持（挖到的矿、合成的物品不能凭空消失），更麻烦的是控制方式异构——游戏内是连续的鼠标视角移动，切到 GUI 界面又变成离散的点击拖拽，两套动作分布混在一条轨迹里。 本文贡献：GameWAM 是作者所称的首个面向原生闭环游戏与 GUI 控制的 WAM。核心是让视觉与动作两条生成流并行跑：Causal Video DiT 与 Causal Action DiT 通过 joint attention 耦合，在块因果（block-causal）条件下用 flow matching 同时生成未来观测和可执行的键鼠轨迹，两者共享同一段干净的因果前缀，而同时被加噪的未来视觉与动作 token 互不作为条件，避免用噪声去预测噪声。针对异构控制，模型在每个动作步先预测一个 gameplay/GUI 模式标签，再用模式专属的预测分布生成动作，并对连续动作做归一化，从而让一套模型同时驾驭「连续视角移动」和「离散界面点击」。长时程交互靠 block-cycle 控制：每轮预测超出实际执行范围的动作块，但只执行开头一小段前缀，然后从新观测重新规划；轮内用细粒度上下文、跨轮用分层历史压缩来维持时间连续性。训练数据是作者自建的画面与动作严格同步的 gameplay + GUI 轨迹集。 auto 实验效果：在 ViZDoom 与 Minecraft 类任务上，GameWAM 达到与对比智能体相当的任务成功率，但执行的原生动作数量更少——这说明它的动作更「有目的」，而不是靠高频试错凑出结果。作者展示的闭环 rollout 里有一个值得注意的行为：在「用工作台合成发射器」任务中模型中途放错了材料，观察到 GUI 状态变化后又调整了合成格配置并最终完成目标，即从画面反馈中做出了错误恢复，而这正是「有世界模型」相比纯反射式策略应该带来的能力。论文另一个反向贡献是揭示了 Low-Frequency Action Source Imprinting（LASI）：在条件固定不变时，采样动作所用噪声源的低频分量会系统性地带偏生成出的粗粒度镜头运动，也就是说「按了什么键」部分取决于随机种子长什么样。 auto 批判点评：把视觉与动作放进同一个生成过程、并用块因果掩码严格区分「可作为条件的干净前缀」和「同时被加噪的未来」，是这篇方法上最干净的部分，模式标签 + 模式专属分布也是处理异构控制的务实解法。真正让这篇论文有分量的反而是 LASI 这个负面发现：它把「生成式控制」的一个结构性隐患摆到了台面上——当动作本身来自采样，噪声的低频成分就变成了一个隐藏的控制信号，这意味着同一套条件在不同种子下会输出系统性偏向不同的镜头运动，对需要可复现性的评测和部署都是麻烦事。局限也需要点明：一是任务集集中在 ViZDoom 与 Minecraft 这类视觉相对简单、动作空间有限的环境，现代 3A 游戏的画面复杂度与状态持久性远超此范畴，声称的「原生闭环」还需要更硬的场景检验；二是「更少动作数」是个双刃指标，既可能意味着规划更好，也可能意味着模型倾向保守、放弃了需要密集操作的路径，论文没有拆开这两种解释；三是 block-cycle 只执行短前缀就重新规划，本质是用高频重规划掩盖长时程预测的漂移，代价是每轮都要重跑生成，实时性与算力开销在文中讨论不足。 2. WALL-SS：有界显存跑出分钟级流式推演 WALL-SS: Scaling Long-horizon World Models via Next-Scale Autoregression | 自变量机器人 (X Square Robot) | arXiv:2608.26239 关键词：世界模型,下一尺度自回归,长时程流式生成,尺度压缩记忆,on-policy对齐,机器人仿真,自变量机器人 前序问题：生成式世界模型对机器人的价值在于「不用真机就能试」——仿真、规划、策略评估都指望它。但要真正可用，它必须同时满足几个彼此矛盾的要求：动作与后果要对得上（给一段抓取轨迹，画面里的夹爪就得真的跟着走）；时长要可变且能持续接下去（不能只会生成固定 5 秒片段）；还要能被奖励直接优化（否则无法用强化学习闭环）。当前主流的视频扩散路线在这三点上都别扭：它以 clip 为单位迭代去噪，天然是「一段一段」的，续接时要么重新条件化、要么显存随长度线性膨胀；动作通常作为一个全局条件塞进 cross-attention，与具体时刻的状态转移关系松散；而扩散的似然不可直接计算，奖励优化只能绕道。长时程还有个更隐蔽的问题：模型训练时看的是真实历史，推理时看的是自己生成的历史，这种分布偏移会让误差沿时间累积成漂移。 本文贡献：WALL-SS 把具身轨迹表示成「观测与动作时间交错」的因果序列，让动作依赖的状态转移显式化，同时天然支持变长生成、通过复用因果状态做流式续接、以及借序列概率直接做优化。每一帧未来观测采用由粗到细的 next-scale 自回归生成（而非全帧去噪），并在这个尺度层级上搭了三个互补组件：一是动作条件的下一尺度预测，把与尺度对齐的动作表征注入各级，既建模成功行为也建模失败行为；二是尺度压缩的长时程记忆，近期交互保留在细尺度、远期观测与动作被压缩到粗尺度，配合 scale-wise dream forcing 提升对自生成上下文的鲁棒性；三是 on-policy 对齐，用「动作跟随」与「长期一致性」两个奖励优化自回归视觉动力学，同时以参考 KL 与 AR replay 约束住预训练视觉分布不被 PPO/GRPO 带崩。训练数据涵盖异构机器人与 UMI 手持采集示范。 auto 实验效果：在动作跟随与轨迹精度上 WALL-SS 优于所比较基线，并能在有界显存下跑出连贯的分钟级流式 rollout。作者给出的定量证据里最有说服力的是长时程流式跟随实验：在包含接触密集的倒水阶段的单次连续 rollout 中，逐帧的轨迹跟随误差全程保持在画面对角线长度的 0.5% 以内。与 Wan2.1-1.3B、Wan2.2-14B、Infinity-8B 的定性对比取 5s/30s/60s 三个时刻：三个基线在 30 秒后陆续出现任务目标丢失或物体消失（图中红框标出），WALL-SS 在 60 秒时仍保持分拣与倒水任务的物体与容器关系正确（绿框）。此外闭环校准实验显示，生成 rollout 与真机 rollout 的任务成功率呈线性相关，说明它可以当作策略评估的代理。 auto 批判点评：把「动作—观测交错的因果序列」作为一等表征，是这篇论文最值得借鉴的设计决策：它一次性解决了变长、流式、可优化三件事，而扩散路线要靠三套补丁分别应付。尺度压缩记忆也比「均匀降采样历史」更符合直觉——远处只需要知道大概布局，近处才需要细节。不过要冷静看几点：一是 60 秒、有界显存这类数字来自作者自建设定，基线选的是通用视频生成模型（Wan、Infinity）而非专门的机器人世界模型，比较口径对自己有利；二是 on-policy 对齐用的奖励（动作跟随、长期一致性）本质是自监督代理指标，优化它未必等于提升下游策略的真实成功率，论文的闭环校准只给了相关性、没有给出「用 WALL-SS 评估选出的 checkpoint 在真机上确实更好」的因果链条；三是团队署名为「X Square Robot Team」，贡献者列表在附录，机构信息公开度较低，复现与代码可用性需实际验证；四是分钟级 rollout 的显存有界是靠远期压缩换来的，被压掉的信息一旦在后续需要精确复现（例如回到之前的桌面重新抓取同一物体），一致性能否维持是未验证的。 3. ClusterAttention：无结构输入单次前向也能免训练加速 ClusterAttention: A training-free speedup of bidirectional attention | 独立研究者 | arXiv:2608.26965 关键词：稀疏注意力,免训练加速,递归聚类,块稀疏,质心补偿,TabPFN,Wan2.1视频生成 前序问题：稀疏注意力要做到免训练可用，现有方法几乎都要借某种外部结构：语言模型借 token 的顺序性（近处更相关），图像与视频借空间邻近（相邻 patch 更相关）。一旦输入本身没有这类结构——比如表格数据里行与行之间没有顺序、没有邻近关系——这些先验就全部失效。另一条路是先聚类再稀疏，但聚类本身很慢，只有在多次前向之间摊销才划算；对单次前向的场景（一次推理就结束）这个开销无法回本。于是「无结构输入 + 单次前向」这一格长期空着。还有一个被普遍忽略的问题：稀疏注意力的误差究竟由什么决定，业界大多靠经验调阈值，缺少可以指导设计的解析结论。 本文贡献：ClusterAttention 用一个随每个注意力头的 key/query 几何自适应的快速递归聚类替代慢速聚类，并做了一个工程上很聪明的取舍：让所有簇的尺寸固定为 2 的幂次。这样块稀疏注意力在 GPU 上每次 query-key 交互的延迟与稠密注意力持平，省下的算力才能真正兑现为端到端加速（否则不规则块会被 kernel 效率吃掉）。理论侧作者推导了稀疏注意力输出误差的表达式，用它解释了一个反直觉的实验现象——紧致的簇有时误差反而比随机簇更大；接着推导了当被排除的簇通过其质心做补偿后的误差，证明这个误差随簇越紧而越小，于是把质心补偿（striped compensation）并入方法，让「聚类做得越好、精度越高」这个本该成立的关系真正成立。 auto 实验效果：在大规模表格数据上，ClusterAttention 把 TabPFN-3 加速 2 到 6 倍，同时保留至少 99% 的稠密精度；作者称这是首个能在「无结构输入 + 单次前向」设定下成功应用的免训练方法。在视频生成上，用 Wan 2.1-14B T2V 做测试，相比专门为该领域开发的 SVOO，ClusterAttention 既取得更接近稠密注意力的输出、又拿到更大的加速比（1.8 倍对 1.4 倍），且两者都在无离线校准的条件下运行。延迟-失真的帕累托前沿图显示，在余弦相似度 0.99 这条线上，ClusterAttention 与 SVOO 的耗时差出接近一个数量级，且在 2072/3500/5306 三种分辨率下趋势一致。 auto 批判点评：这篇的方法论姿态比它的绝对数字更值得注意：先把误差写成解析式，再用它解释反直觉现象、进而设计补偿项，这条链条比大多数「调出一个好阈值」的稀疏注意力工作扎实得多，而「簇尺寸固定为 2 的幂次以对齐 GPU kernel」也是把理论加速真正落成墙钟时间的关键工程细节。需要保留判断的地方不少：一是作者为独立研究者、无机构背书，论文中的 TabPFN-3 与 Wan 2.1 实验规模有限（视频侧仅 5 个 prompt），结论的稳健性有待更大规模复现；二是视频生成的评价主要用与稠密输出的余弦相似度和延迟，而非 VBench 这类感知质量基准，「更接近稠密」不完全等于「人看着更好」；三是方法只针对双向注意力，对因果注意力（自回归 LLM/视频）不适用，而后者恰是当下最耗算力的场景；四是全文没有框架图，机制描述依赖文字与曲线，读者要理解递归聚类的具体形态需回到公式，这在工程复现时会增加成本。 4. Procedura：把物体写成带装配约束的程序 Procedura: Agentic 3D Modeling with Procedural Control | 南京大学 | arXiv:2608.26238 关键词：3D生成,程序化建模,LLM智能体,装配图,机器可校验配合,URDF articulation,南京大学 前序问题：原生 3D 生成器现在从一张图就能恢复相当不错的网格几何，但产物拿到实际生产流程里几乎立刻卡住，原因有三：本该锐利的机加工边缘在密集网格里是软的；网格是一整坨、没有部件分解，想单独换个轮子都做不到；更根本的是它没有暴露任何用户可以修改的参数——用户能做的只有重新生成，而不是编辑。这对工业设计、游戏资产、机器人仿真都是硬伤，因为这些场景要的不是「一个好看的形状」，而是「一个结构清晰、可改、可仿真的资产」。已有的 3D-代码路线尝试用程序表示形状，但多数是直接生成脚本或把文本翻译成一串构造命令，部件语义靠事后打标签补，装配关系并没有被当作一等对象。 本文贡献：Procedura 走的是「3D 形状即代码」的路线，并把关键约束前移到了装配层。给定文本提示，智能体先合成一张参考视图，然后跑三个阶段：Planning 阶段把物体分解成一张装配图，图上的节点是命名部件、边是带类型且机器可校验的配合（mate）；Procedural Modeling 阶段逐个部件写 3D 程序，每个部件的位置不是「猜」出来的，而是从配合坐标系解算出来的，并且只有在编译检查、配合检查、连通性检查三项都通过后才被接受进装配体；随后一个解耦的视觉 critic 每次只针对一个诊断出的问题做修复，避免多处同时改动引入新错误。生成时的动态上下文把三样东西打包进一条生成消息：装配参考（参考图 + 提示 + 该部件的配合）、已构建历史（完整且已能编译的部分）、以及 3D 反馈。同一张装配图还承载逐部件材质与经仿真器校验的关节运动（articulation），可导出为 OpenUSD 与 URDF。 auto 实验效果：在 P3D-Bench（用其装配判定器评分）以及作者自建的硬表面基准 MechBench-36 上，Procedura 在判定质量上超过当前主流原生 3D 生成器与此前所有 3D-代码智能体，产出的边缘锐度在所有对比方法中最高，并且是唯一输出「可编辑、部件结构化的程序」的方法。作者展示的 gallery 直观支撑了这一点：整车被自动分解为上百个带独立配色的命名部件（车架、轮胎、座椅、机枪、悬挂等各自成模块），这种分解是程序结构的天然产物，不需要事后做分割。articulation 验证部分把六个物体导出为 OpenUSD 与 URDF 并在 Isaac Sim 里做无头验证，每张图由该物体自身的仿真片段合成（扫过的中间位姿做半透明重影、终态实心），证明关节运动确实可跑。 auto 批判点评：这篇最有价值的判断是把「装配关系」而不是「几何」作为生成的一等对象——因为部件结构化、可编辑、可仿真这三个属性其实是同一件事的推论，一旦物体是由带类型配合连接的命名部件组成的程序，分解与关节就免费得到了，不需要事后分割。三重检查（编译/配合/连通）加解耦 critic 的逐次单点修复，也比让 LLM 一次性重写整个脚本要可控得多。风险同样明确：一是这条路线的能力上限被程序化表示卡死——它擅长机加工感的硬表面物体（buggy、挖掘机、机械臂），对有机形态（人物、动物、布料、植物）几乎无从下手，MechBench-36 的选题本身就说明了适用边界；二是整个流程重度依赖 LLM 的编码能力与多轮工具调用，单个物体的 token 与时间成本论文未充分披露，与「一次前向出网格」的原生生成器不在同一量级；三是评测用的是装配判定器（judge）而非几何指标或人类偏好，判定器与被评方法共享「装配」这一价值观，对不走装配路线的基线可能天然不利；四是自建基准 MechBench-36 仅 36 个物体，规模偏小。 5. MMLVE-Agent：全局记忆卡守住跨镜头编辑一致 Thinking on Shots: Consistent Multi-Shot Video Editing with Agentic Reasoning | 南开大学 VCIP + 腾讯在线视频 BU | arXiv:2608.26809 关键词：多镜头视频编辑,长视频编辑,LLM智能体,VLM,全局记忆卡,镜头分割,南开,腾讯 前序问题：视频编辑的生成能力已经不弱，但绝大多数方法的适用范围停在单镜头或短片段。真实素材是多镜头长视频，而用户给的往往是一串针对不同时间点、不同对象的指令（「1 秒处骷髅模型加圣诞帽、28 秒处屏幕里的白色动捕模型换成绿色外星人、38 秒处男子的深蓝夹克改成红黑格衬衫」）。直觉做法是按固定时长切块逐段编辑，但这会引发三类连锁失败：同一实体被切到不同块里、各块独立编辑后长相不一致（实体碎片化）；一条指令落到不该落的镜头上，或多条指令互相污染（编辑幻觉）；以及为了执行编辑而破坏了原本的镜头切换、运镜与时序结构。 本文贡献：作者先把任务形式化为 MMLVE（多指令多镜头长视频编辑），并明确三个目标：跨镜头编辑一致性（CSEC）、多指令解耦（MID）、对时空结构零破坏（ZDSS）。方法上是一个 LLM 与 VLM 协同的智能体框架，分三个模块：Instruction & Video Analysis 用 PyDetect 把长视频按物理镜头切开（而非按固定时长），再由 LLM 智能体解析并解耦复杂指令、VLM 智能体抽取关键帧与条件；Global Memory Card Making 是这套方法的关键——为每个被编辑实体建立一张全局记忆卡，卡上存「编辑前参考实体图」与「编辑后参考实体图」这一对图像，并用 P-NEF（正负例反馈循环，VLM QA 智能体给正负提示、实体特征抽取器迭代）把这张卡打磨准确；Multi-Shot Video Editing 阶段把记忆卡作为图像条件与文本指令一起拼进编辑提示，要求目标实体的编辑前状态匹配卡左侧、编辑后状态精确对应卡右侧，同时保持原背景、运镜与时序完全不变。配套发布了 MMLVE-Bench 基准。 auto 实验效果：在 MMLVE-Bench 上，MMLVE-Agent 取得最高平均分 81.84。定性对比更能说明问题：在骷髅/动捕屏幕/夹克三指令的案例里，Seedance 2.0 把整个人物换成了另一个男子、Kling o3 在第 2 镜头里凭空生成两块显示器、HappyHorse 1.0 把场景改得面目全非，而 MMLVE-Agent 只精确改动了目标实体（骷髅头上出现红帽、屏幕里模型变绿、夹克变格衬衫），七个镜头的背景与运镜保持原样。第二个陶艺案例同样：基线普遍把「黄色圆海绵换成方形蓝海绵」执行成了多余的物体替换或位置漂移，本方法在七个镜头间维持了目标物体一致。作者论证只有 MMLVE-Agent 同时满足 CSEC、MID、ZDSS 三个约束。 auto 批判点评：「全局记忆卡存编辑前后的实体图像对」这个设计相当讨巧：它把「跨镜头一致」这个抽象约束落成了一个具体、可被图像条件直接消费的产物，比让模型自己在长上下文里维持身份要可靠得多，也天然支持多条指令各自持有独立的卡从而解耦。按物理镜头而非固定时长切分也是对症的。需要打折扣的地方：一是这是一套编排框架而非新的生成模型，最终画面质量完全受限于底层编辑器，框架本身不解决「编辑器画不出来」的情况；二是链条很长（镜头分割 → LLM 指令解耦 → VLM 关键帧 → 记忆卡 P-NEF 迭代 → 逐镜头编辑），任一环节出错都会传导到最终结果，论文未给出各环节的失败率拆解，也未披露端到端耗时与调用成本；三是基准与评分都由作者自建，81.84 这个数缺少外部可比性，而对照的 Seedance/Kling/HappyHorse 都不是为多指令长视频编辑设计的，比较略有不对等；四是 ZDSS（零破坏）是个很强的宣称，但文中主要靠视觉对照支撑，没有对运镜轨迹或时序结构做定量的保真度度量。 6. LeVJEPA：单编码器一个超参告别EMA与停梯度 LeVJEPA: Efficient & Scalable Video Pretraining without the Heuristics | 德国癌症研究中心 + 歌德大学 + Mila + 蒙特利尔大学 + 布朗大学 + 纽约大学 Courant + AMI Labs | arXiv:2608.27395 关键词：视频自监督预训练,JEPA,SIGReg,表征坍缩,token随机丢弃,单编码器,LeCun 前序问题：视频天然携带物理世界的时间结构，是自监督表征学习最诱人的数据源，但代价一直很高。主流方法防止表征坍缩靠两条路：一是架构上的不对称——同时用 EMA 目标编码器、停梯度、以及一个刻意限制容量的预测器，三件套缺一不可，且各自带一堆需要调的超参；二是干脆绕开，回到像素空间重建被遮挡内容（VideoMAE 路线），但重建像素让模型花大量容量去拟合与语义无关的细节。这两条路的共同问题是：坍缩是被启发式手段「压住」的，没有理论保证，调参经验很难跨数据集迁移，而视频预训练本身又极其烧算力，试错成本高得离谱。 本文贡献：LeVJEPA 是首个在 LeJEPA 的免坍缩目标下训练的视频编码器，把 EMA、停梯度、限容预测器全部丢掉。它只用一个编码器：对同一段视频的全局视图与局部视图算不变性损失（在 [CLS] 上做 MSE），再由 SIGReg（Sketched Isotropic Gaussian Regularizer，沿随机一维投影做正态性检验）提供可证明排除坍缩的正则。架构因此简化为「编码器 + 投影器」，目标函数只剩一个超参。这个形式带来两个性质：一是预训练开销由编码器实际看到的 token 数决定，因此均匀随机丢弃 token 既能显著减少 token 数、又同时提升下游精度（丢弃在这里不是纯粹的省钱妥协，而是有正则作用）；二是在同等 epoch、同等数据下，它能匹配以启发式三件套堆出来的方法。 auto 实验效果：在同一份 K710 的 20% 子采样上以 240 epoch 训练 ViT-S/B/L，用 ImageNet-1K attentive probing 评估：LeVJEPA 的精度-算力曲线整体位于 V-JEPA 2 与 VideoMAEv2 的右上方，即在更低的总预训练 ExaFLOPs 下拿到更高精度——例如约 25 ExaFLOPs 处达到 57.5% 左右，而 V-JEPA 2 要花约 100 ExaFLOPs 才到 55.5%，横轴为对数且向右表示更省算力。表征质量的定性证据是 patch token 的前三个主成分可视化：LeVJEPA 给出的分解能把动物与周围家具、背景干净地分开，与 V-JEPA 2.1 相当，说明去掉不对称架构后并没有牺牲稠密结构。 auto 批判点评：这篇的价值主要在「减法」：把 EMA 目标编码器、停梯度、限容预测器三件套一次性拿掉，还把目标函数收到单个超参，对做视频预训练的团队意味着搜索空间大幅缩小，而 SIGReg 提供的免坍缩保证也比经验性技巧更让人放心。「token 随机丢弃同时省算力和提精度」这个观察尤其实用。但要注意几点：一是评测口径偏窄——主结果用 ImageNet-1K attentive probing，这是一个图像级线性可分性指标，对视频编码器真正关心的时序理解（动作识别、时序定位、追踪）覆盖不足，论文标题谈的是 video pretraining，评价却主要落在图像域；二是实验规模为 K710 的 20% 子集、最大 ViT-L，与 V-JEPA 2 原始的全量大规模训练不在同一量级，「匹配」结论是在缩放后的受控设定下成立，能否外推到全量仍未知；三是随机丢弃 token 提升精度的机制解释偏经验（视作正则），缺少与 SIGReg 相互作用的分析；四是作者列表横跨七个机构、含 LeCun 等，署名权重容易让读者高估结论的普适性，仍应按受控实验的边界来读。 7. PAWBench：同一初态重复推演测分布对齐 PAWBench: How Far Are We from Probabilistically Aligned World Modeling? | 上海交通大学 + 上海AI Lab + Krea AI + HuggingFace + 通义实验室 + 香港大学 | arXiv:2608.27345 关键词：世界模型评测,概率对齐,分布级判据,视频生成基准,因果干预,PAWEval,上海AI Lab 前序问题：把视频生成模型称为「世界模型」已经成了行业惯例，但现有评测几乎全在问「这条视频看起来物理上合理吗」。这个问题本身有个漏洞：很多物理过程的合理结局不止一个。抛一次硬币、球落进高尔顿板、纸牌翻面——同一初始观测加同一动作，真实世界会给出一个分布，而不是一条确定轨迹。如果模型十次 rollout 里九次都是正面朝上，每一条单独看都完全合理，但它显然没学到这个过程的随机性，只是记住了一个高概率模式。作者把这个被忽略的要求命名为概率对齐（probabilistic alignment）：世界模型不仅要能生成一个可信的未来，还要在重复采样下复现出正确的可能性分布。现有基准都不测这一点。 本文贡献：PAWBench 把概率对齐形式化为世界模型的分布级判据，并配套 PAWEval 这个结果级评估协议。做法是固定初始观测与动作，对同一设定重复 rollout，用基于评分细则（rubric）的判官把每条可读、符合模式的 rollout 映射为一个离散结果标签（如 Head / Tail），聚合成经验结果分布，再与参考概率比较——注意比较的是分布，而不是逐条视频匹配。基准分两部分：PAW-Calibration 收录参考分布可解析给出的校准型场景（覆盖八个机制组），PAW-Coverage 收录复杂随机交互、用有效支撑集覆盖率来评。作者还设计了因果/非因果干预的对照实验：改变真正影响物理转移的量（铅笔倾角）与改变不影响物理的量（高尔顿板旁边写一行「总是落在右边」的文字），看模型分布如何响应。 auto 实验效果：在 HappyHorse、Veo 3.1 Fast、Kling 3 Std、Seedance 2、Wan2.7、Wan2.2、LTX-2.3、Cosmos 3 Super I2V 等模型上，测出的整体结论是当前视频生成器离概率对齐还很远：输出往往集中在有效随机支撑的一个狭窄子集上。干预实验给出的信号最尖锐——面对因果干预（铅笔倾角改变），各模型的结果分布相比真值变化不足，即欠反应；面对非因果的文字提示，分布却被明显带偏，即过反应。换句话说，模型更像在读提示词而不是在模拟物理。失效解剖图进一步按机制组拆出八个模型各自的失败构成占比，显示不同模型的短板类型并不相同。 auto 批判点评：这篇提出的问题比它的具体分数更重要：把评价从「单条像不像」抬到「分布对不对」，是对「视频生成即世界模型」这一叙事的一次必要校正，而「对因果干预欠反应、对非因果文字过反应」这组对照几乎是最经济的反证设计——它用一行无关文字就暴露了模型在依赖语言先验而非物理推演。这个思路对做世界模型的团队有直接的诊断价值。同时要看清它的边界：一是整套协议建立在 rubric 判官能可靠把 rollout 归类为离散结果之上，判官误判会直接污染分布估计，论文虽做了可读性/合模式筛选，但判官一致性本身需要更强的验证；二是参考分布只在少数可解析场景（硬币、高尔顿板等）成立，这类场景与真实应用中关心的物理（接触、形变、流体）差距较大，PAW-Coverage 用支撑集覆盖率替代分布距离也是无奈的降级；三是被测对象多为闭源商用模型，采样参数（温度、guidance）不可控且随版本漂移，结论的可复现性有限；四是「重复 rollout 估分布」的算力成本很高，作者的 rollout 预算诊断说明样本量本身就在影响结论稳定性。 8. EmoTra-TTS：一句话内让情绪连续流动 EmoTra-TTS: Smooth Intra-Utterance Emotion Transitions for Speech Synthesis | LIGHTSPEED + 新加坡国立大学 + 南洋理工大学 | arXiv:2608.23791 关键词：情感语音合成,句内情绪过渡,VAD情感维度,流匹配解码器,合成过渡数据,EMNLP2026 前序问题：心理学早已确认人的情绪是连续演变的过程——几秒之内就会起伏、衰减、转换。但当前情感 TTS 系统的条件化方式与这个事实是错位的：一条语音只给一个离散情感标签或一个静态嵌入，也就是说整句话的情绪被假定为恒定。想合成「说着说着从平静转为愤怒」这种自然表达，现有系统做不到精确控制。基于 LLM 的 TTS 虽然可能通过对文本的理解隐式地变化韵律，但这种变化既不可显式控制、也不够精准，无法定向指定「在句子的哪个位置、往哪个方向、转多少」。更现实的障碍是数据：自然录音里句内情绪过渡的样本极其稀少，没法直接监督学习。 本文贡献：EmoTra-TTS 针对三个问题各出一招。数据侧提出多趟流混合（multi-pass flow blending）流水线来合成帧对齐的过渡音频，绕开自然过渡样本稀缺的问题。条件化侧采用双阶段的 VAD（Valence-Arousal-Dominance，效价-唤醒-支配）条件化：把情绪表示为连续三维向量而非离散标签，在 LLM 阶段用 VAD token（初始情绪 v_init、过渡情绪序列 v_tra、结果情绪 v_res）引导韵律规划，在流匹配解码器侧用帧级 VAD 嵌入落实声学实现，从而让情绪控制贯穿「先规划再实现」两级。注入方式上提出方向-幅度解耦注入（direction-magnitude decoupled injection）：把情绪嵌入对说话人嵌入的作用拆成「往哪个方向偏」与「偏多少」两部分，避免情绪强度变化时连带扰动音色身份。整体骨干是文本-语音语言模型 + 冻结的流匹配解码器 + HiFiGAN 声码器。 auto 实验效果：论文已被 EMNLP 2026 主会接收。主观评测采用盲测配对偏好，评测者在系统身份隐藏、顺序随机的条件下打分。在表格 (d)(e) 两类过渡场景下，EmoTra-TTS 对四个基线的胜率分别是：对 MOSS-TTS 79.5%（95% CI [73.7, 84.2]）、对 CosyVoice2 76.8%（[71.0, 81.7]）、对 WeSCon 75.2%（[69.4, 80.3]）、对 Qwen3-TTS 67.5%（[61.2, 73.2]），评测者一致率在 63.5%~71.6% 之间。三项 MOS 指标分别覆盖自然度与音质（MOS-Qua）、情绪准确性（MOS-Emo）与情绪过渡自然度（MOS-Tra），均为 1-5 分李克特量表。 auto 批判点评：把情绪从离散标签换成连续 VAD 轨迹、并把控制拆到「LLM 规划韵律 + 流匹配落实声学」两级，是对症的建模选择；方向-幅度解耦注入更是个细致的工程洞察——情绪强度和说话人身份共用一个嵌入空间时最容易互相污染，把方向与幅度分开正好切在痛点上。用合成流水线造过渡数据也是面对数据稀缺的务实解法。需要保留的地方：一是训练监督主要来自合成的过渡音频，模型学到的「过渡该长什么样」本质由这条流水线的先验决定，与真人自然过渡的分布差异未被量化，存在自证循环的风险；二是评测重心在主观偏好，客观指标（说话人相似度、WER、情绪分类准确率）在摘要层面披露不足，而 63.5%~71.6% 的评测者一致率提示这类判断噪声较大，胜率的置信区间虽给出但样本构成不透明；三是仅在表 (d)(e) 两类场景上报胜率，其余类别表现如何未在此层面说明，选择性汇报的可能不能排除；四是 VAD 三维虽比离散标签细，但它仍是对情绪的强降维，复杂情绪（讽刺、无奈、苦笑）能否被三个标量刻画是开放问题。 9. Sidecar：把首句人物描述注回后续提示 Sidecar: Training-Free Semantic Reuse for Character-Consistent Free-form Visual Storytelling | 美国乔治城大学 | arXiv:2608.27280 关键词：视觉叙事,角色一致性,免训练即插即用,文本编码器隐状态,语义复用,SDXL,FLUX 前序问题：视觉叙事要求连续生成的画面既跟着剧情推进、又保持人物身份不变。真实的叙事文本有个特点：角色只在第一次出场时被完整描述（「一只高挑的精灵，银发闪耀，身着精致的翠绿长袍」），之后就用类别词或代词指代（「他停下脚步」「那只松鼠开始挖洞」）。这种自由形式（free-form）的写法更接近人类叙事习惯，但对生成模型很不友好——后续提示里已经不含身份相关的语义，模型只能靠自己「记住」，结果就是身份漂移。作者的动机实验很直接：用当前最好的自由形式叙事方法 FreeStory，在其他设置完全不变的情况下，仅把完整描述替换成类别词或代词，人物就明显走形。这说明问题的根源在文本条件端的语义缺失，而不只是生成端缺一致性机制。 本文贡献：Sidecar 是一个即插即用的语义增强模块，不训练、也不改基础扩散模型的架构。它分两步：第一步语义抽取——用第一句提示过文本编码器，在每一层把对应「完整角色描述」那段 token 的隐状态取出来，存成逐层的语义表示（Sidecar Semantic Bank）；第二步语义注入——编码后续提示时，在每一层把对应的语义表示临时插入到 [BOS] 之后，让缺失的身份语义参与该层的自注意力计算，算完之后再把这些 sidecar token 移除，因此不改变提示的实际长度、也不影响后续模块的接口。增强后的文本条件送进图像生成模型（SDXL / FLUX 系列均可），得到一致的故事帧。整个机制作用在文本编码器的隐空间，与生成器解耦，所以能直接叠在多种现有方法之上。 auto 实验效果：在 FreeStoryBench 上，Sidecar 叠加到多个 SDXL 与 FLUX 基线上都稳定改善了提示-图像对齐与角色一致性，且计算开销可忽略。定性对比展示了三组故事：精灵组中 ConsiStory 原版在第 2 帧把角色画成了完全不同的黑发男子、第 6 帧又变成矮壮的中年人，加上 Sidecar 后六帧都维持银发翠袍的同一形象；松鼠组中 StoryDiffusion 原版在第 3、5 帧把主角替换成了人手与男孩，加 Sidecar 后六帧都是同一只红松鼠；闹钟组中 FreeStory 原版的黄铜闹钟在后续帧里样式与破损细节不断变化，加 Sidecar 后双铃造型与裂纹表盘保持稳定。 auto 批判点评：这篇的定位很清楚，也很讨喜：不训练、不改架构、开销可忽略，却把自由形式叙事里「后续提示丢了身份语义」这个具体缺口补上了；把注入做在文本编码器的每一层隐状态、且算完即移除 sidecar token，是个干净的实现——不改变提示长度就意味着下游一切模块无需适配，这是它能叠在 SDXL 与 FLUX 多种基线上的原因。诚实度也值得肯定，作者自己写明「原生 T2I 模型没有显式跨帧一致性机制，Sidecar 能改善身份保持但不保证完全视觉一致」。局限同样明显：一是它只补文本端的语义，画面端的一致性（构图、光照、服装细节的连贯）仍完全依赖底座，因此改善幅度受基线天花板约束；二是评测只在 FreeStoryBench 一个基准上进行，两位作者来自单一机构、无更大规模验证，泛化性待观察；三是方法假定「角色的完整描述出现在第一句」，若描述分散在多句、或故事中途角色外观本应改变（换装、受伤、成长），逐层复用首句语义反而会阻碍必要的变化，论文未讨论这种冲突；四是多角色场景下如何为每个角色分别建库、注入时如何避免语义互相干扰，也未见充分说明。 10. VoiceMem：信息与情感双脑并行流式记忆 VoiceMem: Streaming Dual-Brain Memory for Real-Time Interaction | 南洋理工大学 + 新加坡国立大学 + 香港中文大学 | arXiv:2608.26005 关键词：语音语言模型,流式记忆,双脑架构,情感归因,人格建模,实时交互,NTU,NUS 前序问题：全双工语音语言模型（SLM）在延迟和自然度上已经进步很快，但缺一个像样的记忆系统。这里的难点不只是「记住事实」：语音交互是流式的，用户还在说话时系统就该开始处理，等一句话说完再做记忆检索必然引入可感知的延迟；同时语音承载的信息比文本多一层——同一句「我没事」，语气不同含义完全相反，纯文本记忆系统（Mem0、Zep 这类把记忆当可扩展事实库的方案）天然丢掉了这部分。结果是当前语音助手要么记不住上周聊过什么，要么记住了事实却听不出用户此刻的真实状态，长程交互中的人格与共情无从积累。 本文贡献：VoiceMem 提出一个双脑记忆架构：并行的「信息左脑」与「情感右脑」，加上流式的记忆读写机制。左脑走 schema-实体组织与涌现（自然演化式更新、一跳记忆索引，把记忆按 schema/实体/说话人分槽存放）；右脑做内节点与跨节点的情感建模、以及长短程情感归因（短期做单轮情绪检查、长期做趋势分析与记忆编辑），并用双节点人格建模来刻画用户画像。关键的工程设计是两个脑都在用户说完之前就开始处理：流式预处理阶段并行抽取说话人身份、ASR、实体、schema、情绪与嵌入（其中声纹与嵌入抽取为非流式）。作者还给了完整配套：记忆感知的 SLM 训练、长程评测、以及可换记忆后端的解耦部署，检索侧用四阶段流式流程压低延迟。 auto 实验效果：作者报告三方面结果。检索精度上，左脑在 top-5 检索设定下比 Mem0 在 top-200 设定下还高出接近 30 个点——即用远小的检索预算取得更高准确率。情感与个性化上，右脑在三个人格基准上达到当时最好水平，综合分比此前最佳系统提升 4.29 分。实时性上给出了真实部署验证。案例研究展示了四类记忆缺失时会出现的失败：用户说「我没事」但语气低落时，GPT-live 回「很高兴听到这个」，VoiceMem 回「你听起来不太好，发生什么了」；用户提到方案被否，VoiceMem 能指出「最难受的也许不是方案被拒」；用户说今天很累，VoiceMem 能回想起一周前提过的面试；用户问昨天在咖啡馆听到的歌，VoiceMem 能调出当时录下的音频片段。 auto 批判点评：把记忆拆成「信息」与「情感」两条并行通路，是这篇最有辨识度的判断，也确实抓住了语音相对文本的增量——纯事实库永远处理不了「语气与字面矛盾」这类信号。让两个脑在用户说完之前就开始处理，是对流式场景的正确工程取向，四阶段检索压延迟也务实。但几个数字要小心解读：一是「top-5 胜过 Mem0 的 top-200 近 30 点」是跨检索预算的比较，读起来极为亮眼，但严格的同口径对比（同 top-k）没在摘要层面给出，这种呈现方式对自己有利；二是人格基准上的 4.29 分提升缺少方差与显著性说明，人格类评测本身主观性强；三是「情感归因」在方法上依赖对情绪的自动识别与长期趋势总结，若上游情绪识别出错，错误会被写进长期记忆并持续影响后续回应，这个错误累积风险论文未讨论；四是隐私问题相当突出——系统会持久化说话人声纹、情绪轨迹、人格画像甚至原始音频片段（案例四直接回放了昨天咖啡馆的录音），文中未见相应的数据治理与用户可控性讨论，这对要落地的产品是必须回答的问题。 趋势观察 世界模型开始「同时输出画面和动作」，不再只做视频预测器 — 今天最重的两篇工作指向同一个转折：世界模型的产物从「未来画面」升级为「未来画面 + 可执行动作」。GameWAM 用并行的视觉与动作两条生成流，在同一次 flow matching 里既画出下一帧游戏画面、又吐出键鼠轨迹，成为首个能闭环玩原生游戏的 World-Action Model；WALL-SS 把机器人轨迹写成「观测与动作时间交错」的因果序列，动作依赖的状态转移被显式建模。这个转变的意义在于：过去「世界模型」和「策略」是两个分开训练、靠接口拼起来的模块，画面好看但不保证动作可执行；现在两者共享同一个生成骨干，动作与后果在训练时就被绑在一起。副作用也随之出现——GameWAM 发现的 LASI（低频动作源印记）表明当动作也由采样噪声生成时，噪声的低频分量会系统性地带偏镜头运动，这是纯策略网络不会有的新失效模式。 长时程不再靠「窗口拉宽」，而是靠分层记忆与尺度压缩 — WALL-SS 与 MMLVE-Agent 从两个完全不同的场景收敛到同一策略：把远处的历史压缩、把近处的历史保真。WALL-SS 的 scale-compressed memory 让近期交互留在细尺度、远期观测被压到粗尺度，从而在有界显存下跑出分钟级连续 rollout；MMLVE-Agent 面对多镜头长视频编辑，做法是把跨镜头身份写进一张「全局记忆卡」（编辑前后的参考实体图像对），后续镜头都拿这张卡对齐。这与前几周长视频记忆一致性专题里的判断一致：一致性问题的瓶颈在「记什么、怎么检索」，不在注意力能看多远。 免训练加速的战场从「有结构输入」转向「无结构输入」 — ClusterAttention 补上了稀疏注意力长期缺失的一块：以往免训练方法要么吃语言的顺序、图像的空间邻近这类先验，要么依赖跨多次前向摊销的慢速聚类，所以在「无结构输入 + 单次前向」这一格里一直是空的。它用一个随注意力头几何自适应的快速递归聚类，把簇尺寸固定为 2 的幂次，从而让块稀疏注意力在 GPU 上达到与稠密注意力相同的单次交互延迟。更有意思的是它推导出的误差表达式解释了一个反直觉现象——紧致的簇有时误差反而更大，而一旦对被剔除簇做质心补偿，误差就随簇越紧而越小。这类「先把误差写成公式再据此设计补偿」的做法，比纯经验调阈值更有迁移价值。 生成质量的评价标准从「单条像不像」转向「分布对不对」 — PAWBench 提出了一个容易被忽略但相当锋利的问题：一次 rollout 看起来物理合理，不等于模型学对了物理。抛硬币在同一初始状态下应该有大约一半正面一半反面，若模型十次里九次都是正面，它只是记住了一条「看起来对」的轨迹，而非世界的随机性。该工作把「概率对齐」形式化为分布级判据，并发现当前主流视频模型对真正改变物理的干预（铅笔倾角）反应不足，反而对不改变物理的干预（高尔顿板旁边的一行文字）过度反应——这几乎是「模型在读提示词而不是模拟世界」的直接证据。当行业普遍把视频生成叫作世界模型时，这个基准提供了一把必要的尺子。 人工智能炼丹君 整理 | 2026-08-31 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注