AIGC 每日速读|2026-09-21|伯克利线性注意力让H3视频快14.5倍-VDN 今日 AIGC 论文速览 今日共 10 篇 重点论文标题列表 Video DeltaNet（UC Berkeley × Impossible Inc. × UT Austin）：线性注意力让H3快14.5倍 dQwen3.5（University of Texas at Austin）：混合骨干省一半适配token Edit-VAR（中山大学 × 华南理工大学 × 清华大学 × 山东大学 × 南开大学 × 湖南大学）：免训练免反演改视频 Paint-Anything（ByteDance Seed × 浙江大学 × 南京大学）：写个十六进制就能上色 StepAudio 3 Music（StepFun（阶跃星辰）× ACE × 香港中文大学 × UC San Diego）：先写ABC谱再生成5分半歌 今日论文速览 1. Video DeltaNet：线性注意力让H3快14.5倍 Video DeltaNet: A Video-Native Hybrid Attention for Livestream Video Generation | UC Berkeley × Impossible Inc. × UT Austin | arXiv:2609.20744 关键词：视频扩散模型,线性注意力,混合注意力,推理加速 前序问题：视频扩散模型每一步去噪都要把又长又宽的时空 token 序列过一遍注意力，算力全压在这里。线性注意力在大语言模型里已经被验证好用，但直接搬到视频模型上会丢掉细粒度交互，画面质量跟着掉——于是「省算力」和「保质量」一直是二选一。 本文贡献：论文提出 Video DeltaNet（VDN），不做纯替换而是双分支并存：局部 Softmax 注意力管近处的细粒度交互，双向线性记忆管长程视频上下文。线性分支的核心是 Video Delta Attention（VDA），它不按 token 逐个更新记忆，而是以「帧」为单位、把该帧的全部空间 token 一起吸收进去，一帧只更新一次。两个分支各有独立的输出投影和可学习门控来校准配比；适配则走分阶段的教师对齐配方（Stage A1 先单独对齐每个线性分支，A2 再端到端训练组装后的混合层），把新通路渐进地塞进已预训练的模型里。作者把 VDN 落在 MiniMax H3 上，只对 video-to-video 这类交互用混合注意力，凡是牵涉文本或音频的交互仍然保留 Softmax。 实验效果：配合八步蒸馏和优化过的 SGLang 服务栈，VDN-H3 在 8 张 NVIDIA B200 上生成 14.3 秒 768p 视频，DiT 去噪只用 6.70 秒，相对同样 8 卡、50 步的 dense H3 基线提速 14.5 倍。质量方面：50 步时 Stage B 后的 VDN-H3 与蒸馏前的 Dense H3 基本持平（美学、技术、学习质量、FIRM 各项接近，仅两个端点保真度指标略降）；八步时在五项无参考质量指标上全部最高，VQA_T 比 FastH3 v2 高 10.78 分；四步时同样在五项上超过 Dense H3 加 Larry 适配器与 FastH3 v1，VQA_T 领先 FastH3 v1 达 12.64 分。 批判点评：这篇的价值在于把「线性注意力用于视频」从整体替换改成了按交互类型分流：视频与视频之间用线性，涉及文本、音频的跨模态交互留给 Softmax，承认了不同交互对精度的敏感度本就不一样，比一刀切务实得多。以帧为单位更新记忆也和视频 tokenizer 的时间结构对齐（H3 的 VAE 按五个连续潜帧为一个时间块解码，窗口顺着它走以免 Softmax 边界切断 tokenizer 的自然时间单元）。要留意的是 14.5 倍里混进了八步蒸馏和服务栈优化的贡献，架构本身的净收益要看 50 步那组对照；论文也明确说八步那组的显著性标记是各变体与 Dense 50 比，并非 VDN-H3 直接对 FastH3。另外全部结论都长在 MiniMax H3 这一个骨干上，换模型是否还成立尚无证据。 2. dQwen3.5：混合骨干省一半适配token dQwen3.5: Hybrid-Attention Diffusion Language Models | University of Texas at Austin | arXiv:2609.20751 关键词：扩散语言模型,混合注意力,模型适配,并行解码 前序问题：把预训练好的自回归模型改造成扩散语言模型（DLM）是条省钱路线，但几乎所有现成改造都从全注意力 Transformer 出发。问题是自回归这边早就转向了注意力与 RNN 层交错的混合架构，而 RNN 结构上就是因果的，要把它双向化并不容易——骨干和目标范式对不上。 本文贡献：作者索性直接试：以 Qwen3.5 为起点，在 0.8B、2B、4B、9B 四个规模上做自回归到扩散的适配，得到 dQwen3.5 系列，并拿一个全注意力模型做对照，专门回答两个问题——混合骨干是否是高效的适配起点，适配出来的模型还保不保留定义 DLM 的并行与任意序解码行为。评测统一用同一套解码方案（默认画布 1024）而非各家自带的推理配方，并用 trunk（去掉 embedding 与输出头）参数量作为容量口径对齐比较组。 实验效果：混合骨干确实更省：达到同一训练 loss 所需的 token 量大约只要全注意力对照的一半，配图上逐个 loss 档位统计的中位数是 2.21 倍 token 效率差。跨规模看，dQwen3.5 在任意序解码行为上与全注意力 DLM 相似，并行解码下表现强劲——HumanEval 与 MBPP 上 1× 到 8× 加速区间基本压住全注意力对照。 批判点评：结论有用且反直觉：结构上「不适合」双向化的混合骨干，反而是更划算的 DLM 起点，这对想复用现成混合架构权重的人是直接的好消息。但配图暴露了摘要没提的代价——在 MATH500 上，100B token 档的混合版明显落后全注意力对照（1× 时约 9.3% 对 15.8%），数学推理这一块的损失不小，只有在 4× 以上高加速区间才靠后者衰减更快而追平。作者自己在注释里也怀疑退化可能来自训练数据混合不如 Qwen3/Qwen3.5 原始配方，这等于承认「骨干差异」和「数据差异」还没被干净地分离。另外全部比较都在基座 checkpoint 上做，后训练被明确排除在外，而后训练对下游表现影响很大，所以这套结论离「能直接上线」还有距离。 3. Edit-VAR：免训练免反演改视频 Edit-VAR: Taming Visual Autoregressive Model for Precise Video Editing | 中山大学 × 华南理工大学 × 清华大学 × 山东大学 × 南开大学 × 湖南大学 | arXiv:2609.21268 关键词：视频编辑,视觉自回归,免训练,token替换 前序问题：文本引导的视频编辑要改对目标内容，同时保住没被编辑区域的外观和时间连贯。训练型方法控制力强但吃数据吃算力；免训练方法分两条路，免反演的不用恢复轨迹，可它那套保源引导会限制编辑强度、让语义改动做不彻底；反演型先恢复潜轨迹再重生成，近似误差会累积，导致源内容漂移和时间不一致。 本文贡献：Edit-VAR 是第一个基于预训练视觉自回归视频模型、既免训练又免反演的文本引导视频编辑框架。它把源视频直接编码成多尺度离散 token，用概率引导的条件 token 替换来保源；再用注意力引导的 token 级与尺度感知调制，只在与编辑相关的位置和生成阶段选择性放松源约束。Scale-Decoupled Generation 以「晚期尺度解除约束」的形式实现，负责重新生成运动一致的细节、减少纹理碎裂。另有残差引导的 token 剪枝，利用最后两个高分辨率尺度上的冗余来压推理开销。 实验效果：大量实验加一项盲测用户研究显示，Edit-VAR 在编辑保真度、源内容保持、时间连贯性和推理效率上整体优于现有免训练视频编辑方法。定性对比里，同样把「red boat hull」改成「dark blue boat hull」、把「tree frog」改成「poison dart frog」，VACE 会连船型和背景一起改，RAVE 整片色调偏移、青蛙变成纯绿，Edit-VAR 则只换掉目标物的颜色与纹理，港口的其他船、水面倒影和叶片细节都留住了。 批判点评：把编辑搬到离散多尺度 token 上做，绕开了连续扩散反演的误差累积，这个切换是这篇最实在的地方——问题定位在「反演」而不是泛泛的「一致性」，配套的概率引导替换也把「保源还是接受编辑」变成了可按 token 判定的显式比较。但摘要通篇只给「整体优于」的定性结论，没有一个具体数字，编辑保真与源保持之间的权衡到底移动了多少无从判断；残差剪枝说是降推理成本，省了多少、掉不掉质量也没披露。更根本的限制是它绑在视觉自回归视频模型上，而这类骨干的开源生态和画质上限目前都不如主流扩散视频模型，方法再好也受骨干天花板约束。 4. Paint-Anything：写个十六进制就能上色 Paint-Anything: Unified Any-Color Control for Image Generation and Editing | ByteDance Seed × 浙江大学 × 南京大学 | arXiv:2609.20816 关键词：图像生成,图像编辑,颜色控制,数据管线 前序问题：专业设计需要的是任意颜色控制：用任一 24 位十六进制值指定某个物体的目标颜色，生成和编辑都得听话。以往工作在颜色生成、编辑、上色上各做一块，却往往依赖专门的颜色表示或特制的推理流程，不通用。而大语言模型这边提供了一个更简单的起点——连小模型都已经能把十六进制值和颜色语义对上。 本文贡献：Paint-Anything 直接把十六进制写进文本提示（包在 color 标签里）由文本编码器编码，通过物体级颜色监督学出一套生成与编辑共享的 hex-prompt 接口。配套数据管线从真实图像构建 Paint-500K：经 VLM 定位、SAM3 掩码、CIE 空间颜色提取、编辑对合成、过滤与重新描述而成。关键设计是：真实图像有阴影，标签只能算近似颜色，所以再补一批纯色锚点——它们的像素与配对的十六进制严格一致；而这些锚点只在高噪声时间步参与训练，低噪声阶段仍交给自然图像，避免把纯色的平坦质感带进成品。论文还提出 Any Color Benchmark（ACBench），含 ACBench-T2I 与 ACBench-Edit 两部分，专门量物体级十六进制颜色保真度。 实验效果：在 FLUX.2-4B 上，Paint-Anything 把 ACBench-T2I 和 ACBench-Edit 分数相对基座分别提升 85.3% 和 28.3%，并在参与比较的方法中取得最高的平均 CompColor 分。消融实验支持这套训练配方。定性对比里基座 FLUX.2-4B 常给出「语义上说得通但数值上离要求很远」的颜色——要 #FF5634 的车身给成偏红、要 #000080 的沙漠绿洲给成亮蓝，Paint-Anything 则能贴住指定色值。 批判点评：「纯色锚点只在高噪声时段用」这个细节是全文最值得抄的一笔：它承认了监督信号在不同噪声尺度上的可信度不同，用时间步做分工而不是简单混数据，比多数「加一路干净监督」的做法更讲究。把十六进制塞进文本提示、不引入专门颜色编码器，也让它能直接挂在现成模型上。但 85.3% 是相对基座的提升，基座本身在这项上分数低，相对增幅容易放大；编辑侧只有 28.3%，两者差距说明编辑任务里颜色约束和内容保持的冲突还没解决好。更要紧的是 ACBench 是作者自建的评测，「在自家基准上提升最多」这件事需要外部复现才能定性。另外全部结果都在 FLUX.2-4B 上，跨骨干的可迁移性未验证。 5. StepAudio 3 Music：先写ABC谱再生成5分半歌 StepAudio 3 Music Technical Report | StepFun（阶跃星辰）× ACE × 香港中文大学 × UC San Diego | arXiv:2609.16034 关键词：音乐生成,音频tokenizer,MoE,流匹配DiT 前序问题：长篇音乐生成要同时满足两件事：既能按开放域文本指令走，又得让和声、节奏、旋律结构立得住。以重建为导向的音频 tokenizer 会把音乐结构和精细声学细节混在一起，产出高熵 token 不好建模；而模型若只是端到端硬生，编曲结构就成了隐式的、不可控的副产物。 本文贡献：StepAudio 3 Music 走离散与连续混合的设计。StepAudio Music Tokenizer 把音频表示成 50 Hz 的单码本流（码本 65536 条），靠语义引导的自监督与多任务训练同时保住音乐结构和重建所需信息；论文用受控对比（统一 25 Hz 帧率）比较了单码本 VQ、Semantic RVQ、Acoustic RVQ 三种离散瓶颈，以及不同 DiT 配置，才定下这个方案。渲染侧由流匹配 DiT 预测连续的 StepAudio VAE 潜变量，再由 VAE 解码器还原 48 kHz 音频。显式规划则交给一个 MoE 自回归模型：它先用 ABC 记谱法产出中间编曲方案（ABC-CoT），再去预测音乐 token，让和声、节奏、旋律结构成为生成上下文的一部分。渐进式训练课程加监督微调支撑歌曲与纯器乐生成、由干声生成伴奏、翻唱合成，最长 5 分 30 秒。 实验效果：经 DPO 强化学习后，模型在 AudioBox 的 Content Enjoyment、Content Usefulness、Production Quality 三项以及 MuQ-MuLan 相似度上取得所评系统中的最高分，SongBench 结果具备竞争力。在 Artificial Analysis Music Arena Vocals 初步榜上 Quality Elo 为 1105。 批判点评：「先写 ABC 谱再生成音频」把编曲从隐式副产物提成了显式可读的中间态，这既是可控性抓手也是可调试性抓手，是这篇最有辨识度的设计；单码本 50 Hz 加流匹配 DiT 的分工，也把「离散好建模」和「连续好还原」各自的长处分开用了。但榜单要看细账：Vocals 榜上它实际是第 4 名（前面是 Suno V5.5 的 1170、Mureka V9 的 1159、Mureka V8 的 1140），摘要里「仅次于 Suno V5.5 和 Mureka」的说法把 Mureka 两个版本折叠了，读起来比实际名次靠前。更关键的是它的投票样本只有 2119，而同榜 Suno、MiniMax 等都在 1 万以上，95% 置信区间也宽到 ±14，和第 5 名 Suno V5（1097，±6）的差距在统计上并不稳。论文自己也说明这些评测衡量的是生成质量，并不直接度量对单个 ABC 音符、和弦、小节的遵循程度——也就是说 ABC-CoT 到底被执行得多准，目前没有直接证据。 6. PhysStream：边生成边推物理的流式视频 PhysStream: Streaming Physics-Grounded Video Generation with Structured Scene Memory and Fine-Grained Motion Control | University of Pennsylvania × Snap Inc. × KAUST | arXiv:2609.17521 关键词：视频生成,物理一致性,自回归,交互控制 前序问题：视频生成的交互控制正从粗糙提示走向对动态场景做细粒度、物理上有意义的操纵。但现有可控方法要么要求生成开始前就给出完整控制时间表，要么用像素空间信号去规定物体位置——那是在指派位置，而不是在指定物理动力学。 本文贡献：PhysStream 是面向物理接地的图生视频的自回归模型，带两样东西。一是结构化场景记忆：位置图与物体跟踪图都从已生成的帧里在线导出，边生成边更新。二是用稀疏的速度增量信号做细粒度运动控制，这些信号编码的是物理量，让模型去学底层动力学而不是背位置。训练分两阶段：先用运动控制条件微调一个双向模型，再训练一个因果自回归模型并额外接入结构化场景记忆，进一步提升物理一致性。 实验效果：PhysStream 支持对多物体桌面刚体场景做交互式的、生成中途的控制——这是此前方法不具备的能力。合成基准上运动分布距离（FVMD）比最强基线降低 33%，轨迹误差降低 12%；野外对比中超过 85% 的情况被人类评估者更偏好。长时程上，配图里一只玉色茶杯在桌面随机走动，从 t=0 一路走到 t=180 帧，远超 49 帧的训练窗口，仍持续跟随随机注入的速度增量交互并保持外观不崩。 批判点评：「控制信号编码物理量而非像素位置」这个取舍是关键：它把可控性问题从「让模型听话地摆物体」改成「让模型学会动力学然后自己推演」，这也是它能支持生成中途插入交互、而不需要预先排好完整控制表的根因。结构化场景记忆从已生成帧在线导出，避免了额外的外部状态追踪，工程上干净。但作者自己单列了一张图说明一致性指标的局限——FlashMotion 的一致性分数和本方法相当，却有明显伪影和幻觉物体，DragStream 生成近乎静止的画面也能拿高分，这等于承认 33% 和 12% 这两个提升所依赖的指标体系本身可信度有限，真正支撑结论的是那 85% 的人类偏好。适用范围也偏窄：主战场是多物体桌面刚体，非刚体只给了弹跳球和布料两个微调后的演示，离通用物理场景还远。 7. DeepSeek-V4.1-Flash：每token只留890字节KV DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression | DeepSeek-AI | arXiv:2609.19969 关键词：KV cache压缩,MoE,长上下文,推理成本 前序问题：长时程智能体大规模铺开后，模型负载越来越偏输入重。尽管此前工作已大幅降低长上下文计算成本，prefill 仍然很贵，而庞大的 KV cache 继续挤占 HBM 与 SSD 容量、吃掉数据传输带宽。算力、存储、带宽这三份需求合起来，构成了进一步压低部署成本的主要瓶颈。 本文贡献：DeepSeek-V4.1-Flash 是一个多模态 MoE 模型，骨干 552B 参数，支持最长 100 万 token 上下文。它采用因果编码器-解码器（CED）架构：解码时每 token 激活 16B 参数，prefill 时只激活 8B，这对智能体这类输入重负载显著改善成本效率。为把 KV cache 压缩推到极限，模型把 Compressed Sparse Attention 2（CSA2）里的跨层 KV cache 复用与 FP4 KV 缓存结合起来，使常驻 HBM 的全局 KV cache 降到每 token 890 字节，约为 DeepSeek-V4-Flash 的四分之一。再通过名为 SWA Bounded Replay 的部署优化，把常驻 SSD 或主机内存的持久 KV cache 压到约八分之一。论文另外精简了 V4 架构并引入若干高效扩展，在 45T token 的多模态语料上预训练并做了完整后训练。 实验效果：KV cache 占用大幅缩小的同时，性能明显好于基线。单 token decode FLOPs 随上下文增长的曲线上，V4.1-Flash 到 1024K 仍基本持平在 25 GFLOPs 上下，而 V4-Flash 已升到约 55、V3.2 约 600、V1 超过 3000。预训练阶段在自建留出集上，V4.1-Flash-Base 的 BPB 在所有任务上均低于 V4-Flash-Base 与 V4-Pro-Base。代码智能体基准上性能随 RL 训练规模持续提升，把最大上下文进一步扩到 1M token 后，在极长时程任务上还能继续涨。模型权重已在 HuggingFace 放出。 批判点评：890 字节每 token 这个数字值得记住：它把长上下文的讨论从「模型记不记得住」彻底拽到了「cache 放不放得下、搬不搬得动」，而 prefill 8B、decode 16B 的非对称激活更是直接冲着智能体负载「输入远大于输出」的真实形状去的，属于按负载画像改架构。但 FLOPs 曲线也显示，在约 100K 以下的上下文里 V4.1-Flash 反而略高于 V4-Flash（约 23 对 19 GFLOPs），这套设计是拿短上下文的一点效率换长上下文的大幅收敛，主要跑短请求的场景未必划算。另外 FP4 KV 缓存在什么任务上会先露出精度问题、SWA Bounded Replay 对首 token 延迟的影响如何，摘要都没交代；593 位作者的技术报告里工程优化与架构贡献高度耦合，外部想复现出同样的 890 字节与同等质量，难度不低。 8. The Weight Is Over：12GB显卡跑亚秒出图 The Weight Is Over - Interactive Diffusion on Consumer GPUs | Adobe × NVIDIA | arXiv:2609.21849 关键词：端侧推理,扩散加速,文本编码器蒸馏,显存预算 前序问题：端侧推理正在爆发，但势头几乎全在语言模型那边。扩散管线吃显存、对延迟敏感，还要编排文本编码器、Transformer、解码器以及后处理若干环节，这套流程远没有大模型推理循环那么标准化，落到消费级设备上格外难办。 本文贡献：论文在性能、质量、模型体积这个三角里找可落地的点，给出三项贡献：一个嵌入翻译器，把小文本编码器映射到大编码器的表示空间，从而砍掉权重与延迟；一套可复现的扫参配方，用来在扩散管线的速度／质量／显存三角里做导航；以及一个端侧交互式图像生成编辑器，在较新的 GPU 上实现亚秒级首图时间（TTFI）。 实验效果：跨设备扫参结果最能说明问题。RTX 4070 Ti（12 GB，可用约 11.2 GB）上，只要常驻权重预算没超出可用显存，每步延迟稳定在数百毫秒量级；一旦越过 11.2 GB 就触发 host-paging、必须从主机流式取权重，每步延迟直接跳到 10^4 毫秒级，相当于一个断崖。工作站级 RTX PRO 6000 Blackwell（96 GB）上「什么都放得下」，此时主导排序的就变成精度——NVFP4 最快，FP8 次之，FP16／BF16 落后。嵌入翻译器的容量门槛也量出来了：187M 的翻译器能紧跟 4B 参考编码器，29M 就会漂到「看着合理但内容不对」（要狐狸给猫、要拉面给黄色玩偶），3.5M 则塌缩成一种同质的暗黑森林风格。 批判点评：这篇的实用价值不在某个新模块，而在把「显存预算」立成了一等约束并画出了那条断崖：越过可用显存的惩罚不是线性变慢而是一到两个数量级，这意味着端侧调优的第一目标应该是「压进预算」而不是「提高吞吐」，顺序搞反了后面全是白做。把翻译器容量与语义保真的关系摸到 187M／29M／3.5M 三个档，也给了很实际的选型下界。但工作偏工程报告：只有两位作者、两台设备，没有跨更多消费级显卡的统计；质量评价主要靠定性图，缺少 FID 之类的量化指标，「187M 紧跟 4B」到底差多少无法量化。亚秒 TTFI 也限定在「较新的 GPU」上，对更老的消费级卡是什么表现没有交代。 9. MuSeC：语义声学分流的音乐codec Rethinking Music Tokenization: A Semantic Codec toward High-Fidelity LLM Music Generation | 西北工业大学 ASLP × 吉利汽车研究院（宁波） | arXiv:2609.21240 关键词：音乐tokenizer,语义codec,残差量化,音乐信息检索 前序问题：离散音频 tokenization 已成为原始波形与自回归建模之间的关键接口，所以音乐 tokenizer 得同时做到两件互相拉扯的事：支持高保真重建，又要产出适合语言建模的离散序列。以重建为导向的 tokenizer 常把音乐结构和精细声学细节混在一起，产出高熵 token 难建模；而语义引导的替代方案本是为语音设计的，套到音乐上不合身，往往还伤重建质量。 本文贡献：论文先把「音乐语义内容」重新定义成一个可度量的概念——以下游音乐信息检索（MIR）任务表现为锚。循着这个定义提出 MuSeC：一个音乐语义 codec，直接从混合信号里把语义与声学内容解耦，不需要做源分离。结构上，冻结的 SSL 编码器加 k-means 提供语义 token，另一路声学 RVQ 流捕捉细粒度声学信息，两路拼接后送解码器做高保真重建，训练时还有判别器提供对抗损失。 实验效果：MuSeC 在保住高保真重建所需信息的同时，产出对语言模型更友好的离散单元，重建质量有提升，token 序列也更可预测，为高保真 LLM 音乐生成提供了实际基础。MIR 任务上的自消融显示，完整 MuSeC（S1A16）在 GuitarSet/Chords（0.3648 对 0.1713）、EMO/R2A（0.6520 对 0.6110）、EMO/R2V（0.3696 对 0.3578）等任务上明显好于纯 k-means 量化版本，也普遍好于只有声学的 A16 变体。 批判点评：把「语义」从形容词变成以 MIR 任务表现为锚的可测量量，是这篇方法论上最扎实的一步——有了口径，语义与声学的分流才有得优化，而不是凭感觉设计码本。不做源分离直接从混合信号解耦，也省掉了一个容易引入误差的前置环节。但消融图显示优势并不一致：GTZAN/Genre 上 MuSeC-S1A16 是 0.5345，反而低于 k-means 的 0.6034，Lyrics 上两者基本持平（0.4903 对 0.4993）；更重要的是全部设置都明显低于连续 LeVo BEST-RQ 这条语义上限（多数任务差 0.1 以上），说明离散化的语义损失远未补齐。另外论文标题指向「高保真 LLM 音乐生成」，但实际只做到 codec 这一层，接上语言模型后端到端能好多少并没有验证，「更可预测的 token 序列」目前也缺少熵或困惑度之类的直接数字支撑。 10. OmniVBench：1.2万条清单查参考跑没跑偏 OmniVBench: A Benchmark and Large-Scale Dataset for Omni Reference-to-Video Generation | 腾讯 × 香港科技大学（广州） | arXiv:2609.22069 关键词：视频生成评测,参考到视频,数据集,因子级评估 前序问题：参考到视频（R2V）生成正朝着越来越通用、越来越多样的参考控制演进，催生了所谓全模态 R2V 这一范式。但现有基准跟不上：测试用例覆盖的参考类型与组合都有限，评估协议大多只看整体参考一致性，忽略了参考因子是否被正确保留、解耦并路由到对应目标。同时全模态 R2V 训练数据构建成本高，合适的训练资源很稀缺。 本文贡献：论文同时给出 OmniVBench 与 Omni-R2V Dataset，一个管评测一个管训练。OmniVBench 把 R2V 评测扩展到更广的参考类型、更细的控制任务和更丰富的参考组合，覆盖 7 个任务族、18 个细粒度任务，横跨内容、运动、风格、结构、叙事与多参考设定，共 813 个评测用例。核心是因子级评估：用 12172 条针对具体用例的检查清单条目，逐条判断意图中的参考因子是否被忠实保留、是否被正确解耦并绑定到目标、是否按指令实现。Omni-R2V Dataset 主要取材于大规模专业视频素材库，包含 34 万条处理好的训练样本，覆盖多种参考类型与多参考组合，并给出各任务专用的参考-目标配对构建管线。 实验效果：对先进的开源与闭源 R2V 模型做的大范围评测显示，各任务族和各评估维度上都存在明显性能差距，暴露了当前 R2V 模型的残留局限。配图给出的多参考用例里，RF（参考保真）／IR（指令遵循）两项分数分化极大：UniVideo 只有 33.2／14.8，LoomVideo 43.1／36.7，OmniWeaving 48.0／56.0，Kling 3.0 Omni 62.9／100，Bernini 85.2／69.7，Gemini Omni 91.2／100，而 MiniMax H3、Seedance 2.0 与 Seedance 2.5 在该用例上拿到 100／100。 批判点评：把「参考一致性」拆成保留、解耦、路由三件事，是这套基准最有价值的判断——多参考场景真正容易错的不是「像不像」，而是把 A 参考的属性贴到了 B 目标上，而整体一致性分数恰恰看不出这类串台。12172 条逐用例清单让这种错误变得可指认。数据侧 34 万条专业素材样本对社区也是实打实的补给。但代价是清单法对判定器的依赖很重：谁来回答这 1.2 万条问题、判定器自身的偏差和一致性如何，摘要没有交代，而这直接决定分数可信度。813 个评测用例摊到 18 个细粒度任务上平均每任务仅四十余例，统计功效对细分结论偏弱；配图那个用例里三个模型同时打满 100／100，也提示清单在强模型区间容易饱和、区分度下降。另外基准与数据集同源、且出自同一团队，用该数据训练的模型在该基准上的成绩需要额外小心解读。 趋势观察 注意力的省法，从「换掉它」变成「按交互类型分流」 Video DeltaNet 只在视频与视频之间用线性注意力，凡涉及文本或音频的交互仍留给 Softmax；dQwen3.5 则把注意力与 RNN 交错的混合骨干当成扩散语言模型的适配起点。两篇的共同前提是承认不同交互对精度的敏感度本来就不同，一刀切替换必然在某处付出代价。 长上下文的成本，已经从算力转到显存和带宽 DeepSeek-V4.1-Flash 把常驻 HBM 的全局 KV 压到每 token 890 字节、持久部分再压到八分之一，并用 prefill 8B、decode 16B 的非对称激活去贴合智能体负载的真实形状；The Weight Is Over 则量出消费级显卡越过可用显存后延迟跳升两个数量级的断崖。两者都在说：放不放得下、搬不搬得动，已经比算得快不快更决定部署成本。 生成过程正在被拆出显式的中间态 StepAudio 3 Music 先用 ABC 记谱产出编曲方案再预测音乐 token，PhysStream 把位置图与跟踪图作为结构化场景记忆在线维护，Edit-VAR 缓存源概率与交叉注意力图再逐 token 决定保源还是改。把过去隐含在权重里的东西显式化，换来的是可控性与可调试性。 评测开始追问「参考有没有被放对位置」 OmniVBench 把参考一致性拆成保留、解耦、路由三件事，用 1.2 万条逐用例清单指认把 A 的属性贴到 B 上的串台；Paint-Anything 自建 ACBench 专量物体级十六进制色值保真；MuSeC 干脆把「音乐语义」定义成下游 MIR 任务表现。三者都不再满足于一个整体相似度分数。 人工智能炼丹君 整理 | 2026-09-21 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-18|高通揪出长视频KV错配-Recency Forcing 今日 AIGC 论文速览 今日共 10 篇 · 视频生成与长时程一致性 2 篇 · 生成模型评测与审计 2 篇 · 推理与采样加速 2 篇 · 语音与音乐生成 2 篇 · 视频修复与图像应用 2 篇 重点论文标题列表 Recency Forcing（Qualcomm AI Research）：按距离衰减注意力救长视频 MiniMax-H3-Reason（National University of Singapore；Fudan University；Tencent）：全模态模型物理推理仅四成 ⚡ Diagonal Sparsity（KAIST；Agency for Defense Development；Seoul National University）：对角稀疏把吞吐拉到3.1倍 VibeAvatar（Peking University）：口型与美感分阶段各管各的 AVR（New York University；University of Technology Sydney）：能抄就抄抄不到才让扩散补 今日论文速览 1. Recency Forcing：按距离衰减注意力救长视频 Recency Forcing: Bridging the Long-Horizon Gap in Autoregressive Video Generation | Qualcomm AI Research | arXiv:2609.19729 关键词：自回归视频生成,长时程一致性,KV cache,注意力偏置 ⚠️ 前序问题：自回归视频生成一拉长就退化。论文把根因定位到一处被忽视的训练-推理不一致：训练时短片段的全部上下文帧都在 KV cache 里，推理时显存约束却会把远处帧逐出 cache，等于抽走了模型当初赖以生成的上下文。作者称之为 KV 淘汰错配（KV eviction mismatch）。 本文贡献：思路不是用截断上下文去模拟淘汰——那会连模型仍需要的时间信息一起丢掉、破坏运动连贯——而是保留上下文，同时让远处帧的影响逐步衰减，等它们真被淘汰时影响已可忽略。论文先用扰动式敏感度指标 positional response R(Δ, t_denoise) 量出上下文影响随时间距离陡峭衰减、且在不同去噪步上系统性变化；据此提出 Temporal Response Bias（TRB），把一个非正的、随时间步变化的偏置直接加在 softmax 之前的注意力 logits 上。配套的 Biased Attention Reparameterization（BAR）是个等价改写，把偏置移到 softmax 之外，使 TRB 退化成一次标准 FlashAttention 调用。 实验效果：在 VBench 与 VBench-Long 上取得长时程生成的 state-of-the-art 质量，且不增加推理成本。60 秒视频的定性对比里，Self-Forcing 出现色彩漂移，LongLive 产生场景重复，DeepForcing 引入模糊，Recency Forcing 则保持了画面稳定与运动连贯。方法不改动上下文长度与训练目标，免训练与训练两种模式都能用，BAR 的等价改写让偏置的额外开销为零。 批判点评：把长视频退化归到 KV cache 淘汰这个具体的工程约束上，而不是笼统归因于「误差累积」，定位比多数同类工作清晰，BAR 让它零开销落地也务实。但摘要只给 state-of-the-art 的结论、未披露具体分数，免训练与训练两种模式的增益差距、TRB 偏置形状换骨干后是否还成立，都要看正文；VBench 系列本身偏重视觉质量，长时程的叙事与物体持久性未必能被它完全反映。 2. MiniMax-H3-Reason：全模态模型物理推理仅四成 Can MiniMax-H3 Reason About the Physical World? An Evaluation of Omni-Modal Generative Model | National University of Singapore；Fudan University；Tencent | arXiv:2609.18323 关键词：全模态生成模型,物理世界推理,跨模态整合,评测基准 ⚠️ 前序问题：全模态生成模型把文本、图像、视频、音频统一建模，MiniMax-H3 正是在共享潜空间里同时做多模态理解与音视频联合生成的代表。但多模态对齐到底有没有提升模型的世界推理能力？现有面向视频生成与世界模型的评测大多受限于单一输入模态，且提示词与目标视频内容高度重合，回答不了这个问题。 本文贡献：论文构建了围绕物理世界推理四个互补维度的评测框架，专门为全模态输入设计任务：隐式提示搭配多帧、音频-图像、前缀视频、音频-视频四类场景。关键设计是每一路模态只提供事件的部分证据，模型必须跨模态整合互补线索，才能推断出潜在的事件状态与未来动态。 实验效果：517 个评测实例上，MiniMax-H3 总体成功率 41.97%。分维度看，基于视频的决策推理最高、为 56.00%，基于音频的消歧推理最弱、只有 27.40%。作者据此认为要真正吃到多模态输入的红利，关键仍在有效的跨模态整合。 批判点评：用「每种模态只给部分证据」的设定逼出跨模态整合能力，比提示词与目标高度重合的常规评测更有区分度，音频维度 27.40% 也确实点出了当前全模态模型的短板。但全文只评了 MiniMax-H3 一个模型，没有同代横向对比，41.97% 这个绝对值究竟是模型不行还是任务过难无从判断；517 个实例摊到四个维度上，每个维度的样本量也偏薄。 3. Diagonal Sparsity：对角稀疏把吞吐拉到3.1倍 Understanding and Exploiting Diagonal Attention Sparsity in Autoregressive Image Generation | KAIST；Agency for Defense Development；Seoul National University | arXiv:2609.19702 关键词：自回归图像生成,稀疏注意力,KV cache,推理加速 ⚠️ 前序问题：自回归图像生成因为能直接复用基于 transformer 的 LLM 服务设施而成为多模态系统的一种范式，但每次请求要吐出上千个视觉 token，解码越来越被注意力计算中的 KV cache 访问卡住。稀疏注意力在文本 LLM 推理上已被充分研究，可它的稀疏性假设能不能迁移到自回归图像生成，此前没人说得清。 本文贡献：论文首次系统刻画了自回归图像生成中的注意力稀疏性，覆盖多种负载与代表性开源模型，发现三个和文本场景不一样的性质：prefill 与 decode 阶段存在明显不对称、注意力强烈集中在 prompt token 与局部 token 上、以及视觉 token 的空间局部性带来一种独特的对角稀疏模式。据此提出对角感知稀疏注意力，在最近窗口内沿对角方向选择性跳过 KV 条目。 实验效果：基于 FlexGen、FlashAttention-2 与自定义 kernel 实现在 GPU 服务系统上，相比稠密推理最高取得 3.1 倍吞吐与 1.19 倍延迟改善，质量损失低于 2%。 批判点评：把稀疏模式追到「视觉 token 的空间局部性」这一来源、而不是照搬文本 LLM 的稀疏假设，是这篇最扎实的地方，3.1 倍吞吐也有工程说服力。但「质量损失低于 2%」用的是哪个指标、在哪些负载上成立，摘要没交代；对角模式依赖光栅扫描式的 token 排布，换扫描顺序或改分辨率后是否还成立同样存疑。 4. VibeAvatar：口型与美感分阶段各管各的 VibeAvatar: Aligning Phonetic Kinematics and Human Aesthetics for High-Fidelity Talking Avatar Synthesis | Peking University | arXiv:2609.18632 关键词：说话人视频合成,语音驱动,GRPO,流匹配 ⚠️ 前序问题：多模态说话人视频合成要从一张参考肖像加一段语音生成逼真视频。扩散类方法进步很快，却始终难以同时拿到准确的唇部发音、符合人类偏好的运动美感和高效推理这三样。 本文贡献：论文的判断是：发音准确性和运动美感来自根本不同的源头，应该在互补的阶段分别处理，而不是塞给单个生成器隐式地一起学。VibeAvatar 因此把两个目标解耦——条件阶段用 Phonetic Kinematics Adapter（PKA）把面向识别的语音特征转成发音-运动条件；后训练阶段用 Aesthetic Motion Policy（AMP），以 GRPO 优化一个流一致的随机采样策略。运动生成器本身是轻量流模型，工作在紧凑的一维 warp 潜空间里。 实验效果：客观指标与用户研究上，发音、美感、效率三项均达到 state-of-the-art；生成 10 秒 512px 视频耗时不到 10 秒，显存占用约 3GB。 批判点评：「发音归条件阶段、美感归后训练」是个干净的分工，把 GRPO 用在采样策略而不是生成器权重上也省掉了重训成本，约 3GB 显存意味着消费级显卡能跑。但美感由 GRPO 所对齐的偏好定义，口味会不会过拟合到特定标注群体值得警惕；摘要只给了效率数字，发音与美感的具体分数、以及更长时长下的身份漂移都得看正文。 5. AVR：能抄就抄抄不到才让扩散补 Copy What Is Seen, Generate What Is Not: Training-Free Anomaly-Aware Video Restoration | New York University；University of Technology Sydney | arXiv:2609.18836 关键词：视频修复,异常检测,免训练方法,扩散修补 ⚠️ 前序问题：监控系统检测到异常后往往还得把画面修好，但这两件事一直被分开研究：免训练的异常检测止步于一个分数或标签，免训练的视频编辑则只听用户提示词、不听检测器。 本文贡献：AVR 只用冻结的预训练模型就把两端接上，而且只在画面确实没有证据可抄的地方才生成内容。先由运动证据把开放词表提案收敛成时空掩码；再用片段自身算出的背景先验，填掉异常曾经遮挡过的每一个像素，只把「任何一帧都没出现过」的部分交给扩散合成；最后一个冻结的验证器逐片段决定该信任经典修复、先验锚定修复还是背景条件修复。 实验效果：三个监控数据集上、覆盖全参考异常注入与真实异常两种设定：oracle 掩码下 AVR 的全帧保真度领先，在编辑区域内与三个训练过的视频 inpainting 方法持平，用自己产出的掩码时优于「先检测再生成」的流水线，同时压住了残留异常与自由扩散带来的闪烁。 批判点评：「能抄就抄、抄不到才生成」的取舍很贴监控取证的需求——少生成一分就少一分臆造风险，全程冻结模型也免了训练成本。但它靠运动证据圈定异常，静止或缓慢的异常可能整个漏掉；oracle 掩码下的领先说明上限不错，自产掩码下的成绩才是实际水平，三个监控数据集的场景多样性也仍有限。 6. CPR：作曲演奏精修三段渲染钢琴 CPR: Combining global composing, local performing and full-sequence refining in piano rendering with continuous autoregressive modelling | The Chinese University of Hong Kong, Shenzhen | arXiv:2609.18216 关键词：钢琴渲染,连续自回归,流匹配,音乐生成 ⚠️ 前序问题：提示词条件下的钢琴 MIDI-to-Music 渲染，要在忠实还原目标音符的同时复现参考录音的音色。现有方法分两条路：离散 codec 的自回归模型有因果时序建模能力，但量化会丢掉声学细节；流匹配更能保住声学结构，代价是全序列注意力开销大、语义结构反而更差。 本文贡献：连续自回归模型直接在连续表示上工作，既兼有自回归的条件跟随能力与流匹配的分布建模能力，又绕开量化瓶颈、计算成本更低。CPR 据此拆成三段：Composer 自回归预测连续隐状态，Performer 经局部流匹配生成 24kHz 声学潜变量，Refiner 再把波形上采样到 48kHz。论文另引入 Bottlenecked Representation Alignment（BREPA）与 Modality-Time RoPE（MT-RoPE），分别强化 Composer 隐状态里的音乐语义结构和跨模态时间对齐。 实验效果：P-MUSE-eval 上，CPR 只用 4 步（NFE=4）就输出 48kHz 音频，onset F1 78.4 与 FAD_clap 0.129 均为最佳；音色相似度 89.3 略低于需要 25 步的 P-MUSE（90.6），但明显优于 MIDI-VALLE 的 83.4。另有 13 位听众对 14 个样本的 MOS 主观评测。 批判点评：三段分工把「写什么音」「怎么弹出来」「采样率补齐」拆开，绕过离散量化这个老瓶颈，4 步出 48kHz 相对 P-MUSE 的 25 步是实打实的效率优势。但音色相似度并未超过 P-MUSE，说明连续表示在音色保真上还没占到便宜；MOS 只有 13 位听众评 14 个样本，样本量偏小，评测也集中在钢琴单一乐器上。 7. Self-Distilled TTS：模型自己教自己念生词 Self-Distilled Pronunciation and Accent Control for Neural Text-to-Speech | Independent Researcher；KOWRO Inc. | arXiv:2609.17234 关键词：语音合成,自蒸馏,发音控制,口音标注 ⚠️ 前序问题：直接读原始文本的 TTS 没有词典，碰上生僻词只能靠猜。已有的补救要么拿录音训练一条专门的发音与口音通道，要么从示例里一个词一个词地改。 本文贡献：这篇两样都不做。让冻结的骨干去读一个含有它本来就念得对的常见词的句子，再把它自己的输出当作同一句话的教师——只是把那个词替换成带标注的、指定口音的读法。这一对训练样本就是方法的全部。 实验效果：Sarashina2.2-TTS 上，经筛选的评测者（Fleiss' kappa = 0.85）在 0.89 的未见词上听出了指定口音，而无法表达口音的假名方案只有 0.57、没有赢下任何一组对比，自然度没有可测量的损害。未经调整迁移到自回归、扩散和编码器-解码器骨干后，319 个词上的读法正确率比不做编辑高出 0.25 到 0.47；CosyVoice 2 上三个词里有两个能带上口音，但在 Irodori 上不行，论文分析了原因。 批判点评：用模型自己的输出当教师、只换一个词构成训练对，简洁到几乎没有额外数据成本，跨骨干迁移也说明思路不绑架构。但它天然受限于「骨干本来就念得对的常见词」这个起点，词表外的音素组合未必覆盖得到；Irodori 上失效说明迁移并非无条件成立，日语音高重音之外的语言是否同样奏效也还没有证据。 8. JewelTry：免掩码珠宝试戴还管尺寸 JewelTry: Mask-Free Scale Aware Jewelry Virtual Try-On | Amazon | arXiv:2609.16626 关键词：虚拟试戴,免掩码扩散,尺寸感知,评测基准 ⚠️ 前序问题：虚拟试穿让顾客看到上身效果，已是网购的重要技术。服装类进展很大，珠宝却因为体积小、结构刚性、对细节高度敏感而一直是难啃的品类：既要忠实迁移外观，还得相对佩戴者有正确的尺寸和位置。现有珠宝试戴多依赖掩码引导，而免掩码方法又缺乏建模产品尺寸的显式引导。 本文贡献：论文先建了 JVTO-Bench，提供带真实产品尺寸标注的「参考-源-目标」三元组，覆盖四大珠宝品类。在此之上提出免掩码扩散框架 JewelTry：尺寸适配器把产品实际尺寸编码成一个 scale token，让模型在上下文中学到珠宝与人体解剖结构之间的尺寸关系；再用单向条件注意力与注意力精修损失，同时保住参考珠宝的粗粒度几何与细粒度结构细节。 实验效果：实验显示 JewelTry 在视觉保真度、背景保持、物体一致性与尺寸准确性之间取得平衡，为免掩码、尺寸感知的珠宝虚拟试戴立了一个较强基线。 批判点评：把「尺寸对不对」变成可编码的条件而不是靠掩码兜底，抓住了珠宝区别于服装的真正难点，配套放出带真实尺寸标注的 benchmark 也补上了这一方向的评测空白。但摘要通篇没给量化指标，「取得平衡」这类表述无法判断相对现有方法的实际差距；四个品类对珠宝这种长尾品类而言覆盖面也偏窄。 9. MSR：多张参考图各占一个 slot MSR: Multiple Subject Reference for Video Generation | Licon Studio | arXiv:2609.18393 关键词：多主体视频生成,参考图条件,LoRA,流匹配 ⚠️ 前序问题：让视频生成器同时吃多张参考图时，既要保住每个主体的外观，又要把每张图和它该扮演的角色对上，否则属性就会串到别的对象身上。 本文贡献：MSR 是面向 LTX 视频生成的 slot 感知条件方案：每张参考图被独立编码成一段静态片段、对应一组单独的潜 token；一个紧凑的傅里叶特征 MLP 给它加上数值化的 slot 嵌入，再用随 slot 变化的时间偏移改写这组 token 的旋转位置坐标。这些参考组被前置到带噪的目标 token 之前，在仅针对目标的流匹配训练中充当干净上下文。整套方案用 LoRA 实现，权重与推理工作流已开源。 实验效果：论文给的是定性结果：示例展示了包含不同角色与参考环境的写实及风格化场景组合；开发过程中的观察显示，相对更早的连续参考基线，参考混淆有所减少，但相似服装、复杂衣物和视角变化仍然困难。另有一个补充实验在冻结视觉参数的前提下加入了语音参考条件。 批判点评：用独立 token 组加 slot 嵌入来绑定「哪张图对应哪个角色」，思路直接，靠 LoRA 就能低成本落地，开源权重与工作流对想复现的人友好。但这更像一份技术报告而非完整论文：全文没有定量实验，「参考混淆减少」只是开发观察而非受控对比，缺少与基线的可比指标；作者自己也承认相似服装与视角变化仍未解决。 10. Newer Is Not Fairer：新版文生图并没有更公平 Newer Is Not Fairer: Gender Stereotyping in Text-to-Image AI Across Model Generations | Northeastern University | arXiv:2609.18007 关键词：文生图,性别偏见,模型审计,公平性评测 ⚠️ 前序问题：文生图模型已经在专业与创意场景里广泛使用，但它们如何呈现不同职业的性别、以及更新的模型是不是更公平，跨代际地看仍缺乏系统证据。 本文贡献：论文评测了 20 个职业、5 种提示词模板、4 代 Stable Diffusion（SD 1.5、SD 2.1、SDXL、SD 3 Medium），每个「职业×模型」单元生成 100 张、共 8000 张图，全部用 DeepFace 判定性别，并与美国劳工统计局（BLS）的真实劳动力数据对照，所有显著性检验都做了 Benjamini-Hochberg 多重校正。 实验效果：8000 张开源模型图像中 76.4% 为男性（95% CI [75.1%, 78.7%]）；更扎眼的是历史上女性主导的职业里仍有 57.6% 生成男性。相对 BLS 数据，模型平均低估女性 20–46 个百分点，本就接近性别均衡的职业偏差最大——科学家 BLS 女性占 48%、模型输出 82–99% 为男性，清洁工 BLS 女性占 46%、模型输出 80–92% 为男性。代际并非稳步改善：偏差从 SD 1.5 一路恶化到 SDXL，到 SD 3 Medium 才部分回落。与 GPT-image-1 在五个职业上的初步对比显示商业模型偏差更低，但实际效应很小（Cramér's V = 0.080）且属探索性。没有任何一个模型达到性别均衡。 批判点评：8000 张图、多重检验校正、对照 BLS 真实就业数据，这套设计让结论比常见的偏见讨论扎实得多，「更新不等于更公平」的代际发现尤其有价值。但性别判定依赖 DeepFace 的二元分类，本身有误差且无法涵盖非二元表达；20 个职业、5 个模板的提示词空间偏窄，与 GPT-image-1 的对比作者也标注为探索性，撑不起开源与商业模型孰优孰劣的强结论。 趋势观察 长上下文的瓶颈，从「记不记得住」变成「cache 放不放得下」 Recency Forcing 把长视频退化追到 KV cache 淘汰这一工程约束，Diagonal Sparsity 直接冲着自回归图像生成的 KV 访问瓶颈去。两篇都不再泛泛谈误差累积，而是把注意力的显存与访存代价当成一等问题来解。 生成质量的定义权，正在交给后训练与采样策略 VibeAvatar 把运动美感交给 GRPO 在后训练阶段对齐，而不是让生成器隐式地学；CPR 用连续自回归绕开量化，再分三段把语义结构、局部声学与采样率分工。共同前提是承认单个生成器学不好多个互相冲突的目标。 评测开始审问模型「到底懂不懂」，而不只是「像不像」 MiniMax-H3 的评测让每种模态只给部分证据，逼模型跨模态整合才能答对；Newer Is Not Fairer 用 8000 张图对照真实就业数据，把「新版是否更公平」变成可证伪的问题。两者都不满足于保真度分数。 免训练与轻量适配，正在成为落地的默认路径 AVR 全程冻结预训练模型、只在没有证据可抄的地方才生成；MSR 用 LoRA 给现成视频模型加多主体条件；Self-Distilled TTS 让模型自己的输出当教师。共同动机都是避开重训成本。 人工智能炼丹君 整理 | 2026-09-18 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-17|Meta一个模型既写歌又改歌-SongCraft 今日 AIGC 论文速览 今日共 10 篇 · 音乐与歌曲生成 2 篇 · 视频生成与世界模型 2 篇 · 视频编辑与采样效率 2 篇 · 长语音稳定生成 2 篇 · 生成评测与溯源 2 篇 重点论文标题列表 SongCraft（Meta AI）：一套模型统一歌曲生成编辑 SlotDiT（University of Bonn）：用 slot 潜空间省算力提成功率 AlayaVista（Alaya Lab；Beijing Institute of Technology；The University of Tokyo）：全景状态驱动流式世界模型 MDN-Control（Wuhan University）：掩码深度噪声协同视频编辑 ADSC（SAP；National University of Singapore；A*STAR I2R）：按样本收敛动态缩短采样 今日论文速览 1. SongCraft：一套模型统一歌曲生成编辑 SongCraft: Unified Song Generation and Editing with Reconstructive Learning | Meta AI | arXiv:2609.16315 关键词：歌曲生成,音频编辑,流匹配,重建预训练 前序问题：歌曲生成与歌曲编辑通常由两套系统完成：生成只接收歌词等稀疏条件，编辑却需要保留人声、旋律和结构等稠密属性，分别训练会重复成本且难共享能力。 本文贡献：SongCraft用重建式预训练随机切换稀疏生成分支和稠密编辑分支，共享潜空间流匹配主干；编辑时抽取歌词时间戳、MIDI、和弦、歌手等属性并只改目标条件，生成时仅保留歌词、节拍和描述。 实验效果：统一模型的歌词WER为0.133；主观A4平均分7.45、SongEval为3.62。它的可懂度领先，但SongEval整体质量仍低于Levo的3.95；瓶颈加长还会同时降低音高、歌手和歌词可编辑性。 批判点评：统一生成与属性级编辑是实用方向，重建预训练减少成对编辑数据依赖；但质量与可编辑性存在明显折中，当前主要针对有限时长与条件类型，更长歌曲和复杂编曲仍是后续工作。 2. SlotDiT：用 slot 潜空间省算力提成功率 SlotDiT: Object-Centric Representations for Diffusion Transformers | University of Bonn | arXiv:2609.17414 关键词：扩散Transformer,对象中心表示,潜空间设计,机器人控制 前序问题：视频DiT通常在像素或稠密视觉潜空间中预测，容易把大量算力花在背景纹理上，也难以显式跟踪承担动作的对象；机器人控制真正关心的是对象状态及其随指令发生的变化。 本文贡献：SlotDiT 让文本条件 DiT 直接在 slot 潜空间里工作：先把场景分解成一组对象级的 slot，再依据指令与已观测上下文自回归去噪未来的 slot 轨迹。论文的落点是系统性比较潜空间设计——在统一 DiT 框架下把 slot 表示与 VAE 式、语义对齐式潜空间放在一起对照。 % Overview of SlotDiT. % (a) Given a reference image $\ImageT{1}$ and text instruction $\Caption$, SlotDiT parses the scene into an object-centric slot representation $\SlotsT{1}$. % Conditioned on the encoded instruction and context slots, an object-centric diffusion transformer (DiT) autoregressively denoises future slot trajectories $\PredSlotsT{2}, \ldots, \PredSlotsT{T+1}$, % optionally decoded into future video frames $\PredImageT{2},\, \ldots,\, \PredImageT{T+1}$. % % (b) Comparison of SlotDiT's slot-based latent space against established representation spaces used in DiTs. % % (c) Across four robotic datasets, SlotDiT achieves higher task-completion rates while remaining substantially more efficient than the baselines. 实验效果：每帧只需 10 个 token（VAE 类基线为 256）。CLIPort 的 PutInBowl 任务上成功率 73.0%，次优的 TextOCVP 为 50.0%，VAE 类基线仅 0.5%–10.0%；LT-syn 的六种设置下为 17.0%–74.5%，均居首。生成 39 帧的吞吐 9.33 FPS，快于最快基线的 6.71 FPS，相对 SD-VAE 基准提速 5.68 倍（单卡 A6000）。 % Overview of SlotDiT. % (a) Given a reference image $\ImageT{1}$ and text instruction $\Caption$, SlotDiT parses the scene into an object-centric slot representation $\SlotsT{1}$. % Conditioned on the encoded instruction and context slots, an object-centric diffusion transformer (DiT) autoregressively denoises future slot trajectories $\PredSlotsT{2}, \ldots, \PredSlotsT{T+1}$, % optionally decoded into future video frames $\PredImageT{2},\, \ldots,\, \PredImageT{T+1}$. % % (b) Comparison of SlotDiT's slot-based latent space against established representation spaces used in DiTs. % % (c) Across four robotic datasets, SlotDiT achieves higher task-completion rates while remaining substantially more efficient than the baselines. 批判点评：论文自己点明了一个反直觉结论：视觉质量指标好不等于任务能完成——VAE 基线的感知分更高，指令跟随与任务成功率却大幅落后。代价是 slot 数量固定、外观细节受限，视频生成质量只能算与基线持平而非更优；评测也集中在 CLIPort 与 LT-syn 两类机器人环境，开放世界泛化尚无证据。 3. AlayaVista：全景状态驱动流式世界模型 AlayaVista: Streaming World Modeling from Panoramic States to Perspective Video | Alaya Lab；Beijing Institute of Technology；The University of Tokyo | arXiv:2609.14462 关键词：世界模型,视频生成,相机控制,全景状态 前序问题：相机连续移动时，普通视频生成模型只看局部视口，离开画面的区域容易被遗忘，重新转回时场景会漂移；直接维护高分辨率全景又会让生成和渲染成本过高。 本文贡献：AlayaVista把360度全景作为持续演化的全局状态，再按相机轨迹选择视口、渲染低分辨率透视潜变量，并用局部视频细化器恢复高清画面；全景状态和当前视角因此分离更新，支持流式相机控制。 实验效果：在 MUGEN-HQ 上，AlayaVista 的跨视角一致性 0.9240、旋转误差 2.132 均为最优，平移误差 0.03312 优于 HY-World 2.0 的 0.03885，但仍高于带显式 3D 高斯支架的 MoVerse（0.02746）；动态性 0.9200 偏低，作者认为是长时漫游中局部运动被衰减所致。 批判点评：全景记忆能减少回看漂移，但系统包含全景生成、潜空间渲染和局部细化三段，训练与部署都较重；评测集中在合成式或精选全景数据，长时间真实街景中的几何稳定性仍需验证。 4. MDN-Control：掩码深度噪声协同视频编辑 MDN-Control: Mask-Depth-Noise Guided Region Control for Multi-Subject Video Editing | Wuhan University | arXiv:2609.16475 关键词：视频编辑,多主体控制,遮挡建模,免训练方法 前序问题：多主体视频编辑时，目标人物常被邻近主体或遮挡区域干扰，属性会串到无关对象；只靠文本和掩码也难以同时保持身份、边界与背景。 本文贡献：MDN-Control不再训练新模型，而是组合掩码引导定位、深度感知遮挡软门控和噪声潜变量检索：前者锁定主体，中间模块随去噪阶段调整遮挡约束，后者从候选噪声中选择更匹配指令的初始化。 实验效果：在MSVBench上，方法取得Warp-Err 2.87、CLIP-T 27.09、CLIP-F 95.72、Q-Edit 9.43与CM-Err 2.75；实验在单张NVIDIA L40上完成，并包含20段视频的用户研究。 Overview of MDN-Control. Mask-guided localization localizes the target, depth-aware occlusion control guides editing near occlusions, and noise latent prompting initializes appearance generation. Denoising uses mask-depth guidance at early steps and mask-only guidance thereafter. 批判点评：免训练组合便于迁移到现有DiT，但噪声检索的增益不大，部分固定随机种子甚至更好；20段主观测试规模也偏小，复杂相机运动和长遮挡下的稳定性还未充分覆盖。 5. ADSC：按样本收敛动态缩短采样 Efficient Text-to-Image Generation: An Adaptive Step Schedule Controller for Diffusion Models | SAP；National University of Singapore；A*STAR I2R | arXiv:2609.16572 关键词：文生图,扩散采样,自适应步数,推理加速 前序问题：文生图扩散模型通常给所有提示词使用同一去噪步数，但简单样本早已收敛仍继续计算，复杂样本又可能因固定短计划而欠采样。 本文贡献：ADSC 准备一组步长不同的采样日程，在每个时间步评估误差项的差异，据此在日程之间动态切换，让简单提示词早收敛早停、复杂提示词保留更多步数；控制器无需额外训练，也不改动基础扩散模型。 Effect of text prompt and seed combinations on diffusion steps for generating visually sufficient images. Step counts shown are examples; optimal steps may vary. 实验效果：在COCO的DDIM实验中平均18.89步、0.79秒/图；与固定19步的0.78秒几乎相同，但CLIP-I为95.70，高于固定19步的92.40，CLIP-T均为31.4，优势主要来自按样本分配步数。 The denoising process begins with the longest schedule (e.g. 40 steps in the example) and transitions to shorter schedules (20 followed by 10) upon detecting convergence. 批判点评：方法实现简单且可插拔，不过同等平均步数下墙钟时间没有加速，控制器判断还增加少量开销；论文比较的不同基线并非始终严格等算力，效率结论应区分步数、质量和实际延迟。 6. LACI：回滚重生成压住长语音失败 Taming Long-form Text-to-Speech | Argmax, Inc.；University of Virginia；Bilkent University | arXiv:2609.16989 关键词：长文本语音合成,推理期干预,错误回滚,语音克隆可靠性 前序问题：自回归TTS在超长文本上会突然跳过整段内容或重复、幻觉；平均WER掩盖了少数灾难性失败，而重新训练模型对已有开源系统成本很高。 本文贡献：LACI（Localized Attention-Constrained Inference，局部注意力约束推理）是纯推理期方法，不改动模型权重：近实时检测 TTS 生成错误，回滚到错误起点，再施加临时护栏重新生成，额外开销可忽略。论文另提出滑窗版说话人相似度 wSIM，用来暴露常规 SIM measure 不到的失败模式。 实验效果：Qwen3-TTS-0.6B 在超过 1500 词的提示上，10 个随机种子里的最差 WER 从 35.2% 降到 3.4%，甚至优于它在 500 词以内短文本上 5.4% 的可靠性；120 秒参考音频下最差 wSIM 从 0.01 升到 0.47；WER 超过 30% 的灾难性生成比例从 26% 降到 1% 以下。 批判点评：推理期干预能给现成开源模型直接止损，不必重训，这是它最实用的地方；但前提是错误可被近实时检出，回滚重生成也会推高长文本的尾部延迟。更值得注意的是超过 1300 词之后失败开始抗拒重生成，LACI 只把失败比例从 70% 压到 57%，反而不及对照方法 ACI 的 34%，作者认为这是模型自身的连贯性上限而非检测不到。 7. DiTAR+：扩张上下文抑制长语音漂移 DiTAR+: Dual Optimization for Robust Autoregressive Diffusion Speech Synthesis | ASLP@NPU, Northwestern Polytechnical University | arXiv:2609.13909 关键词：语音生成,扩散Transformer,长上下文,说话人一致性 前序问题：连续潜变量自回归扩散语音模型在长序列中会逐块积累误差，出现说话人漂移、重复或无法终止；简单扩大历史上下文又让局部声学细节成为捷径。 本文贡献：DiTAR+用扩张上下文采样跨更远的历史块建模宏观一致性，同时在浅层对历史声学块做分层掩码，把语义对齐与声学渲染分开，减少模型复制局部声学模式。 The overall architecture of the proposed DiTAR+ framework. (a) The standard two-stage DiTAR baseline. (b) Hierarchical Acoustic Masking (HAM), which masks historical acoustic context in shallow layers to decouple semantic alignment and acoustic rendering. (c) Dilated Context Sampling (DCS), which expands the macro-receptive field via dilated sampling while preserving temporal continuity. 实验效果：在SeedTTS评测中，DiTAR+的Seed-EN WER为1.672、Seed-ZH为0.985；中文困难集WER为9.893，低于DiTAR的12.478；25至35秒长语音WER从2.778降至2.173，说话人相似度从0.741升至0.759。 Chunk-level speaker similarity over continuous generation steps (3.0,s per chunk). The standard baseline experiences severe speaker drift in the long tail, whereas DCS effectively stabilizes the temporal coherence. 批判点评：DCS与HAM直接针对长尾漂移，消融也显示两者互补；但困难集和长语音集为内部构造，论文没有充分量化扩张上下文带来的吞吐、显存和首音延迟成本。 8. CMA-OT：课程式多尺度舞蹈配乐对齐 CMA-OT: Hierarchical Expert Supervision for Dance-to-Music Generation | HKUST(GZ)；Tencent | arXiv:2609.13118 关键词：舞蹈配乐,多尺度对齐,最优传输,音乐生成 前序问题：舞蹈配乐既要踩准局部节拍，又要匹配段落级风格；单尺度动作特征或固定对齐损失容易顾此失彼，尤其在动作与音乐结构非一一对应时。 本文贡献：CMA-OT从预训练Jukebox专家提取底层、中层和高层音乐知识，课程式地由局部节奏过渡到全局语义，并用尺度感知的Fused Gromov-Wasserstein最优传输对齐舞蹈与音乐表示。 实验效果：在AIST++上，CMA-OT取得BCS 99.14、BHS 99.12、F1 99.12、FADp 12.50、FADc 0.26；MotionComposer的FADp/FADc为27.52/0.49。TikTok上FADp/FADc为27.53/0.38，也优于30.61/0.81。 批判点评：多尺度课程把节拍和风格监督组织得较清楚，但系统依赖Jukebox专家与额外最优传输计算；AIST++和TikTok仍是较窄的数据分布，指标提升不等同于真实音乐审美或版权可用性。 9. VOR-Bench：细粒度评测视频对象移除 VOR-Bench: A Human Perception-Driven Benchmark for Video Object Removal | Beijing University of Posts and Telecommunications；China Telecom AI Technology；Xi'an Jiaotong University | arXiv:2609.16878 关键词：视频对象移除,评测基准,视觉语言模型,主观一致性 前序问题：视频对象移除常用有缺陷的参考视频或逐帧图像指标，既可能把错误参考当真值，也难以判断对象是否删净、背景是否连续以及结果是否符合常识。 本文贡献：VOR-Bench 由三部分组成：VORD 数据集提供 150 对配对编辑视频与涂鸦式掩码，覆盖模型生成、工具渲染与相机实拍三类来源，另构建 300 对的扩展集验证规模是否足够；rMPAF 流程把图像级对象移除与微调后的视频生成模型结合，自动产出运动连贯的配对视频；VOR-MDSM 则是按三个评价维度微调的 VLM 打分模型。 实验效果：论文报告VOR-MDSM三项偏好判断与人工评分的Spearman相关系数均超过0.9，整体高于VideoLLaMA3、Qwen3-VL-8B和Gemini-3.1-Pro；基准覆盖相机采集、模型生成和工具渲染三类视频。 批判点评：细粒度维度比单一PSNR更接近真实观感，但150/300对数据仍小，VLM裁判也在相近任务分布上训练和验证；论文中的数据与模型发布仍带未来时态，可复现性要看正式开放程度。 10. RAIN：区域感知一跳提取语义水印 RAIN: Region-Aware Inversion Network for Semantic Watermark Extraction | Independent Researcher | arXiv:2609.14856 关键词：生成水印,扩散反演,鲁棒提取,模型归属 前序问题：Gaussian Shading等语义水印把信息埋在扩散初始噪声里，传统提取要多步反演大模型，代价高且在压缩、裁剪、噪声等失真后容易累积误差。 本文贡献：RAIN把终端噪声恢复改写为高信噪比端点上的条件回归，用小型双分支NAFNet一次预测水印决策所需的噪声区域；训练时加入有限集合的最坏失真样本，强化区域边界而非逐点精确重建。 Extraction pipeline used in our implementation. 实验效果：在1000条COCO样本的SD 2.1匹配评测中，干净图比特准确率99.99%；JPEG Q=25为98.15%，缩放到0.25为98.93%。其一次提取仅14.394 GFLOPs、15.468M参数，FARI为682.675 GFLOPs、868.469M参数。 Redrawn from Tables 3 and 4 of RAIN: extraction backbone cost and bit accuracy under matched SD 2.1 distortions. 批判点评：把目标从精确噪声恢复改成区域判别很契合水印任务，但盐椒噪声下93.11%的比特准确率低于OSI的99.71%，极端亮度下也非最优；当前证据绑定Gaussian Shading与特定Stable Diffusion设置。 趋势观察 生成系统开始压缩“状态”而非只压缩网络 SlotDiT 把视频压成少量 slot，AlayaVista把漫游场景压成持续全景状态，MDN-Control则把编辑约束拆成掩码、深度与噪声。共同方向是先确定任务真正需要保存的状态，再把DiT算力集中到这些变量。 推理时控制器成为低成本升级路径 ADSC按样本切换去噪日程，LACI检测跳读后回滚，MDN-Control组合现成控制信号。三者都尽量不重训主模型，把可靠性或效率问题移到可观测、可干预的推理环节。 评测从单一保真度转向任务与失败尾部 VOR-Bench用三维主观语义评分替代单一图像指标；LACI报告最差采样和灾难性失败率；SlotDiT直接看机器人完成率。平均分仍重要，但能否解释具体失败正成为更强的证据。 音频生成继续争夺长程结构控制 DiTAR+扩张历史上下文，SongCraft统一稀疏生成与稠密编辑条件，CMA-OT以多尺度音乐专家监督舞蹈配乐。不同任务都在处理局部声学质量与长程语义结构之间的矛盾。 人工智能炼丹君 整理 | 2026-09-17 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-16|22帧视频377毫秒-LynnReal-Omni 今日 AIGC 论文速览 今日共 10 篇 · 视频生成与交互 2 篇 · 视频算子与少步蒸馏 2 篇 · 图像生成、编辑与超分 3 篇 · 视频重建评测与动作建模 2 篇 · 语音合成与文本对齐 1 篇 重点论文标题列表 LynnReal-Omni（LynnReal AI）：22帧视频377毫秒生成 VC-Attention（Nunchux AI、MIT、NVIDIA）：低位注意力提速视频生成 Logit Refiner（CompVis @ LMU Munich · ECCV 2026）：补回同尺度token依赖 BVB（罗切斯特大学、Sony、卡内基梅隆大学、华盛顿大学）：让智能体用Blender复刻视频 CrossDistill（北京大学、清华大学、阿里巴巴集团）：分段蒸馏兼顾画质与多样性 今日论文速览 1. LynnReal-Omni：22帧视频377毫秒生成 LynnReal-Omni: Native multi-modal Video Generation for Agentic Visual Workflows | LynnReal AI | arXiv:2609.15863 关键词：多模态视频生成,可控视频,实时渲染,智能体创作 前序问题：扩散视频采样具有随机性，人物外观和长场景连续性难以精确控制；代理提供3D场景、游戏录像等明确约束，但单靠这些结构化输入又不足以保证真实感。 本文贡献：LynnReal-Omni 用32B共享多模态扩散Transformer统一文生视频、参考图驱动、结构控制、编辑与长视频；另训练27B Flash版本，接收3D渲染和游戏录像等异构条件，并以轻量VAE加速解码。 Agent workflows. Image-based scene reconstruction and agent-written low-poly games produce distinct visual-control streams. Prompt refinement, image generation, and first-frame editing provide appearance controls. The video model receives these controls through its native reference interface. 实验效果：论文报告在单张H100上，预热状态下生成并解码22帧540p视频，标准版需843毫秒，Flash版需377毫秒；这是特定帧数、分辨率和硬件条件的延迟，不代表任意长视频都可实时生成。 An example of generated-video artifact repair with LynnReal-Omni. Top: corrupted candle video. Bottom: independently repaired frames at identical timestamps, including both endpoints. Full frames are displayed at the same scale. Each source-frame edit uses four denoiser evaluations, for 480 evaluations across this 120-frame example. The accompanying demo plays both complete videos synchronously. 批判点评：统一的控制接口便于代理组合素材，但32B/27B模型的训练与部署成本很高；公开的22帧预热延迟也不能直接推出长片段的端到端吞吐或多轮主体一致性。 2. VC-Attention：低位注意力提速视频生成 VC-Attention: Value Smoothing and Softmax Casting for Low-bit Attention | Nunchux AI、MIT、NVIDIA | arXiv:2609.15810 关键词：视频生成,低比特注意力,FP8,算子优化 前序问题：视频DiT的时空token序列很长，低比特乘法虽快，V值离群点使量化误差扩大，softmax的高精度指数计算又成了新的延迟瓶颈。 本文贡献：VC-Attention 无需重新训练模型：V-Smooth先在线聚类并重排V token，减去块均值后量化残差；ExpCast-FP8把对数域分数直接编码为E4M3概率，替代FP32指数与格式转换。 VC-Attention writes the byte the conventional path writes. (a) Both paths take the same log-domain score $z$. The standard path evaluates an FP32 exponential and casts the result to E4M3; VC-Attention replaces both steps with one fused multiply-add, because an E4M3 byte is an affine function of the log of the value it stores. Reading the result as E4M3 costs no instruction: those bits already are the byte the $PV$ matrix multiply consumes. (b) The byte each path writes, and the relative error of the probability it decodes to. The two write the same byte on most of the interval and are one code apart on the rest. Every unit interval of $z$ looks the same, so one is enough. 实验效果：在所测B200/B300/H200上，注意力核相对BF16 FlashAttention-4快1.46–1.59倍，工作站卡快2.3–3.6倍；所测视频模型端到端加速为1.13–1.19倍或1.36–1.70倍，核加速不能当作整段视频加速。 Video diffusion leaves two bottlenecks that QK-centric low-bit attention does not touch. (a) Output error on Wan2.2. A Hadamard rotation of $QK$ shrinks the probability term, but leaves the larger value term exactly where it was: the value quantizer, not the $QK$ quantizer, is what bounds fidelity. (b) Even once both matrix products are low-bit, softmax's FP32 exponentiation and its cast still sit on the critical path between them. 批判点评：需要专门融合算子和在线token分组，不同GPU、序列长度及模型分布会影响收益；重排与量化误差应在具体视频模型上逐一核验。 3. Logit Refiner：补回同尺度token依赖 Logit Refiner: Improving Visual Autoregressive Models via Intra-Scale Dependency Modeling | CompVis @ LMU Munich · ECCV 2026 | arXiv:2609.11804 关键词：视觉自回归,图像生成,同尺度依赖,解码优化 前序问题：视觉自回归模型在每个尺度内并行采样token，忽略它们彼此的空间依赖；即便增大主干参数，也可能产生局部不连贯的图像。 本文贡献：Logit Refiner 冻结预训练VAR主干，增加轻量自回归模块，依次采样同尺度token并利用主干特征恢复局部联合依赖；接到已有checkpoint时无需重训主干。 Logit Refiner Overview. (a) The VAR backbone processes all previous scales and produces hidden states for the current scale in a single parallel forward pass, finally sampling from pointwise posteriors in parallel. As sampling is done independently within each scale, this can lead to mismatched tokens, affecting generation quality. (b) Our logit refiner takes these hidden states and samples tokens autoregressively within the scale, conditioning each prediction on previously sampled tokens. The refiner is a lightweight causal transformer, incurring only a small overhead during generation, while significantly improving sample quality. 实验效果：论文称新增参数约为主干的10%，训练计算不足主干的5%；在ImageNet 256×256类别条件实验中，1.1B参数的加装模型质量超过约两倍规模的对照主干，且在文生图设置中仍有提升。 VAR Failure Cases vs. Refiner. Our Logit Refiner can address a range of typical failures of VAR. Each column shows a paired sample (same class, same seed). Top: samples covering various failure modes from VAR-d30. Bottom: with refiner. 批判点评：顺序采样补回依赖也可能增加推理时的串行开销；论文中的参数和质量比较限定于所测VAR主干与任务，不能直接外推到所有生成架构。 4. BVB：让智能体用Blender复刻视频 BVB: Benchmarking Agentic Video Understanding via Programmatic Reconstruction in Blender | 罗切斯特大学、Sony、卡内基梅隆大学、华盛顿大学 | arXiv:2609.15478 关键词：视频理解,Blender,程序化重建,智能体评测 前序问题：现有视频理解基准多靠问答；模型即使答对部分问题，也不一定能生成同时保留动作、镜头和对象关系的可执行场景。 本文贡献：BVB要求智能体在统一沙箱与成本上限内编写Blender动画，渲染后分别用Dual VQA评价时空事实保留率、用Latent Similarity评价视觉相似度，并以平方根均值综合评分。 Controlled reconstruction and evaluation. A model alternates between viewing source frames and running Python code in a Docker sandbox under a cost limit, then saves an animated Blend scene. Dual VQA measures how well the rendered video retains answers the judge gets right on the source, and Latent Similarity compares layout and motion using frozen V-JEPA features. 实验效果：论文测试10个模型家族的51种配置；最优配置的潜空间相似度达到88.6，但仅保留源视频中53.7%的正确时空问答，说明看起来像与事实还原之间仍有差距。 BVB reveals shared task difficulty and model-specific variation. The left panel shows retention across eleven representative configurations. The right panel shows the full range, interquartile range, and mean over all 51 configurations for each task. Purple boxes mark the best shown value in each task. 批判点评：程序化重建比问答更能暴露空间和时间推理缺陷，但Blender建模、工具调用预算及渲染质量也会影响分数；不能把结果简单当作通用视频理解能力排名。 5. CrossDistill：分段蒸馏兼顾画质与多样性 CrossDistill: Balancing Quality and Diversity via Trajectory-Level Hybrid Few-Step Distillation | 北京大学、清华大学、阿里巴巴集团 | arXiv:2609.14725 关键词：扩散蒸馏,少步采样,视频生成,多样性 前序问题：扩散模型少步蒸馏常在画质与多样性之间取舍：轨迹蒸馏保留模式覆盖，分布匹配提升细节却可能让不同随机种子收敛到相似画面。 本文贡献：CrossDistill 沿噪声轴设置交叉点：高噪声阶段保持教师轨迹以保留全局分支，低噪声阶段做分布匹配以锐化局部细节，再用交叉状态耦合两段目标。 2D toy manifold distillation setting. From left to right: original teacher, trajectory-based distillation (TD), distribution matching (DM), loss-level mixture of TD and DM, and trajectory-level hybrid distillation (CrossDistill; ours). All models are trained on the same gray data manifold, and each student is trained to convergence. Colored curves denote denoising trajectories of 12 seeds, and black dots denote final generated samples. 实验效果：文生视频实验与图生视频定性展示显示，方法在少步设置下保留种子级差异，同时获得有竞争力的视觉质量；摘要没有给出可跨基准引用的统一加速倍数。 Diversity--quality trade-off. For each of three prompts (rows) we sample four independent initial noise seeds (columns) and show the same frame per generated video. AnyFlow and DMD show reduced seed-level variation, while rCM is diverse but lower in visual quality. In these examples, CrossDistill improves the trade-off, maintaining competitive diversity and visual quality. 批判点评：交叉点选择与两类目标的平衡需要按模型、任务调整；目前的图生视频证据以定性结果为主，读者应区分画质展示与可复现的综合指标。 6. DiVA：锚点续接让数字角色多轮互动 DiVA: Enabling Interactive Digital Life Simulation via Video Models | 蚂蚁集团、南洋理工大学、A*STAR | arXiv:2609.13830 关键词：交互视频,数字人,视频续接,多轮生成 前序问题：数字角色连续互动时，等待、动作与下一轮切换容易造成姿态跳变、镜头抖动和身份漂移；只拼接长视频难以稳定维持可交互状态。 本文贡献：DiVA 用多模态语言模型路由动作和语音响应，再把等待视频、动作视频和两者过渡拆成耦合模块；Anchored Video Continuation根据前一动作返回稳定锚点状态，支持语音与空间点击输入。 Given a text prompt defining the character's role, an MLLM acts as a router, processing user inputs (e.g. clicks and dialogue) and translating them into character responses and behavioral prompts for the audio-text conditional action model. Our video generation component starts with a waiting video, followed by iterative action videos based on the MLLM output. Finally, the anchored video continuation (AVC) module, conditioned on the prior action, targets preset, high-quality anchor frames that represent distinct character states (e.g. sitting or leaning back). Guided by the MLLM state assessment, AVC transitions to the appropriate anchor state. This mechanism smoothly restores the sequence to a stable, high-quality condition and enables expressive transitions between states, significantly expanding the character's motion range. 实验效果：论文对长视频、续接和插帧替代方案做比较，并报告多轮视觉质量与真实感的改善；摘要未给出统一的绝对延迟或显著性数字，因此不宜宣称“无限无衰减”。 Qualitative comparison on long-term digital life simulation. Our method successfully generates high-quality, expressive, and drift-free results, accurately performing state transitions (e.g. the 3rd to 4th transition in both examples). In contrast, all baselines suffer from severe drift and fail to execute precise state transitions; for instance, InfiniteTalk's subject only partially stands up in the second example. Notably, all baselines exhibit severe drift in fewer than 10 interaction rounds (marked in the bottom-right of each image), whereas our method remains stable indefinitely. Best viewed zoomed in. 批判点评：锚点策略对角色常见姿态有效，但复杂、非周期动作可能难找合适状态；实时交互还依赖生成延迟、音视频同步和对用户点击的空间理解。 7. Open-UniMo：64K动作token接入语言模型 Open-UniMo: Towards Unified Motion-Language Understanding and Generation in the Open World | 清华大学、香港中文大学（深圳）、南洋理工大学 | arXiv:2609.14615 关键词：动作生成,动作理解,具身智能,统一token 前序问题：动作语言模型往往把动作当作文本的辅助输入，跨模态互动不足；长动作序列逐token生成还容易积累误差。 本文贡献：Open-UniMo 在约150K文本token之外增加64K动作token，用一致的动作思维链连接语言语义与动作动态；先监督微调建立双向映射，再用GRPO提高语义对齐。 Overview of the Open-UniMo framework. Open-UniMo is trained in two stages with CoT reasoning. In the SFT stage, the model learns CoT-guided bidirectional motion-language mappings for both T2M and M2T tasks. In the GRPO stage, reinforcement learning further refines format compliance and motion-language alignment through multiple reward signals. 实验效果：论文在传统指标和自建Open-MoBench上报告领先结果，并通过消融指出动作到文本理解的瓶颈不主要在词表大小；没有单一数字可以概括所有动作任务。 Qualitative comparison on Open-MoBench for the T2M task. Compared with existing representative approaches, Open-UniMo generates motions that better capture semantic details and natural dynamics. 批判点评：64K动作词表与大规模开放数据意味着训练和部署成本；自建基准依赖VLM评判，实际机器人动作与物理环境中的泛化还需独立测试。 8. IABEdit：语义梯度教编辑器只改该改处 Semantically Aligned Gradient-Driven Context-Preserving Image Editing | 印度理工学院焦特布尔分校 | arXiv:2609.12691 关键词：图像编辑,语义对齐,视觉语言模型,局部保持 前序问题：指令式图像编辑的训练通常只看重建和文字条件，没有显式检查生成结果是否完成指令，因此容易漏改目标或波及无关区域。 本文贡献：IABEdit 用冻结的视觉语言模型提取目标编辑图的空间语义描述，再由可训练对齐器从生成图重建描述，利用残差梯度教生成器同时判断改什么、改哪里；推理时无需VLM。 IABEdit enables instruction-based image editing through a semantic-supervised distillation mechanism. A frozen Descriptive Anchor extracts rich guidance from the instruction and ground-truth edit, while an Instruction Aligner learns to align the generated image with this guidance. The alignment is enforced via backpropagation, guiding the diffusion model toward faithful and controllable edits. 实验效果：在MagicBrush上，DINO-I相对最佳扩散基线提高3.49、相对最佳总体基线提高1.26；在遮挡较重的D-LORD设置中，DINO-P比论文比较的Gemini代理高5.13。 Qualitative results on RealEdit dataset showing comparisons across various editing methods. The instruction adherence can be visualized at the fine-grained level. The non-targeted regions remain preserved, showcasing precise instruction-aligned editing generations. 批判点评：指标提升反映所测数据集的结构和语义保持，不等于所有编辑指令都能被精准执行；训练额外依赖VLM表征，需警惕其偏差与评测模型重合。 9. DNF-SR：双输入保住一步超分细节 DNF-SR: Dual-Input and Negative-Aware Feature Fine-Tuning for Real-World Image Super-Resolution | 南开大学 · CVPR 2026 | arXiv:2609.15120 关键词：真实图像超分,一步扩散,双输入,负样本微调 前序问题：低清图直接送入一步扩散模型会与其训练输入分布错位；只给低清图加噪虽能缩小分布差异，却可能抹掉原始内容。 本文贡献：DNF-SR 把原始低清图与加噪低清图一起送入Flux-Kontext编辑主干：噪声提供生成先验，原图维持内容条件；随后把多次生成结果分为正负样本，在图像和特征空间做负样本感知微调。 Overview of the DNF-SR framework. (a) The model structure adopts a dual-input design: noisy LR latents ($z_{mix}$) and original LR latents ($z_{LR}$) are concatenated with text tokens (encoded from image captions) and fed into fine-tuned DiT blocks of the Flux-Kontext pretrained model. We employed multiple loss functions to ensure the performance of the model. (b) The post-training process of Negative-aware Feature Fine-Tuning: multiple restored results are generated with different input noises, evaluated by combined full-reference (FR) and no-reference (NR) IQA metrics to obtain reward scores, and divided into positive and negative subsets. By constructing positive and negative optimization directions within both the image and the feature spaces, the quality of the restored images is improved. 实验效果：论文报告在真实图像超分实验中优于所比方法，并强调一步推理；arXiv摘要没有统一的绝对速度或画质数字，具体收益取决于论文内各数据集和指标。 Visual comparisons of different Real-ISR methods. Please zoom in for a better view. 批判点评：一次前向降低采样步数，但双输入增加token和内存；负样本分组依赖奖励模型，细节“更好看”时也可能偏离真实纹理。 10. AlignDPO：严重语音幻觉率降至0.6% AlignDPO: Preference-Gated Alignment for Reducing Hallucination in Decoder-Only TTS | ConnexAI · IEEE SLT 2026 | arXiv:2609.12855 关键词：语音合成,文本语音对齐,DPO,内容幻觉 前序问题：纯解码器语音合成在自回归输出时可能漏词、重复或编造内容；注意力对齐过弱不行，但一味把对齐压得很尖也会降低鲁棒性。 本文贡献：AlignDPO 在DPO偏好优化中只对被选中的语音样本加入轻量CTC对齐项，引导少数承担文本语音对齐的注意力头到适度锐化区间，推理时无需改模型结构。 Per-head $L_{CTC}$ distribution (log scale, teacher-forced over 100 utterances) for the four systems, sharing the x-axis. Colored dots are the identified AEAMs ($L_{CTC} < 2$); gray dots are the remaining heads. 实验效果：在Seed-TTS-Eval英语集上，论文报告严重内容幻觉率由4.4%降到约0.6%；正文还给出相对强DPO基线的幻觉率15.0%降至11.3%，两种统计口径不能混为一个数字。 ACI's effect is non-monotone (U-shaped) in attention sharpness, on both an in-domain and a hard out-of-domain set: hallucination vs. free-running entropy $C_E$ for five models. Left to right (soft to sharp): Base ($C_E{=}1.01$), DPO ($0.84$), DPO+M ($0.48$), Base+M ($0.08$), and DPO+M from Base+M ($0.07$). Seed-TTS reports HAL ($n{=}706$); Hard-500 reports SEV-HAL. 批判点评：结果基于特定英语语音数据和纯声学单码本主干；多语言、长句及噪声输入能否维持相同收益仍需独立验证，CTC权重过大会过度锐化。 趋势观察 视频模型走向可组合控制 LynnReal-Omni统一参考图、3D渲染和游戏录像等条件，DiVA把角色等待、动作与过渡拆开管理。可控生成的重点正从单段采样转到素材接口和跨轮状态保持。 加速要拆解真实瓶颈 VC-Attention同时处理V值离群点和softmax成本，LynnReal-Omni-Flash以独立模型和轻量解码器压缩短片段延迟；核提速、模型延迟和长片段吞吐需分别衡量。 生成质量不只是增加参数 Logit Refiner补回同尺度token依赖，CrossDistill按噪声阶段分别保多样性与细节，DNF-SR用原图条件减少一步超分的内容漂移；三者都调整了生成过程中的信息流。 评测从单一画质走向任务事实 BVB用程序化重建拆分视觉相似和时空事实，IABEdit显式检查编辑语义与局部保持，Open-UniMo同时评估动作生成和理解；分项指标比一个综合分更容易定位失败。 人工智能炼丹君 整理 | 2026-09-16 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-15|阿里五路音频控制-DiffSynth-Music 今日 AIGC 论文速览 今日共 10 篇 · 可控与统一音频生成 2 篇 · 长时音视频与可控视频生成 2 篇 · 图像编辑与画质修复 2 篇 · 3D 资产生成 1 篇 · 流式交互与语音评测 2 篇 · 高效长上下文 1 篇 重点论文标题列表 DiffSynth-Music（阿里巴巴集团、上海交通大学）：五路音频控制锁住节拍 StepAudio 3 Gen（阶跃星辰 StepFun-Audio 团队）：一套模型生成所有声音 Encore（百度、北京理工大学 · SIGGRAPH Asia 2026）：三十秒音画同步不跑偏 DIAL（阿里巴巴集团、北京大学）：调一个旋钮控人物像不像 Omni-Streaming Thinking（香港大学、香港科技大学（广州）、LIGHTSPEED、萨塞克斯大学）：流式多模态会主动改口 今日论文速览 1. DiffSynth-Music：五路音频控制锁住节拍 DiffSynth-Music: Audio-Conditioned KV-Cache Adapters for Controllable Music Generation | 阿里巴巴集团、上海交通大学 | arXiv:2609.12774 关键词：可控音乐生成,音频条件,KV缓存,扩散Transformer 前序问题：文字与歌词能规定歌曲主题和唱词，却难以精确约束节拍、旋律、伴奏、演唱韵律和参考风格；把多种音频条件逐步送进扩散模型又会反复增加计算。 本文贡献：DiffSynth-Music 从同一音乐 DiT 初始化 Control、Prosody、Reference 三个模板模型，先由共享 VAE 编码控制音频，再把逐层 KV 缓存注入生成主干。模板端固定在干净数据端点，每种控制只前向一次，五类条件还能组合使用。 实验效果：相对冻结主干，节拍条件把 Beat-F1 从 0.3031 提到 0.8496；人声条件把 V-MSE 从 0.0158 降到 0.0006，伴奏条件把 A-MSE 从 0.0221 降到 0.0023；参考条件的 MuLan-A 从 0.6836 升到 0.8088。 批判点评：一次缓存让多条件控制更便宜，但三个模板模型仍带来额外参数和训练维护成本。实验以单条件为主，真正创作常同时叠加节拍、人声、伴奏与参考音频，组合冲突和听感质量仍需更大规模人评。 2. StepAudio 3 Gen：一套模型生成所有声音 StepAudio 3 Gen Technical Report | 阶跃星辰 StepFun-Audio 团队 | arXiv:2609.12945 关键词：通用音频生成,语音合成,声音设计,RVQ 前序问题：语音、歌声、音乐与音效通常使用不同生成器和离散表示，混合声音任务很难在一套模型里保持文本能力、说话人一致性与声学细节。 本文贡献：StepAudio 3 Gen 以 12.5 Hz 的 16×2048 共享 RVQ 空间直接自回归建模通用音频：主干沿时间预测首码本，轻量因果 Transformer 再沿码本轴补齐其余十五层；渐进预训练与 RVQ Adaptor 缓解音频能力对语言能力的干扰。 实验效果：TTS 人类偏好 Elo 达 1755.33，对五个商业系统的汇总胜率为 82.0%；声音设计 Elo 为 1668.5、汇总胜率 75.5%；风格一致性中文平均 85.2%，英文平均 77.7%。 批判点评：统一离散建模简化了产品管线，但十六层 RVQ 的级联预测仍可能积累误差。报告覆盖多类声音，公开复现仍取决于训练数据、偏好标注与完整模型权重。 3. Encore：三十秒音画同步不跑偏 Encore: Infinite Audio-Video Generation with Adaptive Signal Routing | 百度、北京理工大学 · SIGGRAPH Asia 2026 | arXiv:2609.04249 关键词：音视频联合生成,长视频生成,自适应信号路由,跨模态同步 前序问题：现有音视频生成能做出同步良好的短片，但时长受限；长视频方法靠分块迭代延长时长，却完全没有音频。联合生成长音视频比单做任何一边都难：每一块都要同时保住视频时序连贯、音频时序连贯和跨模态同步，而这三路条件信号进入模型的通路各不相同。 本文贡献：Encore 把难题拆成两层：局部连续性交给带显式跨块上下文传播的迭代生成，全局一致性交给带位移位置编码的参考音视频信号。在此之上提出自适应信号路由（ASR），在自注意力内加逐层逐头可学习偏置、在交叉注意力输出上加可学习缩放，让模型自行调节每路条件信号的影响强度。端到端联合训练后，推理时全程以真值模态为条件即可支持无限长的音频转视频与视频转音频。 实验效果：扩展后的 VerseBench 长音视频评测上，身份一致性 ID 为 0.86、音画同步 LSE-C 为 2.36、AV-A 为 0.88，三项均为最佳；误差累积 ΔAS 0.02、ΔID 0.07，明显低于次优的 0.06 与 0.22。短片设置下 LSE-C 为 3.46，对 LTX-2.3 的 2.36。 批判点评：把长音视频拆成局部续接加全局参考，确实压住了 30 秒级的身份漂移与场景突变。但 ASR 的逐层逐头可学习参数把调参负担转移到了训练侧，消融显示去掉任一路缩放都会让同步指标明显掉档。画面美学仍落后于 OVI 与 LTX2.3，且所谓无限长目前只验证到 30 秒量级，更长时长的累积行为没有给出。 4. DIAL：调一个旋钮控人物像不像 Harnessing Intrinsic Subject-Aware Attention for Controllable Multi-Subject Video Generation | 阿里巴巴集团、北京大学 | arXiv:2609.11507 关键词：多主体视频生成,注意力定位,保真强度控制,偏好优化 前序问题：多主体视频生成卡在两件事上：保真强度不可调——模型要么因训练数据偏置产生生硬的贴图感，要么对输入敏感到无法控制；以及语义漂移——主体中途消失、属性出错、多个参考身份互相串味。 本文贡献：作者发现 DiT 内部某些注意力块天然形成内在空间定位图（ISGM），能准确定位参考主体。DIAL 据此双阶段复用这一内部信号：低噪声阶段用 ISGM 构造注意力偏置矩阵，推理时逐主体调节引导强度 γ 即可控制身份保真度，无需重训；高噪声阶段用同一张图零成本构造偏好对做强化学习，把注意力锚定到参考主体上抑制漂移。 实验效果：OpenS2V-Eval 上，Kaleido 主干总分从 56.00 提到 γ=16 时的 61.14，人脸相似度从 31.81 升到 60.64，双双超过最强通用基线 SkyReels-v3 的 59.26 与 VACE-14B 的 55.09。第二阶段单独作用（γ=0）把主体出现率从 155/320 提到 163/320。 批判点评：把控制接口接到模型自带的注意力结构上、省掉外挂模块，这个思路很干净。但 ISGM 出现在哪一层依赖对具体主干的经验观察，换骨干要重新找；保真度提升伴随真实感与美学分下滑，γ 给多少仍靠人工判断。第二阶段的偏好对由 ISGM 自评构造，评判标准与被优化对象同源，存在自我确认的风险。 5. Omni-Streaming Thinking：流式多模态会主动改口 Omni-Streaming Thinking | 香港大学、香港科技大学（广州）、LIGHTSPEED、萨塞克斯大学 | arXiv:2609.15128 关键词：流式多模态,音视频推理,状态修正,幻觉抑制 前序问题：流式音视频模型常在声音尚未说完时依据画面提前下结论；一旦错误判断写入记忆，后续音频即使否定它，模型仍会沿着旧状态回答。 本文贡献：OST 把输出拆成已见证据、未来证据预测和待验证主张，并为主张绑定验证时间窗。音频与视觉证据分开保存；遇到矛盾后，反驳过程削弱旧主张及其依赖状态，回答门控只在关键主张满足条件时放行。主干冻结为 Qwen3-Omni-30B-A3B，仅做轻量适配。 实验效果：在五个流式与音视频基准上，OST 相对最强开放基线平均提升超过 10%；OST-DiagBench 的 d′ 达 2.95，而开放基线最高 1.38。SOVBench-O 平均准确率由 81.6 提至 87.8，SOVBench-T F1 由 90.5 提至 92.4。 批判点评：显式状态与反驳链能减少过早承诺，却依赖主张拆分、模态归因和验证时间窗都足够准确。复杂直播中矛盾可能长期不闭合，额外结构化输出也会增加延迟和训练标注成本。 6. Overpainting：灰色地带让模型自己发挥 Overpainting: Localized Context-aware Diffusion Image Editing | Adobe Research、威廉与玛丽学院 | arXiv:2609.10811 关键词：图像编辑,三值遮罩,扩散模型,注意力dropout 前序问题：图像编辑要么给定二值遮罩、严格只改框内，结果生硬且边界突兀；要么纯靠文字提示，改哪里完全不受控。用户真正想表达的「这块必须改、这一圈可以顺带调、其余别动」没有对应接口。 本文贡献：Overpainting 用白/灰/黑三值 trimap 表达这三档意图：白色必须编辑、灰色允许编辑、黑色不得改动。实现上在预训练图像编辑扩散模型外挂 LoRA，用联合注意力在源图、遮罩与噪声三路输入间传信息，并以注意力 dropout 平衡信息流。配套的自动数据流水线先用语言编辑模型造候选图像对，筛掉过度编辑、编辑不足与整体偏移的失败样本，再从可用样本反解出 trimap。 实验效果：遮罩估计网络微调后 F1 达 0.955、IoU 0.916，对比阈值像素差的 0.733 与 0.607。MISATO@1K 补全评测上 LPIPS 0.189、FID 20.58，远好于 FLUX-Kontext 的 0.372 与 92.09。180 个人工整理的例子上，50% 注意力 dropout 在遮罩遵循与编辑质量之间取得平衡点。 批判点评：三值 trimap 比二值遮罩更贴近真实修图意图，把「顺带调一下」这件事显式化了。但灰区给模型多大自由度只能靠 dropout 率这一个全局参数调，用户画的灰区宽窄也会显著改变结果，论文自己的遮罩变体实验就显示同一提示词能得到差异很大的输出。训练数据由 FLUX.1 Kontext 自动生成再筛选，模型学到的编辑分布因此被上游模型的偏好圈住。 7. PLSR：3D网格切块做超分省显存 PLSR: Progressive and Localized Super-Resolution of 3D Objects via Localized Latent Voxel Diffusion | 香港中文大学、广东工业大学、香港城市大学、莫纳什大学 | arXiv:2609.06436 关键词：3D资产生成,超分辨率,体素扩散,渐进式生成 前序问题：扩散式 3D 生成模型被固定分辨率卡住，细节上不去；直接把分辨率整体拉高，显存与算力又会爆掉。 本文贡献：PLSR 在已有 3D 生成基座上做超分，把全局超分拆成关联式的局部子任务：粗网格编码成低分辨率条件，上采样出高分辨率隐变量的稀疏体素骨架后切成固定大小 patch，每个 patch 关联裁剪对应的低分辨率条件与输入图像，逐 patch 去噪再聚合成全局预测。整轮结果还能当作下一轮的低分辨率条件，渐进逼近更高分辨率，基座只需低成本微调。 实验效果：伪真值几何评测上 LPIPS 0.109、FID 55.89、Chamfer 距离 0.0139、F1 0.145，四项全面优于 TRELLIS.2 在 1536 与 2560 两档分辨率下的结果；纹理评测 LPIPS 0.125、FID 59.89。开放世界 ELO 评分中几何总体质量 1855、纹理 1633，高于 TRELLIS.2(1536) 的 1790 与 1599。 批判点评：把全局超分拆成局部 patch 换来了显存友好，重叠推理与渐进式两个消融也都验证有效。但逐 patch 去噪要遍历所有 patch，分辨率越高调用次数越多，省的是显存不是时间。接缝主要靠低分辨率条件当锚点加重叠区抑制，论文也承认无重叠时仍有残留。开放世界评测依赖模型打分，与人工审美的一致性没有交叉验证。 8. SAS：稀疏注意力直接听损失 SAS: Simple Attention Sparsification via End-to-End Optimization of Context Ranking | 腾讯混元、香港科技大学（广州）、香港科技大学 | arXiv:2609.13141 关键词：稀疏注意力,长上下文,上下文排序,端到端优化 前序问题：可训练稀疏注意力通常用硬 Top-K 选上下文，语言模型损失无法穿过离散选择，只能蒸馏稠密注意力权重；有限预算因此可能保留“像教师”却不真正影响最终预测的块。 本文贡献：SAS 在训练时把选择器连续分数以对数门的形式注入注意力 softmax，让语言模型损失直接更新上下文排序；归一化门校准历史块与始终保留的当前块，Triton 内核把这一机制嵌入 FlashAttention 风格计算。 实验效果：在 2048 token 预算、Qwen3-4B 上，AIME24 比 SeerAttention-R 高 13.02 分（68.85 对 55.83）；Qwen3-14B 的 LongBench 8K+ 为 53.9 对 51.5。SGLang 解码在 512K、batch 1 最多降延迟 5.6 倍，batch 8、64K 最多约 13 倍加速。 批判点评：端到端损失对下游任务更直接，但选择器只在数学数据上训练，跨领域稳定性仍受主干与查询分布影响；预填充仍采用稠密注意力，因此长输入首 token 成本没有同时消失。 9. Mi-Ripple：修掉反复AI编辑的涟漪 Mi-Ripple: Restoring Images Degraded by Iterative AI Editing | 弥阳科技、中国科学院软件研究所、上海交通大学、天津大学 | arXiv:2609.11317 关键词：图像修复,迭代编辑,频域伪影,配对再生成 前序问题：图像被生成模型反复编辑后会积累低频起伏、色带与周期纹理，内容看似正确却越来越“塑料”；普通锐化或去噪可能同时损伤真实边缘。 本文贡献：Mi-Ripple 先在频域用陷波定位并抑制迭代编辑形成的周期分量，再通过配对再生成构造更干净的参考，对剩余伪影做修复；流程把可测量的频谱异常与生成式细节恢复结合。 实验效果：14 次只做陷波的测试中，整图 CIELAB 亮度残差标准差为 0.08–0.44；配对再生成把参考中的碎屑密度降低 45%。三个示例的尺度纹理指数分别从 25.3%、41.1%、20.0% 降至 11.1%、12.1%、0.0%。 批判点评：方法针对可见的周期性退化更有解释性，但配对再生成可能改动原图身份与细节。若伪影频率与真实重复纹理重合，陷波也可能误删内容，仍需要区域级保真检查。 10. Duplex Cue：会说会停还要边听边改 Continue, Adapt, or Yield: In-Turn Adaptation to Overlapping Speech in Full-Duplex Agents | Besimple AI | arXiv:2609.13117 关键词：全双工语音,重叠语音,对话适应,语音评测 前序问题：全双工语音评测常把模型行为简化为继续说或停下来，却漏掉人类常用的第三种反应：保留话轮，同时吸收听者补充的词、纠正或澄清。 本文贡献：Duplex Cue 把听者意图区分为回应、协作与打断，把说者行为标成原样继续、话内适应或让出话轮。研究从无脚本英语对话中提取 300 个经人工确认的提示，并在相同提示下比较人类录音与 PersonaPlex 延续。 实验效果：保留 208 对活跃且可评分样本；66 个协作提示中，人类话内适应率为 68.2%，PersonaPlex 为 34.8%，相差 33.4 个百分点。模型更多原样继续（42.4%）或让出话轮（22.7%）；自动评分与人工在 142 项中一致 108 项，κ=0.641。 批判点评：三分法比“停没停”更接近自然对话，但判断适应需要理解语义依赖，自动评审本身可能偏向表面复述。要成为训练目标，还需扩展语言、说话风格、噪声与真实网络延迟。 趋势观察 控制接口前移到模型内部 控制不再靠外挂模块，而是接到主干已有的结构上：DiffSynth-Music 用可复用 KV 缓存组合五路音频，StepAudio 3 Gen 用共享离散码本统一语音、歌声、音乐与音效，DIAL 干脆直接复用 DiT 自带的注意力定位图。 长时序生成靠显式上下文传播续命 Encore 把长音视频拆成局部连续性与全局一致性两层，用跨块上下文传播加参考信号压住 30 秒后的身份漂移，误差累积指标 ΔID 从次优的 0.22 降到 0.07——长程生成的胜负手不在单帧画质，而在误差累积。 编辑控制从硬遮罩转向软约束 Overpainting 用白灰黑三值 trimap 区分「必须改、可以改、不能改」，Mi-Ripple 用频域陷波只删周期分量，都在回答「哪里该动、动多少」，而不是一刀切地框定编辑区域。 算力不够时预算分配成为核心问题 PLSR 把全局 3D 超分拆成可迭代的局部 patch 去噪换显存，SAS 在固定注意力预算下端到端学上下文排序——两条线都承认资源有限，转而研究怎么把预算花在刀刃上。 人工智能炼丹君 整理 | 2026-09-15 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-14|SenseNova 8B原生视觉直出4K-SN-U15 今日 AIGC 论文速览 今日共 10 篇 · 统一视觉理解与生成 1 篇 · 实时视频与世界模型 2 篇 · 多模态智能体评测 3 篇 · 语音识别与压缩 2 篇 · 推理对齐与生成奖励 2 篇 重点论文标题列表 SenseNova-U1.5（OpenSenseNova 团队）：8B原生视觉直出4K Vidu S2（清华大学、北京生数科技）：720p实时视频25帧起 World in World（西湖大学 AGI Lab）：冻结模型也能自由换镜头 MindTopo（西北大学、微软研究院、斯坦福大学）：拓扑规划远逊人类 IdeaAMBIG（耶鲁大学、TCS Research）：金标准让可实现率到98% 今日论文速览 1. SenseNova-U1.5：8B原生视觉直出4K SenseNova-U1.5: Towards Native Unified Visual Intelligence | OpenSenseNova 团队 | arXiv:2609.11929 关键词：统一多模态,图像生成,图像编辑,原生像素建模 前序问题：理解模型通常依赖视觉编码器，生成模型又依赖 VAE，两条链路使用不同表征，导致理解、推理、生成和编辑难在一个端到端模型里互相迁移；高分辨率生成还会放大局部块之间的不连续。 本文贡献：SenseNova-U1.5 用 8B 参数的 Mixture-of-Transformers 直接统一像素与文本，去掉外置视觉编码器和 VAE；空间耦合解码器修补逐块重建的边界，原生分辨率扩展到 4K。后训练分别优化审美、双语文字、信息图和编辑专家，再用多专家在线蒸馏合并能力。 实验效果：在作者报告的开放模型对比中，SenseNova-U1.5 的 GenEval 总分达到 0.92，DPG-Bench 为 88.11，CVTG-2K 平均分为 0.948；训练语料新增约 5900 万张图，且有效训练量中 88.2% 超过 1024²、64.4% 超过 2048²。 批判点评：原生像素路线减少了模块割裂，却把视觉 token 数量、像素重建和语言建模的竞争都压进同一主干，训练成本并未消失。论文展示大量自有数据与奖励流程，完整数据未开放前，4K稳定性、多语言文字和多参考编辑的复现门槛仍高。 2. Vidu S2：720p实时视频25帧起 Vidu S2: Real-Time Interactive, Editable, and Spatial Video Generation | 清华大学、北京生数科技 | arXiv:2609.11638 关键词：实时视频,流式生成,视频编辑,空间视频 前序问题：主流扩散视频模型要等整段去噪结束才能播放，用户无法在直播过程中换人物、改衣服或更新参考图；上一代 Vidu S1 也局限于 540p、固定参考和说话头像。 本文贡献：Vidu S2 把流式视频扩展为 Avatar 与 Editing 两条实时链路：通过回放式在线蒸馏、块因果时序注意力、高低噪声双阶段缓存、量化与多 GPU 流水线，在生成过程中接收新指令和动态参考；编辑分支支持风格、服装、角色及背景替换，并探索双目空间视频。 实验效果：Avatar 在 720p 下维持 25–42 FPS。Editing 在 Sparkle-Bench 获得 3.74 总分，在 OpenVE+RefVIE 联合评测得 4.26；虚拟试穿 VFID-I 为 9.9515，低于 CatV2TON 的 19.5131。长期人评中，对 Runway 的整体质量偏好率达到 85.7%。 批判点评：实时性建立在复杂的缓存、量化和多 GPU 调度上，普通消费级部署能否复现 720p 上限仍需实测。空间视频主要由单目结果与深度后处理构造，快速运动、遮挡边界和长时间身份漂移仍可能影响头显舒适度。 3. World in World：冻结模型也能自由换镜头 World in World: Explore the World with World Models | 西湖大学 AGI Lab | arXiv:2609.11548 关键词：世界模型,相机控制,视频重渲染,免训练控制 前序问题：从已有视频换视角时，模型既要跟上原事件的时间线，又要把已见物体放到新视角、补全未见区域，并在镜头返回时恢复先前外观；现有方案通常为每种控制额外训练模块。 本文贡献：World in World 把原视频观测、目标视角投影、几何渲染和历史生成帧都编码成带相机、时间与有效区域标签的干净视觉状态，直接送入冻结因果视频模型的原生自注意力。对应路由器建立 token 对应关系，EWA 在同一次去噪前向中分别调节各证据通道。 实验效果：在 DAVIS 与 OpenVid-1M 相机重渲染评测中，方法的七项 VBench 平均分为 85.192，优于次高的 84.295；平移误差 0.068622、旋转误差 2.8326°，并取得 23.1511 PSNR。去掉目标视角 warp 后，旋转和平移误差约升至完整方法的 3.4 倍和 10.9 倍。 批判点评：免训练接口很实用，但仍依赖深度、相机姿态、点对应和人体几何等外部估计，错误会作为“干净证据”被模型放大。新暴露区域依赖生成先验，几何合理不等于真实世界可恢复。 4. MindTopo：拓扑规划远逊人类 MindTopo: Can Foundation Models Reason in Topological Space? | 西北大学、微软研究院、斯坦福大学 | arXiv:2609.11900 关键词：空间推理,拓扑,多模态模型,智能体规划 前序问题：视觉空间评测多考距离、角度和形状，却很少检查连续性、分离、顺序、包围和打结这些在连续形变下保持不变的拓扑关系；看懂静态图也不代表模型能通过动作维持它。 本文贡献：MindTopo 用 13 类程序化任务构造 11030 个样本，把五种拓扑性质分别放在单步推理与闭环规划中测试；同时评估 14 个多模态大模型，并让图像或视频生成模型充当规划过程的视觉想象器。 实验效果：按任务宏平均，GPT-5.6-Sol 得 61.42%，明显低于人类的 97.87%；其静态推理为 66.83%，闭环规划降到 52.75%。Qwen3-VL-2B 经 SFT 后平均 28.83%，GRPO 为 18.69%；联合训练使推理到 51.53%，规划仍只有 6.33%。 批判点评：基准把“识别关系”和“操作关系”的差距量化得很清楚，但渲染风格、动作接口和精确匹配评分可能放大模型失误。生成下一状态有时只是画出合理终点，并未遵守环境动力学，说明视觉想象尚不能替代可执行世界模型。 5. IdeaAMBIG：金标准让可实现率到98% IdeaAMBIG: Benchmarking Implementation-Critical Gaps in Research-Idea Specifications | 耶鲁大学、TCS Research | arXiv:2609.10539 关键词：研究智能体,代码生成,需求澄清,可复现性 前序问题：研究想法可以新颖且逻辑自洽，却遗漏门控方式、损失定义或参数匹配口径；编码智能体若不识别这些关键空白，就会默默补假设，最终实现出另一个方法。 本文贡献：IdeaAMBIG 从论文、代码仓库、Issue 和复现记录构造 660 个有证据支撑的样本，其中 163 个是真实缺陷、497 个是受控注入缺陷，分别测试规格是否可编码、缺陷定位和已知缺陷后的澄清问题生成。 实验效果：13 个模型中，真实样本的最佳宏缺陷恢复率仅 9.6%；给出缺陷位置后，最佳宏澄清动作成功率升至 80.6%。在 oracle 实验里直接提供金标准解决方案，可把下游“可编码”率从 14% 提升到 98%。 批判点评：它抓住了研究自动化中常被忽略的输入质量问题，但真实缺陷只有 163 个，且证据多来自已有复现失败，可能偏向容易留下公开记录的项目。定位失败仍是瓶颈，单纯提高代码模型能力并不能解决规格缺失。 6. Xiaomi-CocktailASR-1：声纹提示直听目标说话 Xiaomi-CocktailASR-1 Technical Report | 小米集团 | arXiv:2609.11274 关键词：语音识别,目标说话人,鸡尾酒会,音频语言模型 前序问题：多人同时说话时，普通 ASR 会混写所有声音；传统目标说话人识别通常先分离再转写，误差会累积，而且不少系统在只有一人或目标不在场时容易误删、误认。 本文贡献：Xiaomi-CocktailASR-1 把参考语音与混合语音拼接，用 0.6B Data2Vec2 音频编码器同时提取内容和声纹，再接 Qwen3-8B 解码，不需要独立说话人编码器或语音分离。负样本训练让目标缺席时输出空文本，CoT 模式还显式判断人数、性别和声纹相似度。 实验效果：在 LibriMix 2mix 上，目标说话人 WER 从此前 4.84% 降到 4.11%；真实 AMI-SDM 从此前 22.0% 降到 20.63%。单人 LibriSpeech WER 为 1.73%，目标存在时误拒率 0.36%；AMI-IHM WER 为 8.89%，优于 Qwen3-ASR-1.7B 的 10.56%。 批判点评：端到端统一架构减少级联误差，但要额外提供干净参考声纹，且 8B 解码器对边缘设备并不轻。CoT 能给出可读理由，却不保证其人数或声纹判断忠实反映内部决策。 7. Mr.LHDR：深研链越长越容易失真 Mr.LHDR: A Benchmark for Multimodal Real-World Long-Horizon Deep Research Agents | MBZUAI、中国科大、浙江大学、腾讯 | arXiv:2609.11318 关键词：深度研究,多模态智能体,长链推理,评测基准 前序问题：现有深度研究基准多在几步检索后只看最终答案，难以判断智能体能否在十几步依赖链中持续保存证据，也会掩盖“答案碰对、过程已错”的情况。 本文贡献：Mr.LHDR 用隐藏节点关系图构造八类真实问题，平均要求 12.1 个必要中间结论、依赖深度 10.4；每题至少包含一个会改变推理状态的图像、地图、PDF、图表或视频帧，并同时评分最终答案、检查项和依赖一致性。 实验效果：最终答案最强的一次 GPT-5.5 运行只有 43.1% OA 和 34.3% 严格准确率；专用系统 o3 Deep Research 为 32.4% OA、19.6% 严格准确率。移除图片后，依赖感知检查分下降 12.6 个百分点，且链越长严格准确率越低。 批判点评：依赖图让过程评测更可信，但人工构造的唯一答案和必要路径可能排除等价证据链。网页随时间变化会让可复现性持续漂移，真正部署还要处理来源可信度、费用和权限，而不只是链长。 8. Negative Self-Distillation：远离坏推理反超正蒸馏 Negative Self-Distillation: Learning to Reason by Avoiding Flaws | 弗吉尼亚大学、斯坦福大学 | arXiv:2609.11699 关键词：自蒸馏,推理模型,负向教师,对齐训练 前序问题：在线自蒸馏让模型模仿带答案提示的高置信轨迹，可能压制不确定表达、探索和自我纠错；直接遗忘错误轨迹又会把普通语言 token 一并惩罚，损坏基础能力。 本文贡献：NSD 不模仿“知道答案”的自己，而让模型生成与题目相关的粗心负条件，再推动学生分布远离这个负教师；动态门控只挑出对推理行为关键的 token 更新，减少对标点和通用语言模式的误伤，也不依赖外部教师或标准答案。 实验效果：在 AIME 24/25/26、HMMT、AMC、OlympiadBench 和 MATH 七个数学基准上，NSD 相对基线平均提升：1.7B 模型 2.3%、4B 模型 7.5%、8B 模型 6.0%，并在论文实验中持续超过 OPSD 与其他无标签自举 RL 方法。 批判点评：负教师由模型自己生成，若它不能稳定描述真正的错误模式，训练信号可能只是风格差异。动态门控降低语言退化风险，却新增阈值和梯度设计；数学推理上的收益还需在代码、事实性与开放问答中验证。 9. GenV：生成奖励抓出伪正确 Beyond Solver Verdicts: Generative Reward Models for Autoformalization | 凯斯西储大学、Amazon Web Services | arXiv:2609.11085 关键词：自动形式化,生成奖励模型,Z3,神经符号推理 前序问题：Z3 等求解器只能确认给定形式化是否可满足，无法判断它是否忠实翻译了原题；一个写反的不等号仍可能返回同样 verdict，形成“结果正确但形式不等价”的伪正确。 本文贡献：GenV 先用离线 Z3 等价性 oracle 挖掘硬负例，再把参考等价判断蒸馏成不需要参考答案的连续生成式分数；它复用语言模型词表读出奖励，并用 logit lens 与稀疏自编码器分析错误坐标如何在内部形成。 实验效果：GenV+HN 在参考等价验证上取得 0.961 AUROC，远高于只看求解器 verdict 的机会水平 0.500；它可零样本迁移到未见翻译器和不同形式风格，并让智能体测试时算力分配的下游准确率提高 11.3 个百分点。 批判点评：生成式验证器比二元 verdict 更细，但它把“忠实性”重新交给学习模型，不能替代求解器的形式保证。若参考形式化有误、问题允许多种合理解释，等价性标签本身也会变得含糊。 10. X-AuT：音频塔减20.7%参数 X-AuT: Progressive Audio-Encoder Compression for Speech LLMs with Cross-Scale Distillation | 小鹏汽车 | arXiv:2609.11412 关键词：语音大模型,模型压缩,跨尺度蒸馏,音频编码器 前序问题：直接删除语音大模型的音频编码层虽能降延迟，却会扰动送入语言解码器的表示，造成漏字和过早结束；逐层试错成本又很高。 本文贡献：X-AuT 先用短行为探针筛选可删层组合，再逐步从 18 层压到目标深度；恢复阶段同时做表示对齐、跨尺度蒸馏、按计划切换学生策略监督和 LoRA 微调，语言主干保持冻结。 实验效果：Qwen3-ASR-0.6B 从 18 层压到 16 层后，十个中英基准宏平均错误率从 5.61% 降到 5.27%；14 层模型减少 20.7% 音频塔参数，错误率为 5.75%。渐进式 18→14 优于直接剪枝的 6.73%，1.7B 教师蒸馏为 5.55%，也优于自蒸馏的 8.45%。 批判点评：方法给出两个实用压缩点，但流程包含探针、分阶段剪枝、教师蒸馏和 LoRA，训练链条并不轻。语言主干冻结有利于稳定，也限制了模型共同适应严重音频压缩的空间。 趋势观察 生成与理解继续合并底层表征 SenseNova-U1.5去掉视觉编码器和VAE，把像素重建、语言理解、图像生成与编辑放进同一原生主干，统一模型的竞争开始深入到最底层视觉接口。 视频模型从离线片段走向实时世界 Vidu S2把720p Avatar和流式编辑推到25–42 FPS，World in World则用冻结骨干支持任意视角探索；实时交互、换镜头和长时记忆正在合流。 评测开始追踪过程而非只看终点 MindTopo要求动作过程保持拓扑，Mr.LHDR检查依赖链中间结论，IdeaAMBIG定位实现规格缺陷：一个看似正确的最终答案已不足以代表系统可靠。 后训练信号变得更细也更反直觉 NSD让模型远离坏推理，GenV把形式等价性蒸馏成连续奖励；相比简单模仿正确答案，新的对齐方法更关注错误来自哪个token、哪一步和哪种结构。 人工智能炼丹君 整理 | 2026-09-14 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-11|阿里13模型不会专业剪辑-CutCraft 今日 AIGC 论文速览 今日共 10 篇 · 音视频创作评测与安全 2 篇 · 可编程世界与物理视频 2 篇 · 生成后训练与统一多模态 2 篇 · 图像编辑与多视角生成 2 篇 · 设计自动化与合成数据 2 篇 重点论文标题列表 CutCraft（阿里巴巴、上海交通大学、复旦大学等）：13模型不会专业剪辑 Programmable World Model（Alaya Lab）：规则状态准确率98% ⚡ DIVA（Peng Li 等（ACM MM 2026））：参考图放大越狱风险 GGF（上海交通大学、中国电信人工智能研究院、中国科学技术大学）：模型用自绘图反哺理解 FlowCPO（西湖大学、浙江大学、快手可灵团队）：离线对齐GenEval达0.84 今日论文速览 1. CutCraft：13模型不会专业剪辑 Beyond Coherence: Benchmarking Professional Editing-Technique Execution in Multi-Shot Audio-Video Generation | 阿里巴巴、上海交通大学、复旦大学等 | arXiv:2609.08275 关键词：音视频生成,多镜头,剪辑评测,生成智能体 ⚠️ 前序问题：多镜头音视频模型已经能做出连贯、电影感强的片段，但现有评测多看画质、同步和物理合理性，无法判断模型是否真的执行了 J-cut、L-cut、转场时机和蒙太奇等专业剪辑指令。看起来像电影，不代表遵守了剪辑语法。 本文贡献：CutCraft 把结构化多镜头提示扩展为显式剪辑规格，并用镜头结构对齐、专家模型指标、工具化多模态判断和规则问答构成分层评测。作者还给出一个生成智能体基线：先规划镜头，再逐镜生成，最后做后期合成，使剪辑语义变成可执行步骤。 实验效果：对 13 个闭源与开源音视频生成模型的测试显示，当前系统普遍能维持内容连贯，却经常错过规定镜头数、转场关系和高阶蒙太奇；美学质量与剪辑指令遵循只有弱相关。智能体基线说明把剪辑拆成规划、生成和合成后更容易显式执行专业语法。 批判点评：混合评测仍依赖专家模型和多模态裁判，复杂剪辑意图可能被评分器误读。后期拼接能提升指令遵循，却可能掩盖底层生成模型不会原生控制镜头的问题；基准对真实剪辑师工作流、版权素材和长叙事的覆盖仍有限。 2. Programmable World Model：规则状态准确率98% Programmable World Model | Alaya Lab | arXiv:2609.10540 关键词：世界模型,视频生成,可编程状态,交互游戏 ⚠️ 前序问题：交互式视频世界模型能生成逼真的下一帧，却通常把角色生命值、阵营、库存和任务进度隐含在像素历史里。实体离开画面后，模型容易忘记它是否存活；自然语言提示也只能描述结果，无法保证规则在长时间交互中被稳定执行。 本文贡献：Programmable World Model 把世界状态演化与视觉生成拆开。编码智能体把自然语言规则写成可执行程序，轻量引擎维护包含屏外实体和非视觉属性的权威状态；状态增强的 3D 定向包围盒再经确定性编译器投影成身份、语义和运动方向控制图，预训练视频模型只负责把状态渲染成画面。 实验效果：在作者新建的 CombatStateBench 上，系统的存活角色数量准确率达到 94%，状态准确率达到 98%，并能在长时战斗交互中维持实体状态。它还支持用户预先编写游戏机制、逐个控制实体，并在镜头移开后继续保存世界事实。 批判点评：显式引擎让规则可验证，但也把开放世界压缩成包围盒、离散属性和手写转移规则；复杂物理、细粒度姿态与不可预设事件仍交给生成器补全。论文基准集中于战斗场景，面对大规模地图、多玩家并发和长期程序错误时的扩展性仍待验证。 3. DIVA：参考图放大越狱风险 The Price of Consistency: Exploiting Visual Anchors for Multimodal Jailbreaking in Video Generation | Peng Li 等（ACM MM 2026） | arXiv:2609.07216 关键词：视频生成,安全评测,多模态越狱,参考图控制 ⚠️ 前序问题：图生视频用参考图锁住主体和场景，提高时空一致性，但安全系统往往只重点审查文字。模型原本可能把危险提示漂移成无害内容，视觉锚点却会把生成过程拉回参考图中的危险意图，形成一致性越强、逃逸空间越小的安全悖论。 本文贡献：DIVA 是一个免训练多模态越狱框架，把危险意图拆成静态参考图和看似普通的运动提示，并用双重标准筛选兼顾隐蔽性与语义保真度的组合。论文同时提出 TI2VSafetyBench，用于专门评测多条件视频生成中的视觉锚定风险。 实验效果：作者在多家主流商业平台和开源视频模型上测试，DIVA 的攻击成功率显著高于纯文本攻击，说明只过滤提示词不足以覆盖图像与运动描述共同表达的风险。论文已被 ACM MM 2026 接收。 批判点评：攻击依赖先获得合适的危险参考图，现实系统还可能在上传、编码和输出阶段做二次视觉审核。公开越狱流程有双重用途风险；防御评估需要同时覆盖输入图、运动文本、跨模态组合和生成结果，且必须在平台更新后持续重测。 4. GGF：模型用自绘图反哺理解 Dreaming in Flow: Generative Grounding Feedback for Self-Evolving Unified Multimodal Models | 上海交通大学、中国电信人工智能研究院、中国科学技术大学 | arXiv:2609.08282 关键词：统一多模态,自训练,流模型,图像生成 ⚠️ 前序问题：统一多模态模型把理解和生成放进同一网络，却仍把两种能力当作独立任务训练。直接用模型自生成图像做自训练又会放大漏物体、属性错误和空间关系失真，缺少一种让生成经验反哺理解、再由理解修正生成的闭环。 本文贡献：生成接地反馈 GGF 只使用文本提示和模型自己的视觉梦境。流级反馈在同一噪声潜变量上比较文本、图像与修复条件的预测方向，把图像接地信息传回文本条件；梦境回放则通过描述和再想象，让可验证事实在两次生成间保持一致，并分离无关经验。 实验效果：在采用不同理解—生成融合设计的统一模型上，GGF 都带来一致的文生图提升，同时让视觉理解获得幅度较小但稳定的增益。方法不依赖额外成对图文数据，说明模型自身生成的图像可以成为双向训练信号。 批判点评：自生成经验仍受初始模型能力上限约束，流级一致不保证图像事实正确。回放和修复增加训练计算，如何过滤系统性偏见、避免错误闭环以及在闭源生成器上复现，仍是落地障碍。 5. FlowCPO：离线对齐GenEval达0.84 FlowCPO: A Unified Divergence View of Preference Alignment for Flow Models | 西湖大学、浙江大学、快手可灵团队 | arXiv:2609.09905 关键词：流模型,偏好对齐,离线优化,前向KL ⚠️ 前序问题：流与扩散模型的偏好对齐分成在线强化学习和离线偏好优化两派：前者必须不断从当前模型采样，成本高；后者常用正样本微调或似然比近似，既难解释与在线目标的关系，简化回归损失还可能无下界。 本文贡献：FlowCPO 用散度视角统一这些方法，并提出无需在线回滚的离线前向 KL 目标，同时利用偏好和拒绝样本。在线性插值及明确正则条件下，作者把前向 KL 上界化为可在固定数据上优化的对比流匹配损失，并证明该损失非负。 实验效果：在域内实验、CFG=3.0 时，FlowCPO 的平均 GenEval 与 OCR 分数分别为 0.84 和 0.87，高于 FlowDPO 的 0.81 和 0.74。域外测试中它取得最佳 GenEval，但多项奖励分数低于 RFT，结果并非全面领先。 批判点评：理论上界依赖线性插值和正则条件，真实大模型训练是否满足需要验证。离线数据省掉采样，却继承偏好数据覆盖与标注偏差；负样本权重、参考先验和插值系数也会带来额外调参成本。 6. PhysFlow：5万物理视频教会运动 PhysFlow: Physics-Aware Optical Flow for Motion Controllable Video Generation | 中科院自动化所、中国科学技术大学、北京航空航天大学、中关村学院 | arXiv:2609.08215 关键词：视频生成,物理一致性,光流,运动控制 ⚠️ 前序问题：视频生成器能做出漂亮纹理，却常出现碰撞错误、非刚体变形失真和前景背景接触不合理。完整物理引擎依赖准确 3D 重建和材料参数，文字或稀疏轨迹又不足以描述像素级形变，需要一种介于模拟状态和最终外观之间的密集运动表示。 本文贡献：PhysFlow 把生成拆成两步：PA-Flow 根据速度、加速度、密度和杨氏模量生成物理感知光流，分别建模全局运动与局部形变；FlowRender 再以光流视频为条件合成纹理。配套 PhysVideo 用物理引擎与 3D Gaussian Splatting 构建显式监督。 实验效果：PhysVideo 包含 1 万个前景物体和 5 万段带运动、材料属性标注的视频。实验显示 PhysFlow 在保持视觉质量的同时提升物理合理性，并能从单图处理非刚体运动、物体交互及前景背景接触。 批判点评：光流适合二维位移，却无法显式表达遮挡后的三维结构、拓扑变化和长期守恒量；两阶段误差也会累积。方法仍需用户或数据提供材料与运动属性，开放世界里这些参数通常难以可靠获得。 7. MIEdit：千组编辑基准无需调参 Multi-History-Step SDE Inversion for Image Editing with Superior Regional Awareness | 中科院自动化所、国科大（ECCV 2026） | arXiv:2609.06602 关键词：图像编辑,SDE反演,语义遮罩,免训练 ⚠️ 前序问题：免训练扩散编辑要在重建原图与服从新提示之间取舍。现有 ODE/SDE 反演步数多、编辑幅度受限，增大 CFG 还可能产生伪影；非编辑区域保护通常需要额外遮罩输入或独立分支。 本文贡献：MIEdit 用预测—校正的多历史步 SDE 反演，在每一步复用至少两个历史项，以更少步数提高稳定性和编辑可塑性；同时调整噪声日程缓解大幅编辑冲突。IASM 在反演早期借助 CFG 方向自动生成语义角度遮罩，并贯穿后续采样约束区域。 实验效果：作者构建 EditEval++，覆盖 30 个细粒度任务和超过 1,000 组图像—文本—遮罩三元组。实验显示 MIEdit 在无需微调、无需外部遮罩的条件下超过所比较方法，并能把输入重建到数值精度范围。论文已被 ECCV 2026 接收。 批判点评：多历史项会增加缓存与实现复杂度，自动遮罩质量仍依赖基础模型的 CFG 响应。论文主要围绕扩散 SDE 编辑，迁移到流匹配模型、超高分辨率和多对象关系编辑时是否稳定还未充分验证。 8. StreetDiff：全景约束街景多视角 StreetDiff: Multi-view Street Scenes Generation via Cross-view Consistent Multi-view Stable Diffusion with Structure Prompts | 深圳大学 | arXiv:2609.09890 关键词：多视角生成,街景,全景图,结构控制 ⚠️ 前序问题：多视角扩散在室内或简单自然场景表现不错，面对道路、建筑和动态目标密集的城市街景时，镜头旋转后容易重复物体、扭曲建筑和破坏布局。相邻视角注意力缺少球面几何对应，难维持全局结构。 本文贡献：StreetDiff 让全景分支负责全局布局、透视分支负责局部细节，并用 Panorama Alignment Module 按球面投影建立跨视角注意力约束。结构提示可来自分割图、轮廓或草图；作者还构建带文本和密集结构标注的 HDR 城市全景数据集 Street360。 实验效果：实验显示 StreetDiff 在街景生成质量和多视角几何一致性上超过所比较基线，尤其改善纯文本条件下的建筑与道路结构；它无需修改扩散骨干即可注入几何对齐。 批判点评：球面全景是有效的全局脚手架，但真实街区包含强遮挡、动态交通和大范围深度变化，二维投影约束仍可能失效。Street360 的地域与天气覆盖、从合成多视角到可导航 3D 场景的差距也需要检验。 9. LoGAN：少量字形扩展27种语言 LoGAN: Multilingual Font Localization with Generative Agents | Netflix（ECCV 2026） | arXiv:2609.07029 关键词：字体生成,多语言,VLM智能体,扩散模型 ⚠️ 前序问题：把一个品牌字体或电影 Logo 本地化到新语言，不只是生成单个字形，还要保留笔画风格、纹理、颜色、字距和字偶距。通用生图模型常改乱排版，传统字体生成又难从拉丁字母跨到结构复杂的中日韩字符。 本文贡献：LoGAN 用 VLM 智能体协调字形级扩散、少样本风格微调、字距与字偶距迁移以及纹理扩展模块。输入少量原字体字形或 Logo 字母后，系统分别解决结构、排版和材质，再组合成目标语言的完整字符集。 实验效果：论文覆盖超过 27 种语言，包括拉丁、希腊、西里尔与中日韩文字；在字体和真实 Logo 数据上，相比字体专用模型及 FLUX、Nano-Banana 等编辑模型取得更高字形保真度，并更好保持风格、纹理和字距。400 个电影 Logo 样本中有 44% 基于字体制作。 批判点评：多模块流水线提升可控性，也放大任一环节的误差和运行成本。少数字形可能不足以覆盖复杂脚本的部件组合、书写规范与文化设计语义；字体版权、人工修字和完整字符编码支持仍是商业落地条件。 10. AnomalyCraft-700K：4万异常视频70万标注 AnomalyCraft-700K: Component-Level Controllable and Verifiable Synthetic Anomalies for Fine-Grained Video Anomaly Understanding | 西北工业大学、新加坡管理大学 | arXiv:2609.06978 关键词：视频生成,异常检测,合成数据,多模态理解 ⚠️ 前序问题：真实异常视频稀少、难控制，已有合成数据通常只按类别或整句提示生成，提示与画面细节不一定一致，也缺少靠近正常—异常边界的困难正常样本，模型容易根据表面线索而非事件语义判断。 本文贡献：AnomalyCraft 把异常事件拆成场景、背景、主体、物体和有向交互五类组件，通过三阶段生成逐步放松非关键约束。相同组件同时作为核验单元，定位并人工修正视频—文本偏差；每个异常类别还配套语义接近但实际正常的困难反例。 实验效果：数据集包含超过 4 万段视频和 70 万条任务级文本标注，覆盖从异常检测、检索、描述到细粒度推理的六类任务。传统模型和多模态大模型评测都显示，它能为异常检测与理解提供有效监督。 批判点评：合成器的视觉偏差可能成为捷径，组件级人工修正也带来高成本和主观性。模型在该数据上提升不代表真实监控、开放场景和未见异常同样受益，需与真实数据混合训练并做跨域验证。 趋势观察 生成评测开始检查专业过程 CutCraft不再只看画质和连贯性，而是逐项检查镜头、转场和音画剪辑语法，说明创作模型的评价对象正在从结果扩展到过程执行。 世界模型从像素记忆走向权威状态 Programmable World Model把规则与实体状态交给可执行引擎，生成模型退回渲染器角色；可验证状态开始成为长期交互的一等公民。 条件越强，跨模态安全面越大 DIVA揭示参考图既提升一致性也会固定危险意图；安全策略需要联合审查图像、文字运动条件与输出，而不能只过滤提示词。 生成模型用结构中间态换取控制 从PhysFlow的光流、StreetDiff的全景几何到MIEdit的语义角度遮罩，低维且可解释的中间表示正在连接高层意图与像素生成。 人工智能炼丹君 整理 | 2026-09-11 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-10|90%稀疏视频DiT加速2.63倍-RoLA 今日 AIGC 论文速览 今日共 10 篇 · 高效与流式视频生成 3 篇 · 可控动作与手语生成 2 篇 · 生成基础设施与评测 3 篇 · 图像生成与编辑 2 篇 重点论文标题列表 RoLA（北京大学、清华大学、电子科技大学、阿里巴巴等）：90%稀疏视频DiT加速2.63倍 Mask Forcing（香港科技大学（广州）、香港科技大学、加州大学圣迭戈分校等）：给自回归蒸馏注入干净令牌 FlexMoGen（布朗大学、Epic Games、加州大学戴维斯分校、犹他大学）：文字定内容，参考动作定风格 Decoupled SF（Yanru An 等）：流式数字人15.4FPS且延迟1.3秒 Miles v0.1（RadixArk）：744B模型异步RL跑上64张GB300 今日论文速览 1. RoLA：90%稀疏视频DiT加速2.63倍 RoLA: Rotary-Positioned Low-Rank Linear Attention for Efficient Diffusion Transformers | 北京大学、清华大学、电子科技大学、阿里巴巴等 | arXiv:2609.06712 关键词：视频生成,稀疏注意力,线性注意力,扩散Transformer 前序问题：视频扩散 Transformer 的时空令牌很长，稠密自注意力随序列长度平方增长。稀疏分支可以省计算，却会丢掉维持场景、运动和语义一致性的远程联系；现有低秩全局补偿又难同时保留 3D RoPE 的相对位置结构与可复用的线性摘要。 本文贡献：RoLA 将注意力拆成固定稀疏局部分支与低秩全局分支。它先把查询和键投影到低秩空间并通过非线性，再施加截断后的预训练 3D RoPE；这样旋转不会被非线性打乱，全局键值摘要可对所有查询复用。令牌级门控负责把局部尖峰与平滑全局背景重新融合，无需新增位置参数。 Architecture overview of the proposed method. (a) Dense 3D-RoPE attention decomposes into sparse top-$k$ spikes and a residual background. (b) The method replaces dense attention in pre-trained DiT blocks with sparse--low-rank branches and gated fusion, reusing backbone RoPE without additional positional embeddings. The right part shows the rotary low-rank branch and distribution-aware gated fusion. 实验效果：在 Wan2.1-14B 的 720p、81 帧设置上，RoLA 在 90% 稀疏率下仍保持有竞争力的生成质量，并在单张 NVIDIA H100 上取得 2.63 倍端到端推理加速。机制实验中，截断秩 r=64 的时间与高度相对位置余弦相似度都达到 0.93。 Deployment-oriented efficiency summary on RTX 5090 (different from the benchmark evaluation setting). Panel (a) shows representative fixed-setting deployment latency, panel (b) shows theoretical self-attention FLOPs per denoising step, and panel (c) shows long-sequence deployment latency. 批判点评：RoLA 需要对替换注意力后的完整骨干做单阶段全参数微调，部署收益并非零训练获得。低秩分支只解决高稀疏率下的全局补偿，稀疏局部分支本身沿用既有方案；更长视频、不同 RoPE 划分和消费级 GPU 上的质量—速度曲线仍需验证。 2. Mask Forcing：给自回归蒸馏注入干净令牌 Mask Forcing: Improving Autoregressive Video Diffusion Distillation via Dual-Noise Masking Rollout | 香港科技大学（广州）、香港科技大学、加州大学圣迭戈分校等 | arXiv:2609.09123 关键词：视频生成,自回归扩散,分布匹配蒸馏,模式坍塌 前序问题：用反向 KL 的分布匹配蒸馏把双向视频扩散教师压成因果学生时，目标偏向追逐少数高概率模式。学生在自回滚中容易越来越饱和、平滑，并把早期误差持续传给后续片段。 本文贡献：Mask Forcing 在学生自回滚期间沿空间和时间轴随机遮罩，用更干净、较低噪声的令牌替换部分高噪声输入。扰动让学生探索教师分布中尚未覆盖的区域，同时干净令牌给邻近噪声令牌提供去噪参照，从而缓解模式坍塌与长时误差积累。方法可插入多种 DMD 自回归蒸馏流程，不需要真实视频或额外后训练阶段。 实验效果：在 30 秒 LongLive 设置上，加入 Mask Forcing 后 HPSv3 从 8.44 提升到 9.11，VBench 总分从 83.91 提升到 84.51，语义分从 80.70 提升到 81.44。论文还报告它在逐帧和分块设置下普遍改善视觉质量与指令遵循。 批判点评：收益依赖遮罩比例、噪声窗口和更新粒度，表明它仍是一套需要按骨干与任务调参的训练策略。论文主要在既有因果视频蒸馏管线上验证，尚未说明对完全不同教师、极长序列或交互式状态更新是否同样稳定。 3. FlexMoGen：文字定内容，参考动作定风格 Flexible Motion Generation from Language and Style References | 布朗大学、Epic Games、加州大学戴维斯分校、犹他大学 | arXiv:2609.08032 关键词：人体动作生成,文本到动作,风格迁移,潜扩散 前序问题：文本很适合描述“做什么”，却难精确表达节奏、肢体发力和情绪动态；离散风格标签又无法覆盖未见风格、长动作或同一序列里的风格切换。 本文贡献：FlexMoGen 同时输入自然语言与风格动作片段，用无风格标签监督的变分编码器提取连续风格，再通过轻量适配模块调制文本到动作的潜扩散模型。统一预训练、相对位置编码和时变风格控制使模型可以合成长序列、多风格过渡以及未见过的文本—风格组合。 Overview of our style-adapted text-to-motion framework. The input content motion $x_c$ is encoded by a pretrained motion encoder, and Gaussian noise is added to its latent embedding. The text-to-motion (T2M) model (top right) consists of $7$ Transformer encoder layers that take motion, text, and time embeddings as inputs. Each self-attention block incorporates relative positional encoding into the key and value projections. During style finetuning, the T2M backbone is frozen, and only the weight matrices $W_s^{K}$ and $W_s^{V}$ in the Style Adaptation Module (SAM) are trained. SAM encodes a style example $x_s$ and injects its outputs as additive biases to the $K$ and $V$ vectors in the attention layers, guiding the network to preserve the semantics of $x_c$ while reflecting the style of $x_s$. 实验效果：22 名参与者给出 330 次成对判断。相对 SMooDi，FlexMoGen 在内容保持、风格反映和整体动作质量上的偏好率分别为 61.1%、67.7% 和 71.3%；相对 T2M+MP，内容和质量偏好率达到 82.1% 与 94.0%。 User study results (pairwise preference, % favoring ours). Left: FlexMoGen vs. T2M+MP. Middle: FlexMoGen vs. SMooDi. Right: FlexMoGen vs. LoRA-MDM. Criteria are content preservation, style reflection, and motion quality. 批判点评：风格参考本身可能同时携带动作内容，编码器是否真正解耦仍难完全证明。用户研究规模较小，长序列测试只含一次风格过渡；快速连续切换、接触物理和手部细节还需要更严格评测。 4. Decoupled SF：流式数字人15.4FPS且延迟1.3秒 Decoupled Self-Forcing Distillation for Streaming Talking Head Generation | Yanru An 等 | arXiv:2609.10317 关键词：说话人视频,流式生成,自强制蒸馏,动作潜变量 前序问题：端到端音频驱动视频扩散把音频条件融合到整幅视频潜变量，而身份、背景和外观大多与音频无关，既浪费容量也容易模糊细节。便宜的两阶段方法先生成动作，再渲染视频，却常因动作空间监督不足而损失画质。 本文贡献：该方法先在与身份解耦的低维动作空间里融合音频和动作字幕，由小型因果自回归 Transformer 生成动作潜变量，再交给预训练扩散渲染器。解耦自强制蒸馏用同一个冻结视频教师监督两条流：有动作条件时蒸馏因果渲染器，无条件时以真实视频给渲染回滚打分，反向约束动作生成器。 Overview of Motar. (a) An AR motion transformer models causal dependencies over motion latents, with an efficient diffusion head producing continuous-valued latents; a user-written motion caption and the driving audio are fused into a global condition query by a Q-Former projector. (b) Hierarchical conditioning: the global query is injected by full cross-attention for coarse, sequence-level control, while raw audio embeddings are injected by windowed cross-attention for frame-level lip articulation. (c) Decoupled self-forcing distillation: the frozen bidirectional teacher $G$ supervises both branches by distribution matching. Conditioned on motion, it distills $G$ into a block-causal student $G_\phi$; unconditionally, it matches the rendered motion rollout against the distribution of real talking videos. 实验效果：动作生成与视频渲染两条因果流并行运行，论文报告达到 15.4 FPS、首段延迟 1.3 秒，并称相对非流式教师没有质量退化。 Qualitative comparison with Wan-based end-to-end methods. For each result we show five frames with the spoken word beneath; the phoneme being articulated is highlighted in red (e.g. the “oo” in “look”), so that lip shape can be checked against the sound at each frame. Our method produces the tightest audio--lip alignment and the sharpest facial detail. 批判点评：动作空间没有天然的双向教师，论文借渲染结果间接监督，效果会受动作表示和渲染器上限共同影响。身份解耦在极端表情、遮挡与头部大幅运动下是否成立，以及跨语言口型和长时间漂移，仍需更大规模验证。 5. Miles v0.1：744B模型异步RL跑上64张GB300 Miles v0.1: Production-Level Post-Training | RadixArk | arXiv:2609.08368 关键词：大模型后训练,强化学习,SGLang,分布式训练 前序问题：前沿模型的强化学习已经包含多轮工具调用、超长回滚和异步环境，生成、训练与权重同步任一环节的不一致都会让 on-policy 假设失效；现有框架往往只覆盖某种后端或缺少生产级可观测性。 本文贡献：Miles 以 SGLang 负责回滚，训练端可选 Megatron-LM 或 PyTorch FSDP，并提供点对点、共享桶和磁盘增量等三类权重同步路径。系统统一支持全参数与 LoRA 强化学习、on-policy 蒸馏、SFT、真正的 rollout—training 对齐，并把同一架构扩展到扩散模型。 实验效果：端到端案例在 64 张 NVIDIA GB300 上对 GLM-5.2 744B-A40B 做终端编码任务的全异步智能体强化学习，前 30 个统计步骤的中位耗时为 263 秒。项目已开源代码与部署文档。 批判点评：64 张 GB300 的案例展示了规模上限，也意味着复现门槛很高。异步回滚会带来策略陈旧度、环境版本和样本重放偏差，系统提供校正机制，但不同任务下的稳定边界仍需独立验证。 6. VI-Bench：反推视频提示词最高仅得0.632 VI-Bench: Benchmarking Prompt Inversion from AIGC Videos | 中国科学院自动化研究所、弗吉尼亚大学、新加坡国立大学等 | arXiv:2609.08079 关键词：视频理解,提示词反演,生成评测,多模态模型 前序问题：视频描述只需说出画面内容，能够复现的提示词还要恢复风格、镜头运动和多镜头结构。现有视频理解基准没有测试“反推提示词后重新生成，能否回到原视频”，也难评估提示泄露风险。 本文贡献：VI-Bench 从 1610 万条真实用户提示中清洗出约 390 万条，构建 900 个经人工核验的 AIGC 视频，覆盖单镜头语义、风格与镜头控制、多镜头组合三档难度。它让 18 个视觉语言模型反推提示，再用原生成器回放，并联合原提示对齐与回放视频保真计算 Inversion Score。 实验效果：最强模型的总体 Inversion Score 只有 0.632；难度从单镜头升到多镜头后表现明显下降。主题与风格的“文本看似正确、回放却不像”差距最大，说明视频字幕能力不能替代可执行的生成控制恢复。 批判点评：提示反演同时涉及创作复用与隐私攻击，分数更高并非在所有场景都更好。基准把开放式提示压成五个维度，仍可能漏掉负面提示、采样器与种子等无法从画面稳定恢复的控制因素。 7. RelightFormer：9万物体训练多视角直接换光 RelightFormer: Feed-forward Generative Transformer for Multiview Object Relighting | 香港理工大学 | arXiv:2609.07414 关键词：图像重光照,多视角生成,生成Transformer,环境光照 前序问题：逆渲染要从图像分解几何、材质和光照，是高度欠定的优化问题；单图生成式重光照又忽略跨视角线索，难以在镜面、透明和毛发材质上保持一致。 本文贡献：RelightFormer 从视频基础模型改造出前馈生成 Transformer，用光照交叉注意力把目标环境贴图动态注入空间特征，并用对输入顺序不敏感的位置编码对称处理无序多视角。训练数据 LOD 包含 9 万个 Objaverse 物体与 3.9 万种独特光照，不显式估计法线、反照率等内在属性。 Architecture of RelightFormer. Input modalities (noise, reference images, and an environment map) are first patchified into token sequences, with ray embeddings added to encode stereo geometric priors. Noise and reference tokens are concatenated and processed through two parallel attention pathways: a multi-view self-attention module for intra- and cross-view feature aggregation, and an illumination attention module that dynamically injects lighting cues into spatial features. The outputs of both branches are element-wise summed and passed through an FFN. After the final layer, reference tokens are discarded, and the updated noise tokens are used to predict the flow-matching velocity field. For clarity, VAE encoding and decoding stages are omitted. 实验效果：在真实 OLATverse 材质分组上，RelightFormer 在多数类别取得最高前景指标；例如金属物体 sPSNR/PSNR 为 22.84/19.88，毛发物体为 17.75/14.28，并支持单视角、多视角和新视角的零样本重光照。 Qualitative results for multi-view image relighting in real-world OLATverse Dataset. 批判点评：绕过显式物理分解提升了易用性，却也降低了光照与材质参数的可解释性。9 万合成物体的材质分布与真实拍摄存在域差，复杂遮挡、非刚体和未知相机标定下的多视角一致性仍是风险。 8. AV-SafetyBench：只看视频会漏掉近半音画风险 AV-SafetyBench: A Safety Benchmark for Text-to-Audio-Video Generation | Suah Choi 等 | arXiv:2609.06991 关键词：音视频生成,安全评测,跨模态风险,生成基准 前序问题：文字到音视频模型同时生成画面、语音、音效和环境声，危险内容可能只藏在音轨，或由无害画面与无害声音组合后产生。只评视频或只评音频会系统性漏检。 本文贡献：AV-SafetyBench 建立四个轴、13 类风险的分类体系与 5200 条人工复核提示，分别从完整音画、仅视频、仅音频三种视角判定输出，再把完整音画风险归因到视频、音频、双模态各自危险或跨模态组合危险。 实验效果：五个开源音视频生成模型的完整音画不安全率为 25.1% 至 49.4%。在四个模型中，音频独有与音画联合风险占可归因不安全样本的 41.6% 至 48.3%；跨模态伤害类别中，87.5% 来自音画组合后才出现的风险。 批判点评：风险比例依赖提示集分布、生成拒答策略和裁判阈值，不应直接解释成真实产品事故率。基准主要覆盖公开模型与英语语境，多语言语音、方言暗示和长时叙事风险仍可能不足。 9. Concept Brittleness：用稀疏特征定位生图概念盲点 Interpreting Object-Dependent Concept Brittleness in Text-to-Image Diffusion Models | 复旦大学、深圳大学等 | arXiv:2609.09909 关键词：文生图,可解释性,稀疏自编码器,推理时修复 前序问题：同一风格或属性在大多数对象上能生成，却会对少数对象稳定失败。这类“对象依赖的概念脆弱性”不是换随机种子就能解释，也难从原始去噪特征中定位缺失了哪一条概念证据。 本文贡献：作者把逐步去噪轨迹投到稀疏自编码器空间，对比成功与失败样本，寻找缺失、变弱或出现过晚的概念维度，并从同类成功样本建立概念原型。推理时把失败样本的特征轻量插值到原型方向，用修复效果反证诊断是否抓住了真实缺口。 实验效果：跨多个扩散骨干的风格与属性失败案例中，原型插值显著改善概念一致性、文本保真和修复成功率。分析还显示越深层的去噪表示概念结构越清晰，而越早期介入通常有更强纠正作用。 批判点评：方法先要收集可靠的同类成功样本来构造原型，对长尾概念或没有清晰成功对照的情况较弱。SAE 的稀疏特征并不天然等于人类可读因果概念，插值改善结果也不能完全排除其他相关方向共同起作用。 10. SignRefine：局部适配器把手语手部精度提高30% SignRefine: Adapting Foundational Video Models for Sign Language Generation | 萨里大学 | arXiv:2609.08496 关键词：手语生成,视频扩散,局部适配器,关键点控制 前序问题：通用视频扩散模型主要在口语人物视频上训练，能生成自然人物，却经常把手指、嘴形和眉眼做错；对手语而言，这些小区域正承载语言信息，画质好但动作错仍不可理解。 本文贡献：SignRefine 冻结预训练视频 DiT 主干，只为左手、右手和脸部分别加入带空间掩码的局部适配器，把高分辨率区域条件注入指定 Transformer 层。系统只需二维关键点与一张人物参考图，并使用原生手语视频数据集 NVSign 训练区域控制。 实验效果：相对最强基线，SignRefine 的手部姿态精度指标最高提升 30%；手语用户在视觉质量与可理解性成对比较中超过 80% 的情况下选择 SignRefine。模型还展示了跨人物外观与视觉条件的泛化。 批判点评：二维关键点没有完整编码手形、接触关系和非手部语法，生成可理解性仍取决于关键点质量。当前数据的语言种类、地区变体和签署者覆盖决定了泛化边界，必须持续由聋人社群参与评测。 趋势观察 视频效率开始补齐全局结构 RoLA在90%稀疏下保留旋转位置全局分支，Mask Forcing则从训练分布侧减少自回滚模式坍塌；速度优化正在从少算注意力扩展到稳定学生分布。 条件控制向低维与局部区域收缩 Decoupled SF把音频先落到动作潜变量，SignRefine只强化手脸区域，说明让条件作用于真正相关的表示比全图注入更节省容量。 生成评测进入可回放和跨模态阶段 VI-Bench要求反推提示后重新生成，AV-SafetyBench同时检查画面、音轨及其组合；只看文本相似或单一模态已不足以评价生成系统。 基础设施成为算法可信度的一部分 Miles把回滚、训练和权重同步放在同一套可验证系统里，提醒大规模后训练的算法结论必须连同 on-policy 对齐与运行拓扑一起审查。 人工智能炼丹君 整理 | 2026-09-10 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-09|阿里两步口型配音跑到7.13FPS-TBDub 今日 AIGC 论文速览 今日共 10 篇 重点论文标题列表 TBDub（阿里巴巴淘天集团 TaoLive AIGC）：两步口型配音跑到7.13FPS AlignGraft（新南威尔士大学）：弱模型一次对齐全家复用 ⚡ SeRV（俄克拉荷马大学、佐治亚大学、马萨诸塞大学阿默斯特分校）：375小时数据生成3D手语 PAI-Actor（Utopai Studios、加州大学尔湾分校、南洋理工大学、新加坡国立大学 Show Lab）：1080P多角色电影替换 MVWeaver（中国科学院自动化研究所、快手可灵 KlingAI、上海戏剧学院、北京电影学院、康斯坦茨大学）：1861支MV教会歌曲转镜头 今日论文速览 1. TBDub：两步口型配音跑到7.13FPS TBDub: Production-Oriented Visual Dubbing | 阿里巴巴淘天集团 TaoLive AIGC | arXiv:2609.06144 关键词：视频编辑,视觉配音,少步蒸馏,口型同步 ⚠️ 前序问题：把原视频语音替换为新音频时，嘴形必须同步，同时还要保住身份、牙齿、光照、遮挡与背景。X-Dub 在干净数据上有效，但面对直播压缩、绿幕素材和上游生成视频时，容易出现嘴部粘连、身份漂移、边界闪烁，并且 30 步采样难以投入生产。 本文贡献：TBDub 先用生产域数据、失败规则、非对称条件退化、干净口腔先验和多层 HuBERT 音频特征，对完整视频 DiT 做任务自适应后训练，得到 30 步教师；再把 DMD/DMD2 改造为条件视频编辑蒸馏，对完整两步轨迹反向传播，并用分区重建监督稳定身份和口腔细节，得到两步学生。 编辑依据论文方法章节重绘；原论文未提供方法框架图。 实验效果：在 38 段 TalkVid 视频上，教师相对 X-Dub 的口型同步、身份一致性和视觉质量 MOS 分别提高 0.14、0.95 和 0.90 分。两步学生在单张 NVIDIA H20、512×512 的端到端计时中达到 7.13 FPS，总延迟降低 13.93 倍，DiT 阶段加速 42.49 倍，同时大体保留教师的画质与音画同步。 论文 Table 4：单张 NVIDIA H20、512×512、VAE-to-VAE 计时边界下的端到端生成吞吐量。 批判点评：38 段视频与单一 H20 配置仍不足以覆盖真实直播中的语言、脸型、遮挡和码率变化；音频前端使用英语 HuBERT，也需要跨语言检验。方法继承 Wan 与 X-Dub 的大部分能力，训练数据和生产过滤规则对结果贡献很大，不能只归因于两步蒸馏。 2. AlignGraft：弱模型一次对齐全家复用 Test-Time Weak-to-Strong Alignment: Transferring Implicit Rewards from Weak to Strong Flow Models | 新南威尔士大学 | arXiv:2609.05968 关键词：测试时对齐,流模型,弱到强迁移,偏好优化 ⚠️ 前序问题：每个新生成模型、检查点和奖励目标都重新做强化学习或偏好优化，成本高且把奖励强度永久写死。现有测试时对齐又常要求奖励函数梯度或另训价值模型，部署仍需保留奖励基础设施。 本文贡献：AlignGraft 保存一个弱模型的“基础版与已对齐版”模型对，把两者在每个采样步的速度差视为隐式奖励方向，再将这段差值加到同潜空间、同前向加噪核的强模型速度上。强模型保持冻结，测试时只用一个标量调节对齐强度，不需要奖励评估、反向传播或新的微调。 实验效果：把 SD3.5-Medium 的 GenEval 对齐迁移到 SD3.5-Large 后，强模型总分从 0.68 升到 0.90，接近源对齐模型的 0.93；位置关系从 0.28 升到 0.91，计数从 0.67 升到 0.84。相同思路也在 FLUX 同族模型和 Wan 1.3B 到 14B 视频模型间提升了多项偏好与对齐指标。 批判点评：迁移要求源模型对能在强模型状态上给出分布内信号，并共享潜空间和噪声过程；跨完全不同架构并非自动成立。弱模型学到的奖励偏差也会被一起移植，强度外推过大可能损害保真度。 3. SeRV：375小时数据生成3D手语 SeRV: Semantic-Aligned Residual Vector Quantization for American Sign Language Generation | 俄克拉荷马大学、佐治亚大学、马萨诸塞大学阿默斯特分校 | arXiv:2609.05742 关键词：手语生成,残差向量量化,动作生成,语义对齐 ⚠️ 前序问题：手语动作令牌器通常只追求姿态重建，未必把文本语义组织进离散空间；后续生成器即使能复原大动作，也可能把承载词义的手形和细粒度关节做错。配对的文本与三维手语动作数据又很稀缺。 本文贡献：SeRV 在残差向量量化器中同时加入句子级动作文本对齐和令牌级文本条件监督，让粗到细的多层码本既可重建动作又可预测语义；随后用分层 GPT 逐级生成身体和手部令牌。团队还从 YouTube-ASL 视频恢复三维动作，构建 375 小时的动作文本基准。 实验效果：在 YouTube-ASL 上，身体与手部 DTW-JPE 分别为 4.98 和 6.70，优于 SOKE 的 5.42 和 7.44；SiBLEU-4 从 2.18 提升到 3.13。在 How2Sign 上身体与手部误差也最低，不过 MaDiS 的 SiBLEU-4 为 4.47，仍高于 SeRV 的 4.12。 批判点评：训练数据来自二维视频重建的三维动作，手指遮挡与视角误差可能被写进码本。DTW-JPE 与 SiBLEU 不能完全代表手语可理解性，仍需由聋人和专业手语者做语义、自然度与文化适切性评测；结论目前也只覆盖美国手语。 4. PAI-Actor：1080P多角色电影替换 PAI-Actor: Cinematic Multi-Character Replacement in Dynamic Scenes | Utopai Studios、加州大学尔湾分校、南洋理工大学、新加坡国立大学 Show Lab | arXiv:2609.05918 关键词：角色动画,视频编辑,多角色生成,自回归蒸馏 ⚠️ 前序问题：角色替换系统多围绕单张人物或单主体展开，面对电影中的多人互动、遮挡、手持物、相机运动和动态光影时，容易改坏背景或让身份漂移；双向视频模型画质高，却难扩展到长片段。 本文贡献：PAI-Actor 把多角色替换改写为结构引导的人体恢复：从电影中抹去原演员，以身体与人脸关联后的骨架和每个角色参考图作为条件，在约 3 万段电影片段上训练 1080P 双向 DiT。随后通过因果适配与 on-policy self-forcing，把双向教师蒸馏为可使用 KV 缓存的自回归视频到视频模型。 实验效果：论文在角色动画子集的大多数指标上优于对比方法，并展示多人身份、背景与姿态一致性。自回归学生可生成约 417 帧、17 秒的 1920×1056 视频，而双向教师因全局注意力不能扩展到该长度。 批判点评：训练三个阶段合计数百 GPU 小时，峰值显存约 114 至 136 GB，生产门槛很高。电影数据还涉及演员肖像、版权与合成滥用风险；失败案例中极端像素位移、复杂遮挡和长时身份漂移仍未解决。 5. MVWeaver：1861支MV教会歌曲转镜头 MVWeaver: A Hierarchical Music Video Generation Agent with a Learned Song-to-Visual Bridge | 中国科学院自动化研究所、快手可灵 KlingAI、上海戏剧学院、北京电影学院、康斯坦茨大学 | arXiv:2609.06478 关键词：音乐视频,生成智能体,分层规划,音画生成 ⚠️ 前序问题：自动音乐视频系统可以拼出漂亮镜头，却常停留在歌词字面联想：整首歌的情绪、人物动机和反复意象没有发展，镜头之间也缺少可追踪的概念与状态。 本文贡献：MVWeaver 先做结构化歌曲分析，再由视觉规划器生成全局概念、段落计划和可执行镜头，最后调用图像与视频模型渲染。关键的 song-to-visual bridge 来自 1861 组真实歌曲与 MV，包含歌曲侧、MV 侧以及教师推导的转译理由，并用 LoRA 微调大语言模型学习从听歌理解到视觉设计的中间桥。 实验效果：在 1 至 5 分评测中，MVWeaver 的歌曲解释、视觉发展、概念连贯和镜头连续得分分别为 4.08、3.63、4.30、4.10，均高于 AutoMV 和去掉桥接模块的版本；与所有对比方法成对比较后的总体用户偏好率为 67.06%，AutoMV 为 30.59%。 批判点评：1861 组真实 MV 的规模、文化分布和版权来源会影响桥接模型学到的视觉惯例。长视频一致性评分仍难覆盖完整观影体验；若歌曲分析出错，层级规划会把错误系统性传播到所有镜头。 6. ToPO：把整图偏好路由到词和像素 ToPO: Token-Conditioned Preference Routing for Attention-Based Latent Diffusion Models | 清华大学、电子科技大学、斯坦福大学 | arXiv:2609.03688 关键词：偏好优化,扩散模型,注意力,空间时间路由 ⚠️ 前序问题：一条成对偏好只说明整张图谁更好，却没有指出哪个提示词、空间位置和去噪时刻该更新。Diffusion-DPO 把全局信号铺到大量局部坐标，容易浪费梯度或修错区域。 本文贡献：ToPO 用冻结参考去噪器比较优选与劣选分支的局部平方残差，构造与小批次相关、停止梯度的可分空间时间路由；再用优选分支交叉注意力把内容词映射回空间，并加入像素中点排序项。整个过程不需要局部标签或另训奖励模型。 实验效果：在 SD-1.5 上，ToPO 的 GenEval 与 T2I-CompBench 平均分为 0.5092 和 0.4123，高于 Diffusion-DPO 的 0.4591 和 0.3521；在 SDXL 上 GenEval 为 0.6168，T2I-CompBench 为 0.4975，与 Diffusion-DPO 的 0.4974 近似持平。300 提示盲测的六组问题中，ToPO 均获得更多原始选择。 批判点评：路由依赖参考模型残差和交叉注意力的可解释性，未证明可直接迁移到所有 DiT 或无交叉注意力架构。盲测只公开聚合计数，不能进行参与者层面的显著性推断；部分 SDXL 自动指标也没有全面领先。 7. Diffuse2Seg：扩散模型零训练造分割标签 Diffuse2Seg: Diffusion Models Can Segment Anything Without Supervision | 柏林工业大学、CARIAD SE（大众汽车集团） | arXiv:2609.06491 关键词：开放世界分割,扩散特征,伪标签,无监督学习 ⚠️ 前序问题：SAM 的开放世界分割能力依赖 1100 万图像和超过 10 亿人工掩码，继续扩大标注极其昂贵。自监督视觉特征生成的伪标签又常偏向前景物体，难覆盖天空、道路等无定形区域。 本文贡献：Diffuse2Seg 不训练扩散模型，而是从文生图模型的自注意力中提取对象结构，将密集点网格通过保边的非线性 p-Laplacian 传播为软掩码，再合并为从部件到完整物体的多粒度实例图，去重后用于训练开放世界分割器。 实验效果：生成伪标签在五个领域的 AR1000 比此前最佳标签生成器高 4.3 至 7.1 个百分点。用这些标签训练的无检测器分割模型在 things 与 stuff+things 上分别提升 7.4 和 7.7 个百分点，并在后者超过检测器式 UnSAM 2.1 个百分点。 批判点评：伪标签会继承文生图训练数据的类别偏差，对小目标、透明物、医学或机器人极端域未必可靠。评测以平均召回为主，边界精度和错误标签对下游安全任务的影响仍需单独检查。 8. OAVC：只改目标不带跑背景 Object-Aware Background-Controlled Editing via Weighted Velocity Guidance | 卡内基梅隆大学、中国科学院计算技术研究所、中国科学院大学 | arXiv:2609.06288 关键词：图像编辑,视频编辑,免训练控制,整流流 ⚠️ 前序问题：免训练编辑通常把源提示与目标提示的速度差全局加到潜空间。目标之外的小残差虽然单步很弱，却会在多步积分中累积，最终带跑背景纹理、反射和物体边界。 本文贡献：OAVC 把“语义残差能在哪里生效”和“如何注入动力学”拆开：先在源提示下建立背景锚点和对象支持区，再用受约束的投影抑制会引发漂移的速度分量，并按时间和边界置信度加权注入目标语义。它不训练或修改预训练模型参数，可接到 SD3.5、FLUX 和视频流编辑器上。 实验效果：在 PIE-Bench 上，FLUX 版本相对 DNAEdit 将结构距离从 18.87 降至 4.07，背景 PSNR 从 24.99 dB 提升到 33.30 dB；SD3.5 版本也从 14.19 降至 4.11、从 26.66 dB 升到 32.64 dB。100 例盲测中，OAVC 赢下 94 个有明确结果的背景保持比较中的 74 个，占 78.7%。 批判点评：默认依赖 SAM3 提供对象支持区，分割遗漏或膨胀会直接限制编辑。它在背景保持上更强，但 CLIP 编辑性分数较低；人工评测也显示编辑实现偏好差异未达 0.05 显著水平，存在保真与改动强度的权衡。 9. AngelFingerprint：水印直接藏进编辑模型权重 AngelFingerprint: A Traceable, Explainable, and White-Box Stealthy Watermark for Text-Guided Image Editing | 台湾大学、日本国立信息学研究所 | arXiv:2609.04709 关键词：生成水印,图像溯源,文本引导编辑,白盒安全 ⚠️ 前序问题：常见生成水印只携带固定 ID，能说明图像来自哪个模型，却无法解释改了什么；水印若由独立编码器或后处理模块写入，在开源白盒场景中又容易被定位和移除。 本文贡献：AngelFingerprint 用 LoRA 把编辑提示的 CLIP 文本嵌入写进扩散模型权重，专用提取器再从像素恢复语义载荷。速度对齐锚点限制水印对编辑结果的扰动，仿照 JPEG 的 DCT 中频掩码避开显眼低频和脆弱高频，让架构、推理代码与计算图保持不变。 实验效果：在 MagicBrush 的 200 候选提示检索中，SD3-Medium 版本 Top-1 为 86.0%、MRR 为 0.917，而提示反演 Top-1 为 20%；UltraEdit 版本 Top-1 为 65.5%。中频滤波版本在水印开关之间得到 PSNR 22.91 dB、SSIM 0.704。 批判点评：把 LoRA 融入权重提高了隐蔽性，却没有证明能抵抗模型再训练、合并、剪枝或蒸馏等强白盒攻击。200 路封闭检索和单一编辑数据集规模有限；语义载荷也会带来隐私与滥用提示暴露问题。 10. Srijika：生成66套可安装印度字体 Srijika: OpenType-Layout-Reusing Font Restyling for Nine Indic Scripts | Loopdesk Technologies LLP | arXiv:2609.05661 关键词：字体生成,扩散模型,OpenType,印度文字 ⚠️ 前序问题：印度婆罗米系文字包含大量合字、半形和元音附标。只生成漂亮字形位图并不能得到可用字体，因为 cmap、GSUB 替换闭包、GPOS 定位和锚点关系必须共同满足排版引擎契约。 本文贡献：Srijika 不从零生成字体，而是保留完整模板字体的字符映射与替换闭包，用约 650 个开放许可字体族的检索系统 Lipika 将自然语言风格落到参考字体，再由参考条件潜扩散逐字重绘轮廓。内容门控、风格协调和排版簇验证会自动回退失败字形，最终重建为 TTF。 实验效果：系统产出 66 个 TTF，包含 57 个预设和 9 个开放词汇示例；全部通过 OpenType Sanitizer，HarfBuzz 与 CoreText 在高难合字探针上复现模板字形 ID 序列，并审计 80,915 个字形与 54,812 个锚点。 批判点评：论文只与无学习基线比较，缺少独立风格指标、人类研究和完整 GPOS 视觉质量审计。检索编码器与评测嵌入的数据并非完全独立，风格提升可能被高估；工程上的回退机制保证可安装，却可能留下大量未真正重绘的字形。 趋势观察 少步与长视频开始接受完整系统计时 TBDub把视觉配音压到两步并报告VAE到VAE的端到端速度，PAI-Actor则诚实披露17秒视频仍需95分钟；生产可用性正在从采样步数口号转向全链路成本。 对齐信号从整图分数走向可迁移局部场 AlignGraft把弱模型对的速度差跨规模移植，ToPO把整图偏好分配到词元、空间和时间，说明生成对齐正从重复微调转向复用和精确分配。 生成系统更重视可验证的结构契约 SeRV用语义码本约束手语，OAVC显式限定对象区域，AngelFingerprint嵌入可恢复提示，Srijika复用OpenType闭包；输出是否可编辑、可追溯、可执行，正与视觉质量同样重要。 人工智能炼丹君 整理 | 2026-09-09 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-08|蚂蚁从零训6B开源生图-LLaDA-Image 今日 AIGC 论文速览 今日共 10 篇 重点论文标题列表 LLaDA-Image（Inclusion AI AGI Research Center）：从零训练开放生图模型 DSAQuant（Robbyant、浙江大学、香港理工大学、香港科技大学）：按去噪阶段做视频量化 ⚡ DM-Align（清华大学、快手科技、哈尔滨工业大学（深圳）、北京邮电大学）：四步视频同时对齐与蒸馏 RA-GRPO（清华大学、快手科技）：用反思轨迹稳定生成对齐 VoRTeC（清华大学深圳国际研究生院、哈尔滨工业大学（深圳）、北京大学）：用生成流做一步视频解码 今日论文速览 1. LLaDA-Image：从零训练开放生图模型 LLaDA-Image: Building Strong Image Generators with Fully Open Training Recipes | Inclusion AI AGI Research Center | arXiv:2609.03796 关键词：图像生成,开放模型,扩散语言模型,模型蒸馏 ⚠️ 前序问题：高质量图像生成模型常依赖不透明的数据配方、训练细节或已有模型权重，研究者难以复现从零训练过程；把理解、生成和编辑统一起来也容易牺牲其中一项能力。 本文贡献：作者从零训练一个 6B 参数 DiT，并接入冻结的 LLaDA2.0-Mini 视觉语言理解模块。训练先用纯图像预训练建立视觉先验，再做中期训练和图文统一训练；全流程使用 2.2 亿样本，其中 98% 为真实图像，并公开权重、代码和训练配方。团队还用 TwinFlow 将模型蒸馏为 2 至 4 步推理的 Turbo 版本。 实验效果：LLaDA-Image 在 Qwen-Image-Bench 英文与中文轨分别得到 53.53 和 53.38，领先当时其余开源模型；LongText-Bench 英文、中文得分为 0.923 和 0.913。编辑基准 GEdit-Bench 的英文、中文总分为 7.336 和 7.294，说明统一模型已具备较强的生成、文字渲染与编辑能力。 批判点评：2.2 亿样本的收集、清洗和训练成本仍然很高，公开配方也不会自动解决数据授权与可追溯性问题。报告覆盖模块很多，但部分组件的独立贡献和跨架构可迁移性仍需更多消融验证。 2. DSAQuant：按去噪阶段做视频量化 DSAQuant: Denoising-Stage-Aligned Quantization-Aware Training for Video Generation | Robbyant、浙江大学、香港理工大学、香港科技大学 | arXiv:2609.04031 关键词：视频生成,量化感知训练,低比特推理,部署优化 ⚠️ 前序问题：视频扩散模型压到 W4A4 或 W3A3 后，通常还能保住提示词语义、构图与粗粒度运动，却会明显丢失纹理、锐度和局部细节。传统量化训练把所有去噪时刻一视同仁，没有利用早期规划结构、后期补细节的分工。 本文贡献：DSAQuant 按去噪阶段切换监督目标：早期保持教师蒸馏以稳定全局结构与运动，后期逐渐转向目标驱动的细节重建；推理时在最后阶段关闭分类器自由引导，避免量化误差被 CFG 放大为高频伪影。方法同时覆盖 Wan 与 CogVideoX 系列。 实验效果：在 Wan2.1-1.3B 的 W4A4 设置下，DSAQuant 的 VBench 平均分为 67.21，高于 BF16 模型的 66.28 和 QVGen 对称量化的 63.56；在更激进的 W3A3 下，相对当时量化训练基线最高提升 6.60 分。 批判点评：论文重点验证生成质量，没有把端到端延迟、显存、能耗和不同硬件内核的实际收益放在同等位置；量化感知训练本身也有额外成本。后期关闭 CFG 可能改变文本对齐，需要在更广的提示与长视频任务上验证。 3. DM-Align：四步视频同时对齐与蒸馏 Joint Alignment and Distillation for Video Generation via Sample-Guided Distribution Matching | 清华大学、快手科技、哈尔滨工业大学（深圳）、北京邮电大学 | arXiv:2609.04283 关键词：视频生成,偏好对齐,分布匹配,少步蒸馏 ⚠️ 前序问题：视频生成的偏好对齐与少步蒸馏通常分成两段：先强化学习再蒸馏计算昂贵，先蒸馏再做强化学习又容易让模型坍塌。两段流程还要重复运行多步奖励评估，并在 ODE 与 SDE 轨迹间转换。 本文贡献：DM-Align 在一次分布匹配训练中同时叠加两种梯度：DMD2 梯度缩小真实模型与学生模型的分布差距，偏好梯度则利用成对偏好或组内探索，把生成分布推向人类偏好的样本。它把类似 DPO 与 GRPO 的信号写进同一训练目标，直接产出 4 次函数评估的视频模型。 实验效果：在 Wan2.1-T2V-1.3B、5 秒 832×480 视频上，组内模式以 4 NFE 得到 VBench 平均分 84.40、动态度 80.19；成对模式为 82.78。人工比较中，成对模式相对原模型净偏好提升 48%，相对单独 DMD2 提升 32%。 批判点评：实验集中在 1.3B 基模、5 秒 480p 视频，尚不足以说明长视频与更大模型也能稳定受益。样本引导仍依赖奖励或偏好数据，奖励偏差与奖励投机只是减轻，不能视为消失。 4. RA-GRPO：用反思轨迹稳定生成对齐 Step Back to Move Forward: Reflection-Aware Preference Optimization for Visual Generation | 清华大学、快手科技 | arXiv:2609.04282 关键词：偏好对齐,扩散模型,强化学习,奖励投机 ⚠️ 前序问题：生成模型用策略梯度对齐人类偏好时，探索常被局部最优牵引：奖励上升了，语义忠实度或真实感却可能下降。常规 GRPO 只从当前前向采样学习，很难主动修复已经偏离高概率数据流形的中间状态。 本文贡献：RA-GRPO 在训练中加入“向后反思”。Diffusion Reflection 在随机中间时刻用较弱估计器反演并校正潜变量，再由 Counterfactual Path Synthesis 把校正后的路径蒸馏回策略。反思只发生在优化阶段，因此部署时没有额外采样开销。 实验效果：在 FLUX.1-dev 与 HPSv2.1 提示集上，以 HPS 为奖励时，RA-GRPO 的 HPSv2.1、ImageReward、HPSv3 分别为 0.378、1.417、15.324，均高于论文复现的 DanceGRPO 与 MixGRPO；多目标 HPS+CLIP 训练也取得更均衡的自动指标。 批判点评：验证主要围绕 FLUX.1-dev、HPS 提示和自动奖励模型。弱估计器、指导强度与反思时刻的选择会影响稳定性；只看自动奖励仍可能漏掉新的投机模式，需要更大规模人工偏好与跨模型复核。 5. VoRTeC：用生成流做一步视频解码 VoRTeC: Taming Foundation Flow for One-step Real time Video Compression | 清华大学深圳国际研究生院、哈尔滨工业大学（深圳）、北京大学 | arXiv:2609.02291 关键词：视频压缩,流模型,实时解码,超低码率 ⚠️ 前序问题：传统神经视频压缩在超低码率下容易模糊，而扩散式生成压缩通常需要多步采样，难以实时运行。如何借用强视频生成模型的先验，又不复制其昂贵迭代过程，是部署瓶颈。 本文贡献：VoRTeC 冻结 Wan2.1 流模型，只训练紧凑潜码与轨迹位置预测器，用多尺度先验把一次解码对齐到生成流。跨帧组复用尾帧，并缓存生成先验，以降低连续视频的重复计算；训练不需要访问基础流模型的参数或梯度，可在单张 A6000 上完成。 实验效果：论文报告在相近感知质量下可节省 58.12% 至 73.25% 码率，并达到低于 0.01 bpp；推理相对多步生成压缩加速 3 至 197 倍，720p 达 13 fps、480p 达 32 fps。 批判点评：速度依赖具体显卡、分辨率与缓存条件，不能直接外推到移动设备。对取证、医疗、遥感等要求像素真实性的场景，生成先验可能引入不可接受的幻觉，需要独立的保真约束与错误标记。 6. Editable Visual Design：让视觉设计真正可编辑 Editable Visual Design | 腾讯混元、中山大学、清华大学、香港中文大学、上海交通大学 | arXiv:2609.04034 关键词：视觉设计,智能体,图像生成,HTML CSS ⚠️ 前序问题：文生图可以快速给出海报或信息图，但输出通常是一张扁平位图，文字、图标和布局无法继续精确编辑；纯代码生成又容易缺少视觉想象与审美反馈。 本文贡献：该系统让视觉语言模型充当创意大脑、图像生成器充当视觉世界模拟器，先想象整体效果，再把素材隔离为独立资产并用原生 HTML/CSS 重建文字、层级与布局。Agent Design Replay 学习专业设计轨迹，智能体通过截图反馈持续比较和修改。 实验效果：论文用海报、信息图、营销物料和长文本版式等案例展示：输出中的文字保留为真实文本，元素可以用鼠标拖动，图层与样式可继续修改。论文当前以定性案例证明可编辑工作流，没有给出可横向比较的统一量化分数。 批判点评：缺少大规模用户研究、任务完成时间和跨基线量化评测，使“更专业”仍难精确判断。流程依赖图像生成和代码智能体的能力，素材版权、网页代码安全与复杂版式的兼容性也需要产品级约束。 7. Temporal Context Routing：把脚本精确路由到时间轴 The Missing Temporal Link: Temporal Context Routing for Script-Driven Audio-Video Generation | 北京大学、Qwen Applications、香港科技大学、香港中文大学、上海交通大学 | arXiv:2609.02367 关键词：音视频生成,时间控制,脚本驱动,多模态生成 ⚠️ 前序问题：脚本驱动的音视频生成会同时处理镜头、对白、动作和音效，但全局文本条件不知道某条指令应该在哪一秒生效，常出现切镜过早、对白错位或动作与声音不同步。 本文贡献：Temporal Context Routing 先把脚本事件映射到音频与视频共享的时间轴，再将每段提示的引导信号只路由到匹配的时空位置。它给现有联合音视频模型补上显式时间链接，而不用让所有帧共同接受整段脚本。 实验效果：在 200 条测试脚本上，镜头边界平均绝对误差从 1.11 秒降到 0.042 秒，下降约 96%；对白在 0.5 秒容差内的准确率从 28.3% 提升到 84.1%，同时视觉质量与音画同步指标保持相近。 批判点评：实验规模仍有限，长叙事、重叠对白、快速多事件和镜头外音源会让路由更复杂。用户研究偏好不能替代对叙事连贯性与错误恢复的长期评估。 8. Unreal Engine World Data：用虚幻引擎规模化造数据 Building Pretraining Data for World Models: An Unreal Engine-Based Pipeline for Action-Conditioned Video Generation | Joy Future Academy、京东、清华大学、香港科技大学 | arXiv:2609.03557 关键词：世界模型,合成数据,虚幻引擎,动作条件视频 ⚠️ 前序问题：动作条件世界模型需要既有可控动作轨迹、又有高质量画面的长视频数据。直接在游戏引擎中边运行物理、边实时渲染，容易因帧率波动破坏动作与画面对齐，也难在数百 GPU 上稳定扩展。 本文贡献：作者把流程拆成两段：PIE 先按真实物理运行并记录角色、控制和相机状态，MRQ 再离线重放轨迹并高质量渲染。系统加入缓存感知的任务分片、节点槽位、场景筛选、亮度与审美过滤，以及失败恢复、上传和健康检查。 实验效果：在 25 台服务器、共 200 张 RTX 5090 上，系统从 2384 个资产包整理出 429 个关卡与 40 个类人角色，生成 2691 小时 1080p 和 6076 小时 720p 动作条件视频，并用于 EchoWM 数据建设。 批判点评：合成场景仍有引擎域偏差，审美和亮度过滤可能进一步删掉困难样本；资产许可、人物动作覆盖和 200 GPU 的成本也决定了复现门槛。数据规模不能替代真实世界验证。 9. Structured-Prior Inpainting：给交通标志注入物理先验 Structured-Prior-Guided Diffusion Inpainting with Physical Consistency for Traffic Sign Augmentation | 高德地图、阿里巴巴集团 | arXiv:2609.02348 关键词：图像修复,合成数据,交通标志,物理一致性 ⚠️ 前序问题：稀有交通标志样本不足，但普通文生图或修复模型容易生成错误文字、色彩和边缘。视觉上“像标志”还不够，训练检测器需要类别语义、模板几何与法规颜色都准确。 本文贡献：方法把三类结构先验送入扩散修复：JSON 语义提示描述类别，正视矢量图通过 IP-Adapter 提供测量颜色，仿射对齐的矢量模板通过 ControlNet 约束几何；训练再加入 CIELAB 颜色 L1 损失和 Sobel 边缘损失，强化物理一致性。 实验效果：在 TT100K2021 零样本测试中，OCR 完全匹配率为 91.1%，而 12B 参数 FLUX.1 Fill 为 44.2%；基于 SD1.5 的方案推理时间约为其十四分之一。把合成图加入训练后，稀有类别 AP50 提升到原来的 1.23 至 7.40 倍。 批判点评：公开验证集中在一种交通标志数据源，检测增益会受合成比例、地区法规、拍摄距离和天气影响。用于道路安全前，还需跨国家模板、夜间、遮挡和极端退化测试，并保留可审计的生成记录。 10. Pitch-class Steering：用潜空间探针控制旋律 Pitch-class Steering for Diffusion-based Music Generation via Latent-space Probes | 卡内基梅隆大学、独立研究者 | arXiv:2609.04516 关键词：音乐生成,扩散模型,旋律控制,潜空间探针 ⚠️ 前序问题：文本能描述音乐风格，却很难要求扩散音乐模型严格跟随指定旋律。重新训练完整模型或改架构成本高，而 MIDI 条件又不一定能直接接入现有生成器。 本文贡献：作者用配对音频与 MIDI 训练一个 12.5 万参数卷积探针，从 Stable Audio Open 的 VAE 潜变量逐帧解码音高类别。生成时冻结基础模型，把探针的可微损失作为引导信号，在每步去噪中推动潜变量靠近目标旋律，不修改生成模型结构。 实验效果：在 9 个提示词与 3 条旋律组成的 27 次试验中，引导生成的旋律一致性相对无引导基线提升 2.4 倍；Wilcoxon 检验给出 p<1e-5。论文已被 IEEE MLSP 2026 接收。 批判点评：27 次试验规模很小，统计显著不等于覆盖多样音乐风格。每步反向传播引导会增加推理开销，配对 MIDI 数据的偏差也可能限制泛化；还需听感盲测和更长曲目验证。 趋势观察 生成训练开始公开到数据与优化器层级 LLaDA-Image不仅开放权重，还披露2.2亿样本、纯图像预训练、Muon与少步蒸馏配方，竞争焦点正从模型接口转向可复现的完整训练系统。 视频部署优化必须贴合去噪阶段 DSAQuant按阶段分配量化监督，DM-Align把偏好对齐和少步蒸馏并成一次训练，VoRTeC则预测生成流位置完成一步解码；三者都在利用生成轨迹的内部结构减少成本。 显式控制信号重新进入生成链路 时间路由、交通标志模板与音高探针分别把时间、物理几何和旋律注入生成过程，显示开放式文本提示正在与可验证、可定位的结构条件结合。 人工智能炼丹君 整理 | 2026-09-08 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 每日速读|2026-09-07|腾讯3B活跃参数逼近万亿代理-WeAgent 今日 AIGC 论文速览 今日共 10 篇 重点论文标题列表 WeAgent-MMGenEdit（腾讯微信 AI（Weixin AI, Tencent））：3B活跃参数逼近万亿代理 PriorEdit3D（北京航空航天大学、中央财经大学、VAST、北京市智能创意内容生成与沉浸体验重点实验室）：7秒完成无配对3D编辑 ⚡ ReaDiT（伊利诺伊大学厄巴纳-香槟分校（UIUC））：一个DiT块控制图像与视频 EditVid（伊利诺伊大学厄巴纳-香槟分校（UIUC））：免训练视频编辑跃升19分 FlashRender（EverEx、延世大学、高丽大学）：4步完成相机轨迹重拍 今日论文速览 1. WeAgent-MMGenEdit：3B活跃参数逼近万亿代理 WeAgent-MMGenEdit: A Full-Stack Recipe for Multimodal Agentic Image Generation and Editing | 腾讯微信 AI（Weixin AI, Tencent） | arXiv:2609.05171 关键词：代理式图像生成,多模态检索,视觉证据验证,多参考编辑,强化学习,双语基准,WeAgent ⚠️ 前序问题：知识密集型图像生成真正难的不是把搜索接口接到模型上，而是让正确证据进入最终像素。现有代理常凭标题或元数据选图，没有逐张检查视觉内容；同一个策略又要规划、筛选并背着不断增长的上下文，容易混淆实体；即便找到了正确文字和图片，松散附件也没有明确绑定人物、属性和空间位置。结果是代理能说对事实，却仍会在信息图、多人物组合或时事更新中画错对象与版式。 本文贡献：WeAgent-MMGenEdit 给出一套从运行时、数据、基准到双侧后训练的完整配方。WeAgent-Harness 按“检索—验证—整合—交付”组织七类工具，把证据以稳定 ID 存入持久工作区，并用独立视觉工具显式验图；通过代码把核实后的文字、图片和布局编成稠密视觉载体，再交给生成器。数据管线构造约 2.3 万条 SFT 轨迹和 1.47 万个 RL 任务，每个任务都带代理链、生成输入和最终图像三层清单。策略侧先 SFT 再做清单约束 RL，图像侧也用多参考 SFT 和多目标 RL 训练。 实验效果：自建 WeBench-MMGenEdit 含 300 个经人工审核的中英双语任务，生成与编辑、中文与英文各占一半，94% 的任务需要至少五跳检索，69.3% 的编辑任务含多张用户图片。在同一 Harness 和 GPT-Image-2 后端下，30B 总参数、3B 活跃参数的 WeAgent-RL 相对同规模 Qwen3-VL 基线，生成加权均分提高 12.45 分，编辑加权均分提高 16.72 分；其表现接近 1T 总参数的 Kimi-K2.6 代理。 批判点评：这篇最有价值的设计是把证据量与策略上下文解耦：图片和网页留在持久工作区，策略只传稳定引用，需要时再验，这比把所有像素塞进上下文更适合长轨迹。三层清单也能把“搜索错了”“提示没带全”和“后端没画对”分开归因。代价是整套系统依赖搜索、视觉检查、代码渲染、图像生成和多名裁判，成本与故障面都不小；对网页时效、来源可信度和恶意内容的防护也没有被一个高分基准自动解决。 2. PriorEdit3D：7秒完成无配对3D编辑 Learning 3D Editing without Paired Supervision via Generative Prior Distillation | 北京航空航天大学、中央财经大学、VAST、北京市智能创意内容生成与沉浸体验重点实验室 | arXiv:2609.04942 关键词：3D编辑,生成先验蒸馏,无配对监督,分布匹配,多视图一致性,前馈模型,PriorEdit3D ⚠️ 前序问题：指令驱动 3D 编辑缺少高质量的编辑前后成对资产。测试时优化方法每个对象都要重新迭代，速度慢；用复杂管线制造伪配对数据又容易把 2D 编辑器的结构漂移和几何伪影写进监督。只在主视角追求文本对齐还会出现“正面看起来对、转到侧面就塌掉”的投影欺骗，因此需要在没有成对 3D 真值的条件下同时约束指令、身份和三维几何。 本文贡献：PriorEdit3D 用可微渲染把三种已训练基础模型的先验直接蒸馏进前馈 3D 编辑器：主编辑视角由 2D 图像编辑模型提供像素视觉目标；新视角由视觉语言模型判断指令遵循与源对象身份；3D-aware Distribution Matching 则在图生 3D 教师的 latent 流形内约束编辑结果，阻止单视角监督导致几何坍塌。整个方法无需反演、无需局部掩码，也不依赖真实的成对 3D 编辑数据。 实验效果：在作者的 PriorEdit3D 测试集上，方法达到 24.37 PSNR、0.94 SSIM、71.96 FID，LLM 身份保持率 93.13%、指令遵循率 86.92%，单个编辑在 A100 上约 7 秒；对比的 Nano3D 为 19.90 PSNR、103.50 FID、14 秒。迁移到 ABO 与 GSO 后，方法的 FVD 为 168.78、LLM 指令遵循率 68.41%，也优于表中对比项。 批判点评：把视觉、语义和几何先验拆给三个教师是合理的，因为单一 2D 教师无法提供背面约束。消融也显示 VLM 与 3D 分布匹配各自补不同缺口。不过教师的偏差会层层传递：图像编辑器决定风格，VLM 决定语义容忍度，图生 3D 教师决定几何流形；遇到教师不熟悉的物体、透明材质或拓扑大改时，前馈速度优势可能换来保守编辑。 3. ReaDiT：一个DiT块控制图像与视频 ReaDiT Guidance: Control for Image and Video Generation using Diffusion Transformer Features | 伊利诺伊大学厄巴纳-香槟分校（UIUC） | arXiv:2609.04649 关键词：Diffusion Transformer,空间控制,特征读出,深度控制,姿态控制,视频运动控制,ReaDiT ⚠️ 前序问题：ControlNet 一类适配器能给扩散模型加入深度、姿态或边缘条件，但通常复制大块网络，需要大量成对数据；扩展到视频时参数和训练成本进一步放大。完全免训练的特征引导虽然轻，却可能只支持单一骨干或单一模态。问题因此变成：能否不让生成模型在前向时直接吃控制图，只从其内部表征读出空间误差，再反向调整噪声 latent。 本文贡献：ReaDiT 从冻结 DiT 的单个中间块提取特征，用一个带时间步条件的多尺度读出器预测深度、姿态或边缘，再把预测与目标控制图之间的损失梯度施加到当前 latent。生成骨干不直接接收控制条件，这种隐式条件化让同一思路可以覆盖图像和视频；在视频上还能用光流或相机轨迹目标控制运动。其图像版本约 53M 参数，远小于论文估算的 1.487B 参数 ControlNet 图像适配器。 实验效果：图像实验中，ReaDiT 在生成图控制条件上取得深度 RMSE 0.2492、姿态 PCK@0.2 0.5380、姿态 mAP 0.3709 和边缘 ODS 0.6968，多数指标优于 1.487B 参数的 ControlNet。视频空间控制中，它把 RG 的深度 RMSE 从 0.4610 降到 0.4225，姿态 PCK 从 0.1892 提到 0.3651，边缘 ODS 从 0.5304 提到 0.6101。 批判点评：只读一个 DiT 块就能跨图像与视频工作，说明预训练生成特征里已经包含可用空间信息；这比为每种骨干复制一套大适配器更容易维护。它的限制也来自同一点：读出器知道“当前画面离目标多远”，却不一定知道最稳定的生成路径，强梯度在遮挡、快速运动或互相冲突的控制图下可能牺牲画质。工程采用前应同时测控制误差、生成质量和额外反向传播的延迟。 4. EditVid：免训练视频编辑跃升19分 One Editor, Many Edits: A Unified Training-Free Framework for Diverse Video Editing | 伊利诺伊大学厄巴纳-香槟分校（UIUC） | arXiv:2609.04190 关键词：视频编辑,免训练方法,稀疏因果记忆,身份保持,latent混合,多参考编辑,EditVid ⚠️ 前序问题：逐帧调用图像编辑器会造成闪烁、身份漂移和背景误改；专用视频编辑模型又需要昂贵训练，并常被限定在指令编辑或主体替换中的一种。一个统一框架必须同时解决相邻帧局部连续、远距离身份一致和编辑区域边界三件事，还要保留现代图像 MM-DiT 的多种编辑能力。 本文贡献：EditVid 冻结图像 MM-DiT，在推理期组合三个机制：稀疏因果记忆复用上一帧选定的注意力键值，保持局部连续；基于对应关系的后注意力 token 注入把锚帧身份带到远帧；软 latent 混合让目标区域接受编辑，同时保护背景。相同框架覆盖风格迁移、属性修改、对象插入、局部编辑和主体替换，也支持指令与参考图两种条件。 实验效果：在 FiVE 基准上，EditVid 达到 78.16 FiVE-Acc，最强的已评估免训练基线为 58.95，提升 19.21 分；在 IVEBench 上取得有竞争力的结果。面对 7 个对比方法的用户研究中，EditVid 获得 51.8% 的总体偏好率。 批判点评：三个机制分别对应短期、长期和空间局部性，职责划分清楚，且能复用强图像编辑器的新能力。风险在于对应关系是整个系统的支点：快速运动、长期遮挡或主体外观剧变会让锚帧 token 注入错误位置，造成“身份保持”反而覆盖合理变化。软混合也依赖编辑区域估计，细发丝、透明物体和反射场景会更难处理。 5. FlashRender：4步完成相机轨迹重拍 FlashRender: Few-Step Generative Rendering via Camera-Controlled Video MeanFlow | EverEx、延世大学、高丽大学 | arXiv:2609.03563 关键词：生成式渲染,相机控制,MeanFlow,少步采样,视频重拍,在策略蒸馏,FlashRender ⚠️ 前序问题：生成式渲染要把源视频沿新的相机轨迹“重拍”。传统多步扩散不仅慢，而且相机条件在不同采样步的作用不一致，这种离散化误差会弯曲去噪轨迹；直接做少步蒸馏时，学生还会在自己的 rollout 状态上积累误差，导致几何和画质同时下降。 本文贡献：FlashRender 先用 Representation Transformation and Alignment（RETA）把源视频隐藏表征对齐到冻结视觉几何模型提取的目标视角特征，把相机变换直接编码进源流，使控制在各采样步更一致。随后用 MeanFlow 目标拟合曲率更低的轨迹，最后用 on-policy flow-map distillation 针对学生自己的固定少步 rollout 修正误差。模型基于 Wan2.1-1.3B-CamCtrl，只需 4 次函数评估。 实验效果：论文报告在视频质量和几何一致性上可匹配多步基线，同时把采样成本降低 25 倍，并在分布外目标相机轨迹上取得更好的可控性。示例以 480×832 分辨率、单张 NVIDIA B200 测速，可在数秒内完成任意长度输入视频的目标轨迹重拍。 批判点评：方法最有启发的是先修控制不一致、降低轨迹曲率，再做少步蒸馏，而不是让学生同时吞下几何误差和时间离散误差。它仍依赖冻结几何模型提供可靠目标视角特征；反射、透明物体、动态遮挡和非刚体场景可能让几何先验失真。4 步设定很适合交互预览，但影视生产还需要评估细纹理和长镜头接缝。 6. PRISM-Bench：35项细则专门考生成音频 PRISM-Bench: An Audio-Centric Diagnostic Benchmark for Text-to-Audio-Video Generation | 上海人工智能实验室、美团 | arXiv:2609.04867 关键词：音视频生成,评测基准,音频质量,跨模态同步,MLLM裁判,屏内声源,PRISM-Bench ⚠️ 前序问题：文本到音视频评测通常把音频当成视频质量的附属项，或把声音单独拿出来测，无法回答模型究竟是声音本身差、声源和画面对不上，还是提示词中的音乐与对话没被执行。屏内声源需要精确同步，屏外环境声又不能被错误绑定到可见对象，两者混在总分里会掩盖失败类型。 本文贡献：PRISM-Bench 以音频为中心，把 900 个经人工核验的样本沿两条正交轴拆分：音频类型分语音、音乐和一般声音，声源可见性分屏内与屏外；再从音画一致、音频质量、表现力和提示遵循四个维度定义 35 项细粒度标准。评估采用相对真值参考的盲测并排比较，由增强的多模态大模型裁判执行，避免只给单个生成结果打绝对分。 实验效果：该裁判协议与人类评审的平均一致率超过 70%。对近期文本到音视频系统的测试显示，前沿闭源模型与开源模型之间仍有明显差距；各系统更容易优化总体感知保真度，却在复杂的音画 grounding 与控制上失分，尤其是音乐生成和需要同步的屏内声源。论文已被 ACM Multimedia 2026 接收。 批判点评：按音频类型与声源可见性做二维切片，比继续堆一个总分更能指导模型改进，特别适合发现“画面对了但声音错了”的情况。局限是音频体验高度依赖耳机、响度校准、语言和音乐文化，35 项标准越细，标注一致性和裁判稳定性越难保证；报告结果时应保留分项雷达图，不宜只引用单一排名。 7. WorldReward：分块裁判同时看动作和画质 WorldReward: Reward Modeling for Camera-Conditioned World Models | 复旦大学、腾讯混元、上海创智学院、上海交通大学、上海人工智能实验室 | arXiv:2609.03952 关键词：世界模型,奖励模型,相机控制,视频偏好,视觉语言模型,强化学习,WorldReward ⚠️ 前序问题：相机条件世界模型既要执行移动和旋转指令，又要保持外观、几何和运动自然。几何奖励能估轨迹，却看不出画面是否崩坏；图像奖励能看单帧质量，却忽略动作和时序。把整段长视频与完整动作序列一次交给 VLM，又会让短暂的局部动作证据淹没在长上下文中。 本文贡献：WorldReward 把成对视频按动作边界切成小块，每块整理为源图、帧网格与四个动作面板组成的六图证据，让 VLM 分别判断动作一致性和视觉质量，再由投票聚合成视频级偏好。训练数据由前沿 VLM 生成结构化理由，经工具代理审计与定向人工复核；作者另建 WorldReward-Bench，覆盖平移、旋转与复合相机轨迹。 实验效果：在人工标注的三分类偏好一致率上，WorldReward 的动作、外观和运动三项分别为 77.63%、81.32% 和 73.03%，比 GPT-5.5 高 3.42、1.45 和 3.56 个百分点。用于 HY-WorldPlay 1.5 的强化学习后，约 381 帧长时域的基础动作准确率从 WorldCompass 的 76.56% 提到 78.84%，HPSv3 质量分从 3.72 提到 3.94。 批判点评：按动作切块是解决长上下文稀释的直接方法，而且把动作和画质分开投票，避免高画质掩盖不听指令。投票也会丢掉动作间的因果关系：单块都判断正确，不代表整条轨迹的累计位姿闭环正确。下一步更需要把局部裁判与全局状态估计结合，并验证奖励模型是否会被生成器找到视觉捷径。 8. Puffin-World：1600万样本统一原生3D状态 Puffin-World: Scaling a Unified Multimodal Model with Native 3D World States | 南洋理工大学 S-Lab、密歇根大学、北京交通大学、ACE Robotics | arXiv:2609.04196 关键词：世界模型,3D生成,物理理解,深度重建,相机表示,多模态模型,Puffin-World ⚠️ 前序问题：世界模型常把物理理解、相机控制、图像生成、深度估计和 3D 重建拆成多个离线模块。模块间坐标定义与误差不一致，闭环探索时会累积漂移；模型只生成外观而没有重力、尺度和几何等显式状态，也很难判断新的视图是否仍处在同一个物理世界。 本文贡献：Puffin-World 在一个多模态架构中联合建模三类原生世界状态：物理状态包含重力场与纬度，几何状态为深度，外观状态为图像；统一 Omni-Camera 表示支持不同自由度与相机动作。模型既把物理动力传播到未来帧，也在同一生成过程中耦合外观与几何，从而让自由视角生成同时输出可重建的底层结构。训练集 Puffin-16M 包含 1500 万视觉-语言-相机三元组和 100 万条挑战性运动轨迹。 实验效果：论文展示统一模型可执行相机到世界的物理理解、自由视角空间模拟、3D 世界生成和重建，并支持模仿与自校准探索等交错闭环应用。作者公开了代码、模型和数据；摘要层面没有给出单一总分，而用多任务结果证明同一原生状态表示能覆盖此前分离的能力。 批判点评：把深度和图像一起生成、把相机属性锚定到真实坐标，是走向闭环 3D 世界模型的正确方向；显式重力还能约束“看起来合理但物理方向错了”的画面。最大疑问在数据标定：重力、纬度、深度和相机真值的噪声分布不同，大规模混合后谁主导训练并不透明。模型还能生成稳定视图，不等于已经学会接触、质量和材料等完整动力学。 9. EraseSAE：单义特征做视频概念手术 EraseSAE: Surgical Concept Erasure in Text-to-Video Diffusion Models via Sparse Autoencoders | 中国科学技术大学、安徽省数字安全重点实验室、HiDream.ai | arXiv:2609.03629 关键词：概念删除,视频扩散,稀疏自编码器,单义特征,时空掩码,生成安全,EraseSAE ⚠️ 前序问题：视频扩散模型从松散数据学习到版权角色、不安全内容等概念。现有删除方法直接改权重或用粗粒度方向抑制，但概念在 DiT 激活中分散且与背景、动作和风格纠缠，容易出现删不干净或把无关内容一起毁掉的问题。视频还多一层时间一致性要求，逐帧独立干预会产生闪烁。 本文贡献：EraseSAE 采用“分解—归因—删除”流程。Partitioned Convolutional Sparse Autoencoder 以分区双分支卷积把稠密时空激活拆成更可解释的稀疏单义特征；对目标提示和硬负提示做对比对数比归因，离线锁定概念核；推理时再按时间步生成时空掩码，只在概念真正激活的区域调制 classifier-free guidance，尽量保留其他对象和背景。 实验效果：在 CogVideoX 的三档裸体概念测试中，EraseSAE 的生成率为 2.62%、7.13% 和 77.80%，对比 T2VUnlearning 为 2.88%、10.89% 和 51.98%；其主体一致性为 94.30%，推理约 3.66 秒/帧。在 HunyuanVideo 上 Ring-A-Bell 裸体率为 5.13%，低于 T2VUnlearning 的 9.95%，主体一致性为 96.04%。Flux.1 的 I2P 显式内容总量也从原始 605 降到 160。 批判点评：以单义稀疏特征定位概念，比全局权重擦除更容易解释和审计，时空掩码也适合视频。不过“单义”来自稀疏自编码器的近似分解，不保证一个核只表达一个人类概念；对隐喻、组合提示或跨文化表达，硬负提示可能覆盖不足。部署时应同时报告删除率、误删率、绕过攻击和不同语言提示，不能只看平均主体一致性。 10. SVDtrunc：FLUX保留68%参数近乎无损 Importance-Aware Low-Rank Distillation of Diffusion Transformers | 海德堡大学、Zuse School ELIZA、达姆施塔特工业大学、hessian.AI | arXiv:2609.04646 关键词：Diffusion Transformer,模型压缩,低秩分解,知识蒸馏,FLUX,参数效率,SVDtrunc ⚠️ 前序问题：DiT 已成为高质量文生图骨干，但参数规模让显存、加载和部署成本居高不下。直接对所有投影矩阵用相同比例截断 SVD，忽略了不同块的重要性；大语言模型上的经验还让工程师担心低秩压缩会突然崩溃。需要先判断 DiT 的冗余分布，再在全局参数预算下决定哪些块可以多压。 本文贡献：作者发现 FLUX.dev 的 SVD 截断退化较平滑，冗余分散在全网络投影矩阵，而不是集中在少数 Transformer 块。SVDtrunc 先分别压缩每个块并生成探测图像，以相对原模型的质量变化给块排序；随后在全局预算下给不重要块分配更低秩，最后对全部块做模块化知识蒸馏与 rectified-flow 微调。该方法还能与减少采样步数的蒸馏叠加。 实验效果：SVDtrunc 在 GenEval、HPSv2 和 DPG 三个基准的综合比较中，在各压缩档位都优于论文纳入的竞争方法。FLUX.dev 保留 68% 原参数时接近完整模型性能，保留 57% 时仍有竞争力；实验覆盖保留 40% 至 90% 参数的区间，且无需微调的版本也保持较强结果。 批判点评：先用生成质量探测块重要性，比按权重范数或统一秩分配更贴近最终目标；发现 DiT 对低秩截断呈平滑退化也为工程压缩提供了有用经验。代价是每个块都要构造探测模型并生成一批图，前期搜索成本高，而且重要性依赖提示分布。若部署域与探测集差异大，原先被判定不重要的块可能正负责罕见概念。 趋势观察 代理式生成开始补上“证据进入像素”的最后一公里 WeAgent-MMGenEdit 不满足于给图像模型接一个搜索框，而是把外部证据拆成检索、逐图核验、结构化整合和最终交付四步，并让策略端与图像端分别做 SFT 和强化学习。PriorEdit3D 与 ReaDiT 也在降低监督门槛：前者从图像编辑器、视觉语言模型和图生 3D 教师蒸馏三类先验，后者只读一个 DiT 中间块，就用 53M 参数支持图像与视频的多类空间控制。 视频生成的竞争焦点转向控制稳定性与可核算效率 EditVid 用稀疏因果记忆、跨帧对应注入和软 latent 混合，把免训练视频编辑的 FiVE-Acc 从 58.95 提到 78.16。FlashRender 先修复不同采样步之间的相机控制不一致，再用 MeanFlow 和在策略蒸馏压到 4 次模型评估，采样成本降低 25 倍。SVDtrunc 则按块重要性给 FLUX 分配低秩预算，保留 68% 参数时仍接近完整模型性能。 评测与安全正在从单一总分转向可诊断的局部证据 WorldReward 按动作切分长视频并分别判断动作一致性与画质，避免局部指令证据被长上下文稀释。PRISM-Bench 把音频类型与声源是否可见交叉拆分，用 35 项细则暴露音乐和屏内同步声源的薄弱点。EraseSAE 也把概念删除落到稀疏单义特征和时空掩码上，不过最难的一档概念仍有 77.80% 生成率，说明精细归因并不等于问题已经解决。 人工智能炼丹君 整理 | 2026-09-07 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注

AIGC 周末专题|2026-09-06|长视频世界模型的记忆与状态概览 AIGC 周末专题深度解读：长视频世界模型的记忆：存得下、找得回、更新得对 人工智能炼丹君 整理 | 2026年9月6日（周日） 覆盖时间：双周覆盖 2026-08-24—2026-09-06（含首尾，共 14 天）；原论文首发 2026-08-26—2026-09-02，PAWBench 采用 2026-09-03 v3 本期概述 本期 AIGC 周末专题聚焦长视频世界模型的记忆：存得下、找得回、更新得对方向，精选 7 篇代表性论文进行深度解读。 给一个模型一张街景图，再让你用方向键走开、转弯、返回原地。理想输出不仅是连续的视频，还应当保住原来的门窗与路口。如果你在离开前把一件物品放进抽屉，返回时抽屉里的内容也应正确。这正是本期要拆开的两种记忆：见过什么，以及后来发生了什么。 过去的滑动窗口（只让当前块看到最近一段历史）解决了生成开销随视频增长的问题，却容易忘掉远处内容；全历史缓存扩大了记忆，又带来存储成本。于是本期两周窗口内的研究沿三个方向展开：让有限历史更有用、让历史按几何或任务结构组织、让评测能识别“画面合理但状态错误”。 本期为双周专题，检索与综合窗口为 2026 年 8 月 24 日至 9 月 6 日，含首尾共 14 天。复核这两周的候选与论文索引后，保留七篇与历史记忆、状态更新及其评测直接相关的工作；它们的首发日期为 8 月 26 日至 9 月 2 日，另纳入 PAWBench 在 9 月 3 日更新的 v3。部分论文曾在工作日速读中出现，本期重新研读并作主题综合。下文的数值均为论文报告，未独立复现实验；跨论文联系与研究建议为本文分析。 两周进展怎样衔接：第一周（8 月 24—30 日）的 WALL-SS、DensityKV、LayerRecall 与 Matrix-Game 3.5，分别从视觉—动作配对、容量控制、按层读取和几何重访组织历史；同周首发的 PAWBench 则把概率分布纳入评测。第二周（8 月 31 日—9 月 6 日），Shell Game 将问题收紧到遮挡期间的隐藏状态更新，SolarWM 提供长时生成的数据与训练配方，PAWBench v3 进一步明确条件分数与场景通过率。时间上的接续不意味着这些同期工作相互继承。 双周观察：第一周较集中地回答“历史如何保存和读取”，第二周的入选工作补上“长时训练如何组织、保存的历史是否足以支持状态推理”。因此本期的横向比较同时区分存储预算、外观恢复、动作后果和不确定性，不能仅按生成时长判断能力。 先看四个趋势： 从保存容量转向读取效率。 DensityKV 决定哪些历史留下，LayerRecall 决定当前问题读取什么、送到哪层。 从时间距离转向结构关系。 Matrix-Game 3.5 用三维位置找回图块，WALL-SS 把视觉和动作按尺度共同保存。 从长视频样例转向可复现配方。 SolarWM 把数据与训练接口开放，便于将能力差异与工程配置差异分开。 从外观连续转向状态与分布。 Shell Game 检查遮挡期间的状态更新，PAWBench 检查固定条件下可能未来的概率。 方向分布： 历史压缩与读取 2 篇 (DensityKV, LayerRecall) 几何与动作记忆 2 篇 (Matrix-Game 3.5, WALL-SS) 开放训练配方 1 篇 (SolarWM) 状态与概率评测 2 篇 (Shell Game, PAWBench) 本期按机制比较，未将预印本排版模板或拟投会议视为已录用信息。 技术路线与时间线 把历史变成可管理的资源（2026-08-26—08-28） 描述：WALL-SS、DensityKV 与 LayerRecall 分别从尺度、容量、读取策略组织历史；这是同期不同路线，时间先后不表示相互继承。 关键节点： 08-26：WALL-SS：视觉—动作配对与时间—尺度记忆。 08-28：DensityKV 与 LayerRecall：在线去冗余与按层检索。 把记忆放入可交互生成流程（2026-08-30—09-02） 描述：Matrix-Game 3.5 细化几何场景召回，SolarWM 统一多源数据和因果训练配方。 关键节点： 08-30：Matrix-Game 3.5：patch 云、位姿编码与动静分离。 09-02：SolarWM：开放数据接口与长时推演。 检验记忆究竟保证了什么（2026-08-27—09-03） 描述：PAWBench 与 Shell Game 从概率与隐藏状态提出互补评测问题，并非上述方法已经全部接受过这些测试。 关键节点： 08-27 / 09-03：PAWBench 首发 / v3 更新：同时报告条件分数与场景通过率。 08-31：Shell Game：分开检查画质和交换链状态准确率。 1. DensityKV：给历史库去重，先守住显存预算 论文: DensityKV: Density-Guided KV Cache Compression for Long Video Generation arXiv: 2608.27922 机构: Manifold AI + 清华大学 关键词: 长视频生成, KV缓存, 免训练压缩 1.1 研究动机 核心问题： 在固定容量下，如何减少重复历史而保留有用状态？ 自回归视频生成会把已经生成的内容继续当条件。只留最近几帧容易忘掉旧角色；把所有历史键值缓存（KV，即注意力读取的索引与内容）留下，又会让显存随时长增长。真正需要保存的，是历史里不容易被其他状态替代的信息。 前序工作及局限： 滑动窗口：上下文开销有界，但远处历史被直接逐出。 LongLive-RAG：按需读取历史，存档本身仍会增长。 与前序工作的本质区别： 将历史压缩建模为 post-RoPE key 空间的在线密度控制。 1.2 方法原理 Overview of historical-memory construction and use. Left: sliding-window generation discards states outside the active context; LongLive-RAG stores discarded history and retrieves selected blocks; DensityKV instead maintains a bounded token-level history that is attended together with the local window. Right: at every Transformer layer, clean historical K/V states update independent per-head banks. Admission and rejection are determined by Soft-Riesz density over post-RoPE keys, while each value remains exactly paired with its original key. Current queries access the retained history through the backbone's native attention. 图源：论文原图。图注译文：历史记忆的构建与使用概览。左：滑窗生成丢弃活动上下文以外的状态；LongLive-RAG 保存被逐出的历史并检索选定块；DensityKV 维护有界的 token 级历史，与局部窗口一起被读取。右：每层中，干净历史 K/V 更新各注意力头独立的库；根据 post-RoPE key 的 Soft-Riesz 密度决定接纳或拒绝，value 与原 key 严格配对，当前查询通过原生注意力访问保留历史。 DensityKV 在每层的每个注意力头分别维护历史库，在施加旋转位置编码（RoPE）后的 key 空间计算 Soft-Riesz 密度：附近已有很多相似 key，意味着这片邻域重复得较多。每条新入库状态都保存当时的密度基线，后续更新限制相对入库时的密度增长，而不是拿一个绝对密度阈值把所有密集区域一刀切掉。这样能区分“这一块本来就由一组完整视觉状态构成”与“后来反复加入几乎一样的历史”。原始 key 和 value 始终成对保存，当前块仍通过骨干原有注意力读取它们。 这套机制把压缩决策放在存储侧，既不新增训练任务，也不要求模型先说清自己将来要问什么。但它仍然是有限容量的历史覆盖方案：罕见细节是否被保留下来，依赖 key 空间中的邻域关系，不能由“密度低”直接推导出“任务上重要”。 1.3 核心创新 按注意力头独立管理历史，适配不同头的投影空间。 保留入库密度基线，限制后续冗余增长，同时维持原始 K/V 配对。 1.4 实验结果 Persistent temporal-state storage versus generation length. LongLive-RAG grows linearly, whereas Deep Forcing and DensityKV remain bounded. 图源：论文原图。图注译文：持久时序状态存储随生成长度的变化：LongLive-RAG 线性增长，Deep Forcing 与 DensityKV 保持有界。图中 120 秒时三者分别为 128.5、3.76、3.28 GiB；横轴为生成视频时长，纵轴采用对数刻度。 在论文的 M=9,360 配置下，历史库及元数据为 1.67 GiB；加上首帧锚点和五帧局部窗口，总持久时序状态为 3.28 GiB。这不是模型运行时的整机峰值显存。 同一存储统计中，LongLive-RAG 在 30/60/120 秒为 32.1/64.3/128.5 GiB；Deep Forcing 为 3.76 GiB。DensityKV 相对后者的存储优势远小于相对全历史存档的优势。 论文使用 128 个 MovieGenBench 提示词，分别测试三种骨干和 30/60/120 秒。表中部分基线分数引用 LongLive-RAG 原报告；不能把这组数字与另一篇自建提示集直接拼榜。 1.5 关键洞察 我的判断：有现成自回归模型、首先卡在历史库增长时，值得优先评估。重点监控压缩后的物体重现与运动幅度，避免高一致性只是画面变得更静。它解决“存什么”，尚未解决“哪一层应该读取这些信息”，与下一篇在职责上互补；两者组合是否有效仍需实验。 技术演进定位： 面向部署预算的历史库管理。 可能的后续方向： 固定峰值显存后比较重现准确率与运动质量。 检查稀有物体细节在长时淘汰中的保留情况。 2. LayerRecall：记忆不仅要选对，还要送对层 论文: LayerRecall: A State-Conditioned Memory Router for Long-Horizon Consistency in Video Generation arXiv: 2608.28460 机构: 浙江大学 + 香港大学 关键词: 视频DiT, 长时记忆, 跨镜头一致性 2.1 研究动机 核心问题： 有历史可访问，为什么仍不能稳定恢复旧属性？ 人物离场后再次出现，模型可能仍记得“有一个人”，却把衣服换了。给所有层都塞入远处历史也未必有效：不同层对当前、近处、远处信息的偏好不同，错误注入可能扰乱正在进行的动作。 前序工作及局限： LongLive-2.0：保留局部连续性，远距离重现仍可能漂移。 全层记忆注入：扩大历史访问会干扰部分层的局部功能。 与前序工作的本质区别： 当前块的隐藏特征负责生成查询，块摘要只用于打分，检索载荷仍是完整 K/V；层集合则依据目标骨干的时间偏好预先确定，两种选择具有不同的动态性。 2.2 方法原理 Overview of LayerRecall. Given the current chunk, the router retrieves finite historical K/V candidates from layer-indexed memory banks and scores which memories are relevant to the next generation step. Retrieved states are injected only into profiled memory-sensitive layers, while the remaining layers keep the original sink, sliding-window, and current-chunk attention context. K/V denotes key-value states. 图源：论文原图。图注译文：LayerRecall 概览：给定当前块，路由器从按层索引的记忆库中检索有限历史 K/V 候选，并评价哪些记忆与下一步生成相关。检索状态只注入经分析选出的记忆敏感层；其余层保留原有 sink、滑动窗口与当前块注意力上下文。K/V 指 key-value 状态。 LayerRecall 把记忆使用拆成两个决策。首先，由当前块的隐藏状态生成查询，用它与每层历史块摘要计算相似度，选出有限数量的完整 K/V 块；摘要来自位置编码前的 key，而真正送入注意力的是已编码的 K/V。其次，只让预先分析得到的记忆敏感层接收检索结果，其余层保留原来的局部注意力。这里“检索内容”随当前状态改变，“注入层集合”则是对每种骨干固定的策略，不能理解为每次推理都自由选择全部层。 路由器通过跨跨度预测匹配（CHPM）训练。教师与学生共享同一个冻结骨干，教师拥有更长上下文，学生在有限记忆下对齐教师的去噪预测；训练只更新路由器。学生用自己生成的历史继续推进，梯度在块间截断，既暴露真实推理中的误差，又避免整段长视频反向传播。 2.3 核心创新 把“找哪段历史”与“在哪层用”同时纳入设计。 长上下文教师提供预测监督，无需人工标注每一块应读取哪段历史。 2.4 实验结果 Memory-guided self-correction in a three shot sequence. The subject wears a solid blue inner garment in Shot 1, leaves the scene in Shot 2, and initially reappears with a mismatched pattern in Shot 3. LayerRecall later recalls the earlier blue garment while preserving the subject's identity, gray cardigan, ongoing action, and scene structure, illustrating localized attribute recovery without a global visual reset. 图源：论文原图。图注译文：三镜头序列中的记忆引导自我纠正。主体在第一镜头穿纯蓝色内搭，在第二镜头离场，在第三镜头最初以错误花纹重新出现。随后 LayerRecall 恢复先前的蓝色衣服，同时保持人物身份、灰色开衫、正在进行的动作和场景结构，展示无需全局重置画面的局部属性恢复。 100 个评测提示词上，MemoBench 总分由 LongLive-2.0 的 0.513 提升至 0.548，MovieBench 从 0.546 到 0.578；三项 VBench-Long 指标均值均为 0.978。 主配置 30 层中有 10 层使用记忆；注意力可见预算为 32 个潜在帧，物理 K/V 库为 80 个潜在帧。可见预算不能当成全部存储占用。 匹配 H100 设置下，端到端时间从 305.9 秒/视频变为 309.4 秒/视频，对应 5.22 与 5.16 FPS。 2.5 关键洞察 我的判断：最有价值的是“层的职责”这一设计依据。原图中的衣服会先出现错误花纹，随后恢复纯蓝色，说明自我纠正并不等于从不出错。做长镜头或广告身份一致性时，应同时测错误出现次数、恢复延迟和恢复是否打断动作。记忆敏感层需要针对骨干分析，迁移成本不能只看训练参数量。 技术演进定位： 由历史存储走向选择性记忆使用。 可能的后续方向： 报告重现失败后的恢复时间。 与固定容量压缩库组合时重新分析层策略。 3. Matrix-Game 3.5：把旧场景按三维位置拼回当前视角 论文: Matrix-Game 3.5: Enhancing Real-Time Streaming Interactive World Models with Patch Memory arXiv: 2608.29910 机构: 昆仑万维 Skywork 关键词: 交互世界模型, 几何记忆, 相机控制 3.1 研究动机 核心问题： 如何在相机重访时找到位置正确的历史证据？ 相机离开街角再回来，画面应该还是同一栋楼。整帧检索很难表达“这张旧图只有右上角对当前视角有用”，纯语义相似性也不能保证窗户落在正确的位置。 前序工作及局限： 整帧历史记忆：有用与无用区域绑定在同一读取单位。 MosaicMem：提供局部图块的几何记忆思路。 与前序工作的本质区别： 组合几何 patch 检索、位姿编码、动静分离与实时蒸馏。 3.2 方法原理 The patch-memory mechanism. (a) Lift to 3D: historical latent patches are back-projected into a common 3D space using metric depth together with camera intrinsics and poses. (b) Frustum query: the target camera frustum queries this patch cloud, and a z-buffer under the target view keeps, for every target latent location, only the surface closest to the camera while discarding occluded candidates. (c) Patch memory frame: the selected patches are scattered into an aligned memory canvas under the target viewpoint; regions that are occluded or have never been observed are left empty (black) and dropped from the memory token sequence; the diffusion model synthesizes them from the current latent, text prompt, and surrounding context. 图源：论文原图。图注译文：Patch 记忆机制。(a) 升维到三维：历史潜在图块借助度量深度及相机内外参反投影至共同三维空间。(b) 视锥查询：目标相机查询 patch 云，目标视角的 z-buffer 在每个潜在位置只保留离相机最近的表面，剔除被遮挡候选。(c) 记忆画布：选中 patch 散射成对齐目标视角的记忆；被遮挡或从未观察的区域留黑，并从记忆 token 序列中移除，由扩散模型结合当前潜在表示、文本和周围上下文生成。 Matrix-Game 3.5 采用 patch 记忆：把历史潜在图块结合度量深度、相机内外参反投影到三维空间，再由目标相机的视锥查询。投影到同一目标位置的候选由 z-buffer 选最近可见表面，遮挡、不可靠投影和未见区域被剔除；留下的 patch 按当前视角散射成一张有空洞的记忆画布。空洞交给生成器补全，既保留证据，也显式暴露“这里没有看过”。 相机几何通过 tiled PRoPE 叠加在原时空 RoPE 上，避免切掉视频骨干用于时间建模的通道。静态场景依赖几何 patch，动态主体则有参考 token 维持身份，另有上下文记忆提供未扭曲的历史观测。最后用感知流匹配完成因果适配，再对自生成轨迹做分布匹配蒸馏（DMD），逐步纳入引导、相机控制与记忆条件。 3.3 核心创新 将场景召回粒度细化到图块，并按目标视角对齐。 静态几何与动态主体分开处理，减少把移动物体错误固定到旧位置的风险。 3.4 实验结果 Tiled PRoPE and the native RoPE act together in one attention kernel: temporal structure is preserved, and pose similarity is rewarded. We use two synthetic trajectories here to illustrate the preservation (bottom row), and calculate frame-by-frame attention logits for heatmap visualization (top row). (a) RoPE only (camera term off): the purely temporal kernel, banded in frame offset. (b) Straight walk with tiled PRoPE: the map is nearly indistinguishable from (a) --- the maximum change is empirically 1.3% of (a)'s dynamic range --- adding the camera does not disrupt the frame-to-frame attention structure. (c) S-curve with tiled PRoPE: frames with similar heading light up in blocks far from the diagonal, and opposite-heading frames darken. The camera raises attention exactly where views are geometrically close, while the temporal ordering of (a) survives untouched. This analysis was performed on the model fine-tuned from Wan2.2-TI2V-5B. 图源：论文原图。图注译文：Tiled PRoPE 与原生 RoPE 在同一注意力核中共同作用，保留时间结构并提高位姿相近帧的注意力。下排为两条合成轨迹，上排为逐帧 attention logits 热力图。(a) 关闭相机项时，RoPE 形成沿帧偏移的带状结构。(b) 直线行走时加入 tiled PRoPE，最大变化约为原图动态范围的 1.3%。(c) S 形轨迹中，相近朝向在远离对角线处变亮，相反朝向变暗，同时原时序顺序保留。分析使用从 Wan2.2-TI2V-5B 微调的模型。 论文的 SANA-WM 一分钟简单轨迹测试中，蒸馏前 Matrix-Game 3.5 的旋转误差为 1.63°、重访 SSIM 为 0.439；Matrix-Game 3.0 对应 12.96°、0.326。两者均为 720p，但推理 GPU 数不同，分别为 1 和 8。 困难轨迹上旋转误差为 2.70°，重访 SSIM 为 0.414。这些指标分别描述相机跟随与相同位姿下的外观恢复。 主对比表明确使用蒸馏前模型，不能把表中质量与蒸馏后实时模型的速度拼成同一工作点。 3.5 关键洞察 我的判断：场景漫游比纯文本长视频更适合显式几何检索。代价是深度、相机与动态分割错误会进入记忆链路。长期产品需要考虑错误 patch 的失效与纠正，否则每次“回忆”都可能强化最初的几何误差。论文中的几何组件不新增可学习参数，不代表整套系统免训练或没有计算成本。 技术演进定位： 由时间索引扩展为三维空间索引。 可能的后续方向： 评测深度错误对长期记忆污染的影响。 给历史 patch 增加可信度与失效条件。 4. WALL-SS：历史变粗时，动作也要一同保留 论文: WALL-SS: Scaling Long-horizon World Models via Next-Scale Autoregression arXiv: 2608.26239 机构: 自变量机器人 (X Square Robot) 关键词: 机器人世界模型, 下一尺度自回归, 动作条件 4.1 研究动机 核心问题： 有限历史里怎样同时保住外观与交互后果？ 机器人看见的是画面，执行的是动作。如果把历史只压成外观，模型可能记得杯子长什么样，却忘记它刚被放进了哪个篮子。这里需要保留动作及其后果的对应关系。 前序工作及局限： 下一尺度视觉生成：提供由粗到细的表示，但不自动保证动作因果关系。 只保留最近片段：容易丢失更早交互造成的持久状态。 与前序工作的本质区别： 视觉与动作按时间和尺度对齐，并联合参与历史状态管理。 4.2 方法原理 Overall framework of WALL-SS. WALL-SS unifies action-conditioned next-scale visual prediction, streaming long-horizon state propagation, and on-policy alignment of autoregressive visual dynamics. 图源：论文原图。图注译文：WALL-SS 总体框架：统一动作条件的下一尺度视觉预测、流式长时状态传播，以及自回归视觉动力学的 on-policy 对齐。图中时间—尺度 KV 记忆把最近精细状态、较远粗状态和初始锚点共同提供给因果 Transformer，动作记录与视觉历史配对。 WALL-SS 采用下一尺度自回归：先生成粗尺度视觉状态，再逐步细化，每个尺度都读取同一时间区间、同一视角且尺度对齐的动作条件。长时记忆反过来利用这套层次：最近交互保存精细状态，较远的历史只留较粗状态，并让视觉记录始终与对应动作条目成对存在。固定的历史年龄—尺度调度决定何时读取和淘汰，因而存储能够保持有界。首帧身份锚点只提供外观与全局布局参照，不能代替滚动的动态状态。 训练通过随历史年龄变化的扰动和模型自己生成的上下文减少误差累积。后训练把视觉生成器视为可优化策略：动作保持为输入条件，奖励调整给定动作下视觉未来的概率。这个区别很关键——该阶段优化的是世界预测，而不是顺便学一个更会做任务的机器人控制器。 4.3 核心创新 复用多尺度生成状态管理长历史，无需另外重建一套 RGB 压缩器。 保存动作—视觉因果配对，在自己的 rollout 上对齐动作跟随与长期一致性。 4.4 实验结果 Qualitative comparison of long-horizon video rollouts. Rows correspond to Wan2.1-1.3B, Wan2.2-14B, Infinity-8B, and our model, while columns show snapshots at 5, 30, and 60 seconds. The left task requires sorting tabletop objects into the corresponding baskets, and the right task requires pouring water into a cup. The comparison highlights each model’s ability to preserve scene geometry, object identity, and coherent task progression over extended horizons. 图源：论文原图。图注译文：长时视频 rollout 定性比较。各行依次为 Wan2.1-1.3B、Wan2.2-14B、Infinity-8B 和本文模型；各列为 5、30、60 秒快照。左侧任务按形状把桌面物体放入对应区域，右侧任务向杯中倒水并放下水壶。对比展示长时几何、物体身份与任务进程的保持情况。 受控后训练消融中，动作跟随从 0.264 到 0.290，轨迹准确率从 0.512 到 0.539，跨片段边界误差从 0.118 降至 0.104。均为该论文内部协议。 论文展示了 5、30、60 秒的物体分类与倒水任务；图像证据用于观察物体身份、几何与任务进展，不能替代真实机器人成功率。 其闭环比较设计包含 6 个留出任务、5 个策略检查点、20 个匹配初态，共 600 对生成—真实 rollout，评测对象已经超出单帧画质。 4.5 关键洞察 我的判断：值得关注动作与视觉一起压缩的设计。它仍有任务相关的取舍：很小的按钮状态可能对成功至关重要，却在粗尺度历史里不显眼。若把它用于策略筛选，需要观察是否保持各策略的成功率排序；看起来更流畅的模拟器，未必更准确地评价了控制策略。 技术演进定位： 从视频连续性推进到具身交互的可用性。 可能的后续方向： 测试细小但决定任务成败的状态能否跨尺度保留。 增加长任务下模拟器与真实策略排名的一致性检验。 5. SolarWM：短序列训练撑起长推演，证据要分层看 论文: SolarWM: Open Data and Scalable Training for Long-Horizon Video World Models arXiv: 2609.02886 机构: 香港中文大学（深圳）、SLAI、新加坡国立大学、香港中文大学、香港科技大学、香港科技大学（广州）、NVIDIA、UCLA、微软亚洲研究院 关键词: 长时世界模型, 开放数据, 分布匹配蒸馏 5.1 研究动机 核心问题： 怎样减少数据与骨干耦合，并稳定训练可扩展的因果世界模型？ 换一个视频骨干，经常连数据时间轴、相机单位、潜在帧率和训练目标都要重做。SolarWM 关注这个系统问题：把数据准备、相机控制与因果训练整理成可复用的统一接口。 前序工作及局限： 直接混合多源数据：时间、几何、质量标准不一致，监督信号容易相互冲突。 只用教师强制训练：推理时自身历史带来的误差未被充分覆盖。 与前序工作的本质区别： 把数据、相机接口与三阶段因果训练整理为统一而保留骨干差异的框架。 5.2 方法原理 Overview of the SolarWM-5B training pipeline and hour-scale inference results 图源：论文原图。图注译文：SolarWM-5B 训练流程及小时级推演概览。图上方为双向训练、使用教师强制和 AnyFlow 的自回归训练、使用 DMD 的四步蒸馏；三阶段均使用五秒序列。下方展示教室与街区场景的长时交互画面。 SolarWM 将 10 个数据集中的 143 万个规范片段整理为逐帧对齐的视觉、度量相机、文本、质量信息和来源记录；源数据处理与训练混合比例分开，使数据选择可追溯。统一接口并不强行抹平骨干差异：Wan、LTX 与 H3 的潜在表示、首帧条件和目标函数被分别保留，相机条件通过适配器接入原有注意力。 三阶段训练先做双向相机条件适配，再用教师强制的 AnyFlow 损失直接得到少步因果初始化，最后用 DMD 在学生自生成的上下文上训练，缓解训练看到真值、推理只能看到自身预测的分布差异。论文的长推演始终固定场景提示词，外部变化来自给定相机轨迹。理解这个控制条件，才能判断“小时级”结果究竟验证了什么。 5.3 核心创新 统一可追溯数据约定，同时保留骨干原生表示与训练目标。 把少步因果初始化并入第二阶段，再用自生成轨迹做分布匹配。 5.4 实验结果 Hour-scale world rollout generated by the SolarWM-wan2.2-5B-fast causal student. Sparse frames are sampled throughout a single uninterrupted autoregressive session initialized with a real first frame from the held-out validation pool, spanning the initial observation to the 60-minute endpoint. The scene prompt remains fixed and the model follows a predetermined camera trajectory. 图源：论文原图。图注译文：SolarWM-wan2.2-5B-fast 因果学生的小时级世界推演。从留出验证集的一帧真实初始观测开始，在一次不中断的自回归会话中稀疏采样，覆盖初始时刻至 60 分钟端点。场景提示词保持固定，模型遵循预先给定的相机轨迹。 模型家族覆盖 5B—33B 四条路线；各路线保留组件不同，LTX 路线移除了音频相关模块，不能据此声称四个版本都输出音视频。 因果实验使用 4 个采样步，视频时间轴为 16 FPS。这里的 16 FPS 是输出帧率，不能直接当成端到端生成吞吐。 wan2.2-5B-fast 的图示从 5 秒训练窗口扩展到不中断的 60 分钟推演；论文长时结果主要是定性样例，尚不能据此认定任意一小时前的状态都能正确恢复。 5.5 关键洞察 我的判断：它的价值是把实验基础设施和配方公开，方便在相近数据条件下比较不同模型。对小时级样例，接下来最需要补的是统一的重访轨迹、任务状态探针和随时间变化的失败率。持续产出合理的新画面，与反复回到同一世界仍保持同一事实，是两种不同的验收要求。 技术演进定位： 长时世界模型的复现实验底座。 可能的后续方向： 在相同数据与硬件预算下做骨干对比。 增加小时级定量重访与状态正确性指标。 6. Shell Game：杯子画得再真，也可能不知道球在哪 论文: Can Video World Models Track Unobserved World States? arXiv: 2608.30692 机构: 首尔国立大学 + Roblox 关键词: 隐藏状态, 视频世界模型评测, 测试时训练 6.1 研究动机 核心问题： 能回忆旧画面，是否就能更新从未直接显露的状态？ 五个相同杯子盖住一个球，再按动作序列交换位置。输入是初始画面和每次交换动作，输出是最后揭杯的视频；正确结果必须让球出现在真正的那个杯子下。中间看不见球，任务刻意把渲染能力与隐藏状态追踪分开。 前序工作及局限： 画质与身份一致性评测：无法判断遮挡物体经过动作后位于何处。 追加式KV历史：保留证据，但状态组合仍需每次重新推导。 与前序工作的本质区别： 实验在球不可见时保持画面简洁，并固定动作交换与生成块的对应关系；观察最终揭杯位置，就能单独量化架构是否正确组合了整条动作链。 6.2 方法原理 The visual shell game construction. An episode first reveals the ball and lowers the cups, then applies a sequence of swaps while the ball remains hidden, and finally reveals its position. 图源：论文原图。图注译文：视觉 Shell Game 的构造：先揭示小球并放下杯子，再在小球不可见的情况下执行一串杯子交换，最后揭示小球位置。图中每次交换对应一个生成块；球在整个交换阶段始终不可见。 Shell Game 用约 200M 参数、相近规模的模型比较时间混合机制，视觉骨干和压缩表示尽量一致。训练只包含 5 次交换，测试把链条延长到 30 次。像素损失在遮挡阶段不会告诉模型球在哪里，因而它必须在架构内部携带并更新状态；追加历史的 KV 缓存让模型重新从历史推导答案，却不等同于一份会原地更新的状态表。 两个有效方向分别是允许状态转移具有负特征值的线性注意力，以及更新非线性快速权重的测试时训练（TTT）。前者可表达交换所需的反射操作，后者能随着新动作修改读取自身状态的特征映射。单纯增加可读写 scratchpad token 并没有在长链上同样成功，因此“有一个记忆模块”这个标签本身没有解释力，要看它究竟能执行何种状态变换。 6.3 核心创新 用隐藏小球的动作条件视频控制渲染难度，直接测试状态组合。 同时比较长度外推与去噪步数，区分画质改善和状态计算能力。 6.4 实验结果 Length extrapolation of mechanisms that enable state tracking. All variants share the same SWA1 backbone, with the temporal mechanism added on top. The bare backbone alone (SWA1, $M{=}0$ in (C)) never rises above chance, failing even at the in-distribution length $N{=}5$, so it serves as the natural chance-level control. (A) Extending the transition eigenvalue range from $[0,1]$ to $[-1,1]$ improves state accuracy across linear-attention variants. (B) LaCT extrapolation improves with the number of fast-weight heads $H$. (C) Adding explicit per-layer read/writable scratchpad tokens improves extrapolation through $N{=}10$ but fails by $N{=}20$. 图源：论文原图。图注译文：可支持状态追踪的机制之长度外推。各变体以同一 SWA1 骨干为基础，添加不同时间机制。裸骨干，即 (C) 中 M=0 的 SWA1，连训练内 N=5 都未超过随机水平，因此作为自然对照。(A) 将转移特征值从 [0,1] 扩大至 [-1,1] 改善线性注意力状态准确率。(B) 增加快速权重头数 H 改善 LaCT 外推。(C) 每层加入可读写 scratchpad token 能改善至 N=10，但到 N=20 仍失败。 训练集为 30,000 段五杯、五次交换序列；随机猜球位置的准确率为 20%，测试最长 30 次交换。 在 10 次交换时，把采样步数从 4 增加到 50 并未改善状态准确率；高 PSNR 可以与接近随机的状态判断共存。 扩展线性状态转移特征值范围、增加 LaCT 快速权重头数能明显改善外推；显式 scratchpad 在 20 次交换附近仍出现失效。 6.5 关键洞察 我的判断：这篇给前面几种记忆方法提出了很好的压力测试，但没有逐一测试本期所有新模型，所以不能宣称 LayerRecall、Matrix-Game 或 SolarWM 已在该任务失败。人工构造的交换任务也不能直接代表全部真实世界能力；它的强项是让某一种能力缺口变得可定位、可复现。 技术演进定位： 为长时生成建立可证伪的状态诊断。 可能的后续方向： 在大规模预训练模型上检验同类受控任务。 同时报告状态正确率、渲染质量和外推长度。 7. PAWBench：同一起点多推演几次，概率也要对 论文: PAWBench: How Far Are We from Probabilistically Aligned World Modeling? arXiv: 2608.27345 机构: 上海交通大学、上海 AI Lab、Krea AI、Hugging Face、上海创智学院、通义实验室、香港大学 关键词: 概率对齐, 世界模型评测, 分布校准 7.1 研究动机 核心问题： 多次生成是否恢复正确的可能结果及其概率？ 一个模型能画出硬币正面和反面，还不够。如果对称条件下大多数时候都落在同一面，它虽然有多样性，却没有学对结果分布。用于规划的世界模型需要知道哪些未来可能发生，以及它们各有多大可能。 前序工作及局限： 单条视频合理性：一条合理轨迹无法说明整体概率分布。 仅看多样性：覆盖多种结果，不代表频率与物理过程相符。 与前序工作的本质区别： 作者把终局分类、无效结果筛选与分布统计明确拆开，对可校准概率和只能枚举结果的场景分别评分，避免把所有多样性混为一种能力。 7.2 方法原理 PAWEval turns repeated rollouts into a distributional test. In this PAW-Calibration example, a rubric-based judge maps each readable, in-schema coin-toss rollout to Head or Tail. Aggregating these labels yields the empirical outcome distribution, which is compared with the reference probabilities rather than matching generated videos frame by frame. 图源：论文原图。图注译文：PAWEval 将重复 rollout 转为分布检验。这个 PAW-Calibration 例子中，按评分规则工作的裁判把每条可读且符合结果定义的抛硬币视频归为正面或反面；汇总后形成经验结果分布，再与参考概率比较，而不是逐帧匹配生成视频。 PAWBench v3 将 50 个场景分为两轨。25 个校准场景有解析或对称性导出的参考概率；另外 25 个覆盖场景只确定有效结果集合，不强行假定每种结果等概率。对固定初始图像和动作，每个模型重复生成 50 次，PAWEval 按场景评分规则读取终局，然后比较结果分布。校准使用总变差距离（TVD，即两分布差异绝对值之和的一半），覆盖使用有效结果被观察到的比例。 无法读取或不符合结果定义的视频单独记录；某场景至少有 20 条可读、合法结果才通过门槛。论文同时报告通过场景上的条件分数，以及全部场景中通过的比例 SPR。把两个指标放在一起很必要：只在少量容易场景上得到好分数，不能当成整体可靠。相比单视频打分，它还区分了概率错配、可能结果遗漏和无法完成物理过程三类问题。 7.3 核心创新 从单次轨迹合理性推进到重复采样的结果分布。 校准和覆盖分开，并同时披露结果读取门槛与场景通过率。 7.4 实验结果 Models underreact to physically causal interventions and overreact to non-causal cues. Upper and lower bars show outcome distributions before and after intervention; panels (b) and (d) show the paired scenes. The pencil tilt is causal because it changes the physical transition, whereas the Galton-board text is non-causal because it leaves the transition unchanged. 图源：论文原图。图注译文：模型对物理因果干预反应不足，对非因果提示反应过强。上下条带为干预前后的结果分布，(b) 与 (d) 展示成对场景。铅笔倾斜会改变物理转移，因此是因果干预；高尔顿板旁的文字未改变转移，因此是非因果干预。 v3 在 11 个系统上评测；Cosmos 3 Super I2V 校准 TVD×100 为 20.5，但校准 SPR 为 80%；LTX-2.3 覆盖率为 71.7%，对应覆盖 SPR 为 72%。 相同参考为 50/50 时，模型产生 70/30 分布的 TVD×100 等于 20，而不是 40。 主实验 K=50；扩大采样预算可以找到更多结果，但不保证修正相对频率。作者对 888 条双方均能明确读取的视频做人类一致性检查，自动判定与明确人类标签一致 722 条，即 81.3%。 7.5 关键洞察 我的判断：v3 最值得保留的是分母意识：条件分数、场景通过率与采样预算必须一起看。自动裁判也有误差，且参考概率来自受控机制假设，不能无限外推到真实开放世界。概率对齐并非“每次都生成同一个正确答案”；确定性隐藏状态与随机未来分布应采用不同测试。 技术演进定位： 在记忆与状态之后检验世界模型的不确定性。 可能的后续方向： 固定采样预算并报告无效样本与SPR。 对关键任务做人工裁判复核与干预对照。 横向对比与技术脉络总结 七篇论文分别回答哪一个问题 论文 核心对象 关键证据 不能据此推出 DensityKV 逐头历史K/V库 固定配置3.28 GiB持久状态 整机显存仅3.28 GiB LayerRecall 历史检索与注入层 MemoBench 0.548；MovieBench 0.578 任意长历史均可恢复 Matrix-Game 3.5 静态几何与主体记忆 一分钟重访与相机误差 蒸馏前质量等于实时模型质量 WALL-SS 动作—视觉时序状态 动作跟随与边界误差消融 已掌握全部隐藏状态推理 SolarWM 数据与因果训练接口 五秒训练；小时级定性推演 一小时内所有事实始终正确 Shell Game 不可见状态的组合更新 五次训练、三十次交换外推 全部大模型和记忆方法均失败 PAWBench v3 重复推演的结果分布 双轨25+25场景；每场景50次 单个条件均分代表全面可靠 核心技术趋势 压缩和路由可以分工，但组合必须重新验证 DensityKV 压缩 post-RoPE 的逐头 K/V，LayerRecall 用块摘要挑选历史并按层注入，两者读取粒度并不相同。将它们拼接，需要先定义“一个历史块在被逐头裁剪后还是否完整”，以及教师监督看到的历史与压缩后历史是否一致。仅凭模块职责互补，不能推导出性能叠加。 记忆需要区分持久属性与会变化的状态 衣服颜色可以长时保持，物体位置与容器内容却可能随动作改变。把早期图像长期作为锚点，有时会帮助身份一致性，有时可能把世界拉回过时状态。几何记忆应知道哪些对象移动了，语义记忆也需要决定旧事实何时失效。 自生成上下文训练与可更新状态解决不同问题 LayerRecall、Matrix-Game 3.5、WALL-SS、SolarWM 都以不同方式让训练接近推理的自生成历史。这能缓解误差积累；Shell Game 则提醒我们，有些任务还受架构可表达的状态变换限制。更多 rollout 训练是否足以弥补该限制，需要受控外推实验，不能只看模型是否经过蒸馏。 长时系统应同时报告运行预算与能力失效 一次运行持续多久、能保留多久以前的外观、能组合多少次隐藏动作、能覆盖多少未来分支，分别描述不同能力。将这些指标拆开，才能分辨是容量用尽、读取失败、状态更新失效，还是概率分布偏置。 技术路线全景图 需求 → 先定义验收 外观重现 → 存储预算（DensityKV）→ 读取位置（LayerRecall） 相机重访 → 几何证据（Matrix-Game 3.5） 动作后果 → 时间—尺度配对（WALL-SS） 训练底座 → 数据与因果配方（SolarWM） 共同验收 → 隐藏状态外推（Shell Game）＋结果分布（PAWBench） 仍然缺少哪些关键实验 四大核心难点 1. 旧事实如何失效 应构造“物体被移动后再回访”和“物体只是暂时离场”两组场景，检查记忆能否分别更新位置与维持身份。 2. 比较的预算如何对齐 同时报告物理缓存、注意力可见长度、模型与中间张量的峰值显存，以及包含解码和检索的端到端耗时。 3. 不同能力怎样联合验收 画质、重现、状态和分布应分列，不能用一个总分把某项严重失败平均掉。 4. 受控结论怎样扩展到真实场景 交换杯子的探针便于定位机制，真实开放世界还包含观测噪声、对象数量变化与动作歧义；需要逐级增加难度。 总结与展望 同一评测协议下，先看哪些数字可信 下面摘取 LayerRecall 论文主表中的同一组 100 个评测提示词结果。VBench-Long 此处是主体一致性、背景一致性、运动平滑度三项均值；不是所有 VBench 维度的总分。各基线的输入适配、分辨率及采样配置见原文附录，因此该表适合观察指标之间的差异，不是等算力排行榜。 方法 VBench-Long 三项均值 ↑ MemoBench 总分 ↑ MovieBench 总分 ↑ LongLive-2.0 0.978 0.513 0.546 MemFlow 0.981 0.531 0.542 SkyReels-V2 0.992 0.466 0.508 LayerRecall 0.978 0.548 0.578 来源：LayerRecall 主表与实验设置。加粗为本表四行中的最优值。SkyReels-V2 的三项平均更高，记忆专项却较低；这正说明通用视觉连续性不能代替长时记忆评测。 PAWBench 的另一组数据属于不同问题，单列如下。TVD×100 越低越好，覆盖率越高越好；两项均值只在通过读取门槛的场景上计算。每轨 25 个场景、每场景 50 次生成，SPR 是全部 25 个场景中的通过比例。 模型 校准TVD×100 ↓ 校准SPR 覆盖率 ↑ 覆盖SPR Cosmos 3 Super I2V 20.5 80% 55.2% 92% MiniMax H3 24.2 68% 48.7% 92% LTX-2.3 30.1 24% 71.7% 72% Seedance 2 30.5 100% 50.9% 84% 来源：PAWBench v3 表1。加粗仅表示本表四行中的最优值。LTX-2.3 的高覆盖均值与较低场景通过率应一起看；不同模型通过的场景集合也可能不同。它与上一张表无法直接比较。其余论文的机器人任务、相机轨迹和时长设置也不同，本期不把七篇排成统一名次。 实操与分层阅读 30 分钟理解主题：先看导语与七篇对照，再读 Shell Game 的杯子交换图。试着分别写出“外观没变”“状态正确”“概率合理”各自需要怎样的证据。 半天精读：选择与你的瓶颈匹配的一条路线。显存受限读 DensityKV；跨镜头属性恢复读 LayerRecall；相机回访读 Matrix-Game 3.5；机器人动作模拟读 WALL-SS。沿每篇 arXiv 页面访问作者官方项目入口，复现时固定论文版本和实验配置。 一周动手研究：先用 SolarWM 的数据与训练设计作为对照思路，选定一个可运行骨干；固定初图、动作、随机种子和预算，分别测试“走开再回来”“移动物体后再回来”“遮挡时连续交换”。然后对同一随机物理场景重复采样，记录终局分布与无法判读的比例。建议把每种失效单独存档，再决定需要更好的缓存、读取器还是状态更新机制。 这七篇共同带来的研究机会，是把历史记忆、动态状态和不确定性放进同一套可检查的生成流程。具体模块的组合效果仍待验证；选择方案时，应从你要保住的事实和可测的失效出发。 专题排期：本栏目自本期起每两周的周日发布一次。下一期为 2026 年 9 月 20 日，覆盖 9 月 7—20 日；工作日论文速读照常。 今日讨论 如果模型能保持一小时画质，却无法在物体移动后恢复正确位置，你会先增加历史容量，还是先测试记忆更新机制？ 人工智能炼丹君 整理 | 数据来源：arXiv 双周覆盖 2026-08-24—2026-09-06（含首尾，共 14 天）；原论文首发 2026-08-26—2026-09-02，PAWBench 采用 2026-09-03 v3 更多 AIGC 论文解读，关注微信公众号「人工智能炼丹君」 每日更新 · 论文精选 · 深度解读 · 技术脉络 微信搜索 人工智能炼丹君 或扫描下方二维码关注