深度解读|MiniMax H3|开源33B统一音视频与2K链路拆解

人工智能炼丹君
2026-08-03 / 0 评论 / 15 阅读 / 正在检测是否收录...

MiniMax H3 深度解读:33B 统一音视频生成与 2K 链路全拆解

模型:MiniMax H3
机构:MiniMax
发布时间:2026-07-31(产品发布);2026-08-02(开放权重许可日期)
资料:官方 README | 官方博客 | 技术文档 | SGLang 部署文档
协议:MiniMax H3 Community License,不是 Apache-2.0,也不是 OSI 意义上的开源协议
说明:本次只分析公开文档、配置、源码与仓库元数据,没有下载或运行模型权重。性能数字来自官方与 SGLang 文档,不等同于独立实测。

MiniMax H3 官方封面
(图片来源:MiniMax H3 官方仓库)


01 先说结论:H3 不只是“带声音的视频模型”

MiniMax H3 的定位是一个通用全模态生成系统:输入可以同时包含文字、图片、视频和音频,输出是一段自带 32 kHz 立体声的视频。公开规格支持 4–15 秒、24fps、默认短边 768 像素;官方完整服务再通过一次上下文重生成,把结果提升到 2K。

简单讲,它想把过去分散在不同模型里的工作放进同一套生成语言里:

  • 只给文字,生成同步音画;
  • 给首帧、尾帧或首尾帧,让视频在约束之间运动;
  • 给人物图、动作视频和声音参考,让人物照着动作唱或说;
  • 参考原视频的镜头、运动、角色、音乐或音色,再做重生成与编辑;
  • 同时建模对白、环境声、动作音效和配乐,而不是最后外挂一个音效模型。

真正值得关注的不是“功能列表很长”,而是 H3 把任务关系也交给自然语言表达。人物身份来自图片、运镜来自视频、音色来自音频,这些过去要靠不同接口和控制模块硬编码;H3 先把它们写成一份结构化的多模态叙事,再交给统一 Transformer 生成。

但也要先把边界讲清楚:目前真正开放的是 768p 的 H3-Base。官方效果所依赖的 H3-Context-IR、2K 重生成和原生稀疏注意力都没有随首批权重开放。因此,“开放 H3-Base”和“本地复现官网完整 2K H3”不是一回事。


02 最亮眼的地方,以及宣传里容易忽略的地方

主要亮点:

  • 33B 稠密单流 Omni Transformer,音频与视频 latent 放进同一序列联合去噪,而不是先视频、后配音。
  • 原生立体声:AudioVAE 以 32 kHz 输入输出,每声道压成 40Hz latent 序列。
  • 高压缩视觉表示:VisualVAE 为 f16t4d24,再做 1×2×2 patch,送入 Transformer 时等效为时间 4 倍、空间 32 倍下采样。
  • 完整任务泛化思路:文字、图像、视频、音频参考关系均由语言描述,不把编辑、动作参考、音色参考拆成固定专家接口。
  • 2K 不是普通超分:把 768p 结果和原始上下文重新送回生成模型做 in-context regeneration,理论上可以重新找回小字与细节。
  • 公开配置很有信息量:50 层、5376 隐藏维、56 个 128 维注意力头、14336 FFN、两层 token refiner,足以反推出 33B 参数主要花在哪里。

相对弱、或者说需要保持合理预期的地方:

  • 官方完整技术报告尚未发布,训练数据规模、训练算力、损失函数、数据配比和系统消融都没有完整披露。
  • 2K Regenerate、Context-IR 与稀疏注意力暂未开放;本地公开链路默认仍是 768p、全注意力。
  • 一个 Ref2VA 检查点的 BF16 safetensors 就约 144.0GB;FL2VA 也是约 144.0GB,整个仓库两套都取下来约 288GB。
  • 官方发布材料没有给出可复核的统一公开 Benchmark 表。展示视频很强,但不能据此下“全面 SOTA”的结论。
  • 许可限制明显,不能简单写成“可自由商用开源模型”。

03 从 Hailuo 01/02 到 H3:变化不只是模型变大

MiniMax 在官方博客里把演进分成三步:

  • Hailuo 01:先把视频生成系统搭起来;
  • Hailuo 02:重点优化架构效率、数据质量与规模;
  • H3:把第一原则改成“任务泛化”,甚至放弃了 Hailuo 02 中一些有工程优势、但会增加任务统一复杂度的设计。

过去的视频生成产品通常按任务拆模型:文生视频、图生视频、首尾帧、主体参考、动作参考、声音参考、视频编辑各走一条链。图像、视频与音频之间又是三套系统。

H3 的选择是从预训练阶段就混合这些数据与任务,并用语言描述“输入材料和目标之间是什么关系”。官方列出的预训练范围包括文生图、文生视频、文生音频、原生多镜头、图像参考与编辑、视频参考与编辑、音频参考与编辑,以及音视频到音视频的参考与编辑。

这里的关键不是把多个数据集简单拼起来。任务边界消失后,数据配比、序列长度和计算量差异都会变大。MiniMax 称加入多模态上下文后,样本序列长度方差扩大到约 3 倍,因此训练系统把“理解负载”和“生成负载”分开调度,再平衡样本内异构计算与样本间负载,端到端训练吞吐提升接近 30%。

需要注意:这 30% 是训练系统吞吐,不是生成质量提升,也不是推理提速。


04 完整系统其实有三段:理解、生成、再生成

官方把完整 H3 拆成三个模块:

  1. H3-Context-IR:理解自由形式的文字、图片、视频和音频,整理成结构化 Context Intermediate Representation。
  2. H3-Base:把 Context-IR 编码后,在统一 Transformer 中联合生成视频与立体声音频 latent,输出 768p。
  3. H3-Regenerate-2K:把 768p 视频和原始多模态上下文再次交给 H3,在上下文中重新生成 2K 结果。

MiniMax H3 三段式系统总览
(图片来源:MiniMax H3 官方 README,System Overview)

这个拆法很重要。它说明 H3 并不是一次前向就从任意素材直接吐出 2K:

  • 上游先把创作意图“编译”为模型容易消费的描述;
  • 中间基础模型完成真正的音视频联合扩散;
  • 下游再用生成模型自身重做高分辨率版本。

从产品角度看,这是一个“多模态编译器 + 基础生成器 + 生成式精修器”。从开源角度看,目前只开放了中间的基础生成器与相关编码/解码组件;前后两段仍需官方 API。


05 两套公开检查点:FL2VA 和 Ref2VA 不是一回事

H3 首批开放两个任务分区,每个分区都自带文本编码器、Tokenizer、VisualVAE、AudioVAE 和专用 Omni Transformer。

检查点 适合什么任务 输入约束 输出
H3-Base-FL2VA 文生音视频、首帧、尾帧、首尾帧生成 0、1 或 2 张关键帧 768p 视频 + 立体声
H3-Base-Ref2VA 人物、风格、动作、镜头、视频和音频参考 图片≤9;视频≤3;音频≤3;混合文件≤12 768p 视频 + 立体声

FL2VA 中的图像是严格的时间锚点:

  • 1 张图可以是第一帧,也可以是最后一帧;
  • 2 张图分别约束首帧与尾帧;
  • 不给图就是 T2VA。

Ref2VA 的素材则是语义参考,不保证逐像素保留。输入视频可以提供动作、构图、镜头节奏或原音轨,但生成器允许重新合成、重排运动和裁切画面,也没有类似传统视频编辑的 denoising strength 控制。

这意味着:要“从这张图原样开始动”,选 FL2VA;要“参考这个人的身份或这个视频的动作”,选 Ref2VA。把两者混用,很容易得到与预期不符的构图。


06 H3-Context-IR:真正的“任务统一层”

(这段稍微技术一点,不感兴趣可以跳过,不影响后续阅读。)

H3-Context-IR 是整套系统最容易被低估的部分。它不是普通的 prompt 润色器,而是在做四类工作:

  • 解析用户指令;
  • 建立跨模态对应关系;
  • 理解镜头时间线;
  • 补足不违背原意的缺失语义。

官方博客称,多数原始素材会触发约 100K token 量级的内部推理,最后压缩成平均约 4K token 的上下文表示。这里的“100K”指整个托管理解流水线的推理开销,不代表最终 prompt 必然有 100K token。

基础模式的 Context-IR 最终会落成三个核心字段:

integrated_multimodal_description: [Shot 1] ...

overall_soundscape: ...

non_diegetic_music: ...

第一段写画面、动作、镜头、对白和时间线;第二段写环境声、动作声和非语言人声;第三段专门写角色听不到、只有观众能听到的配乐。对白用 <d>[语言] ...</d> 包裹,说话者用稳定的 (S1)、(S2) 标识,后续镜头继续复用。

全参考模式还会增加:

  • subject_definitions:定义人物、图片、视频和音频标签;
  • summary:概括这是编辑、续写、关键帧补全、音频复用还是参考生成;
  • retention_analysis:明确哪些内容要完整保留、部分保留、只参考风格,音频是复制还是只参考音色;
  • detailed_description:按播放顺序逐镜头写出素材在何时发挥作用。

说白了,Context-IR 把一个固定任务 API,变成了可扩展的自然语言“中间代码”。这正是 H3 能统一不同任务的根。

问题也在这里:Context-IR 依赖多阶段托管模型和服务,当前没有开放。只部署 H3-Base,开发者要么调用官方 Context-IR API,要么严格照官方 prompt guide 自己搭理解与改写系统。否则同一套权重很难直接复现官网的复杂指令遵循。


07 H3-Base 的数据流:同一参考素材要被看两遍

H3-Base 先把不同模态分别编码,再打包进一个统一序列:

  • 文字由 H3-Encoder 编码;
  • 图片和参考视频同时经过 H3-Encoder 与 VisualVAE;
  • 音频只经过 AudioVAE;
  • 待生成的音频和视频从噪声 latent 开始;
  • 条件 token 与目标 token 一起进入 H3 Omni Transformer。

H3-Base 完整架构
(图片来源:MiniMax H3 官方 README,H3-Base Architecture)

为什么视觉输入要编码两次?

H3-Encoder 提取的是语义信息:画面里是谁、在做什么、物体和镜头是什么关系。VisualVAE 保存的则是生成需要的细粒度外观、结构和纹理。前者适合“理解”,后者适合“照着生成”。

这也是统一多模态模型常见的一对矛盾:只用语义 token,身份和纹理容易丢;只用 VAE latent,复杂指令和关系又不容易读懂。H3 没有强迫一种表示同时承担两种职责,而是在统一序列中同时保留。

音频侧没有单独公开一个音频语言模型。H3-Base 内部主要依赖 AudioVAE latent 和 Omni Transformer 做音频条件与生成;更高层的声音关系理解,很大程度上由上游 Context-IR 负责。


08 H3-Encoder:完整 Qwen3-VL-32B,但取第 50 层

H3-Encoder 直接使用完整预训练的 Qwen3-VL-32B。公开配置显示:

  • 语言部分 64 层,隐藏维 5120;
  • 64 个注意力头、8 个 KV 头,单头维度 128;
  • FFN 中间维度 25600;
  • 最大位置长度 262144;
  • 视觉编码器 27 层、隐藏维 1152;
  • 图像 patch 为 16×16,视频时间 patch 为 2,空间再合并 2 倍;
  • 视觉输出最终投影到 5120 维。

有意思的是,H3 不取 Qwen3-VL 最后一层,而是把第 50 层隐藏状态送给 Omni Transformer。官方没有解释原因。一个合理但尚未被报告验证的理解是:中间层保留了更丰富的视觉与语言表征,而最后几层更偏向语言生成目标;生成模型未必需要最靠近词表 logits 的特征。

H3 还给 Tokenizer 加了 <d> 等特殊 token,因此不能随便换成原版 Qwen Tokenizer。对话、演唱、镜头和参考关系都依赖这些格式约定。

从权重体积看,H3-Encoder 本身约 66.7GB BF16。所以“33B H3”只是生成 Transformer 的口径;把理解编码器和两个 VAE 都算进公开推理栈,规模远大于 33B。


09 H3-VisualVAE:空间 16 倍、时间 4 倍,还藏着一个 36 层 ViT 解码器

H3-VisualVAE 的公开记号是 f16t4d24:

  • f16:高和宽各压缩 16 倍;
  • t4:时间压缩 4 倍;
  • d24:latent 通道数为 24。

随后 H3 又把 visual latent 按 (时间, 高, 宽) = 1×2×2 patchify。因此,真正进入 Transformer 的视频 token 等效为:

  • 时间下采样 4 倍;
  • 空间下采样 32×32;
  • 每个 token 汇集 1×2×2×24 = 96 个 latent 标量。

拿官方 1344×768、24fps 的规格估算:15 秒有 360 帧,时间压缩后约 90 格,空间是 42×24,目标视频约有 90×42×24 = 90,720 个视觉 token。再加文字、语义视觉 token、参考图像/视频和音频,统一序列会更长。

这也解释了两个现象:

  1. 高压缩 VAE 是 H3 能处理长视频和多参考输入的前提;
  2. 初版只提供全注意力时,15 秒长上下文仍然非常贵。

公开源码配置还透露了更多细节:

  • 编码器使用 3D 卷积,并设置 causal_encoder=true;
  • 6 个通道阶段为 [1, 2, 2, 4, 4, 8],每阶段 2 个残差块;
  • 空间下采样发生 4 次,总计 16 倍;
  • 时间下采样发生 2 次,总计 4 倍;
  • 解码器不是普通卷积镜像结构,而是一个 36 层、32 头、单头 64 维的 ViT 解码器;
  • 使用 RMSNorm、门控 SiLU FFN 和 RoPE;
  • 本地 VAE 支持 256 像素 tile、最小 64 像素重叠,降低高分辨率编解码峰值显存。

VisualVAE 的 safetensors 达 10.4GB,按 BF16 粗略对应约 5.2B 参数。它不是一个可以忽略不计的小 tokenizer,ViT 解码器本身就是部署开销的重要来源。

另外,配置中存有 24 组 latents_mean 和 latents_std。生成前对每个 latent 通道单独标准化,有助于把方差差异很大的视觉通道拉到更容易学习的范围。H3 官方强调 VAE 不只追求重建质量,也追求“让生成模型好学”,这些统计量就是具体证据之一。


10 H3-AudioVAE:32 kHz 立体声如何压成 40Hz token

AudioVAE 的设计相对清晰:

  • 输入输出采样率 32 kHz;
  • 左右声道使用同一套编码器和解码器,但分别处理;
  • 每个声道压缩为 40Hz latent 序列;
  • latent 通道数为 32;
  • 最后再把两个解码声道合成立体声。

公开 metadata 中,编码器下采样率为 [2, 4, 4, 5, 5],乘起来正好是 800。32000 / 800 = 40,因此每个 latent 时间步覆盖每声道 800 个原始采样点。15 秒音频每声道只有 600 个 latent 时间步。

解码器倍率 [5, 5, 2, 2, 2, 2, 2] 同样乘到 800。其内部使用 64 维起始编码器、1024 维 BigVGAN 解码器、2048 维内部 latent 投影,再压到对外的 32 通道 VAE latent。公开 AudioVAE 权重约 0.605GB,粗略对应 0.3B 参数。

左右声道独立经过同一个 VAE,有两个好处:参数共享,且天然兼容单声道表示。但声道间的相位、时差和声像关系不能靠 VAE 内部跨声道卷积建模,必须由 Omni Transformer 在联合 latent 层生成正确的左右声道关系。这也是“原生立体声”真正困难的地方。

和视觉 VAE 一样,AudioVAE 配置给出了 32 组通道均值与标准差。音频、视频 latent 的分布完全不同,如果直接塞进一个扩散模型,梯度和噪声尺度很容易失衡;逐通道归一化是统一生成能稳定训练的基础操作。


11 33B H3-Omni-Transformer:配置里能反推出什么

H3-Omni-Transformer 是一个 33B、稠密、单流、50 层的 Diffusion Transformer。公开配置如下:

配置项 数值 含义
hidden size 5376 主干 token 宽度
layers 50 共享 DiT Block 数
attention heads 56 注意力头数
head dim 128 单头维度
attention inner dim 7168 56×128,比主干宽 4/3
FFN hidden 14336 主干宽度的 8/3
token refiner 2 层 主干前的条件 token 精炼
text input dim 5120 对接 Qwen3-VL
video latent dim 24 对接 VisualVAE
audio latent dim 32 对接 AudioVAE
video patch 1×2×2 每个视频 token 含 96 个 latent 值

注意力内部维度是 7168,比 5376 主干宽度更大,属于“宽注意力”;FFN 则是 14336。按权重索引里的 qkv_proj/out_proj 与门控 FFN 结构粗算:

  • 每层注意力约 4 × 5376 × 7168 = 154.1M 参数;
  • 每层门控 FFN 约 3 × 5376 × 14336 = 231.2M 参数;
  • 合计约 385.3M,每 50 层约 19.27B。

剩下那一大块在哪里?答案是 AdaLN。

配置中的 time_embed_dim=2688、adaln_out_features=96768,而 96768 = 18 × 5376。如果每层都用 2688 维时间/条件向量投影到 96768 维调制量,那么:

2688 × 96768 × 50 ≈ 13.01B

这与官方“约 13B 参数位于 AdaLN 相关分支”完全吻合。再加输入输出投影、两层 token refiner、归一化和偏置,总量就落在约 33B。

这里的 18 组隐藏维调制量,很可能对应条件、音频、视频等 token 类型在注意力与 FFN 中的 shift、scale、gate 组合;但完整 Transformer 源码尚未公开,所以这部分只能称为配置层面的推断,不能当作官方确认。

AdaLN 分支还有一个工程优势:官方称其调制输出可以预计算并缓存,因此纯推理部署不一定要常驻加载这约 13B 参数。按 BF16 算,理论上可减少约 26GB 权重驻留。需要微调、改变调度或重新计算调制时,完整权重仍然有价值,所以仓库发布的是全量 33B。


12 单流联合扩散:音画同步到底从哪里来

H3 没有把音频生成器挂在视频生成器后面。它把以下 token 打成一个 packed sequence:

  • 视觉语义 token;
  • 文字 token;
  • 参考视觉 latent;
  • 参考音频 latent;
  • 待生成的噪声音频 latent;
  • 待生成的噪声视频 latent。

主干的注意力层与 FFN 没有音频专用或视频专用结构,所有 token 使用同一套共享参数。模态差异主要留在输入/输出投影和 AdaLN 分支中。

H3 音视频联合扩散数据流
(图片来源:MiniMax H3 官方公开架构图)

这种设计让嘴型、对白、动作声和镜头变化可以在每一层互相看见。例如角色开口时,视频 token 的嘴部运动能关注对应音频时间段;爆炸发生时,音频 latent 也能看到画面中的事件状态。同步不是后处理对齐,而是在联合去噪轨迹里一起形成。

H3 使用三维 MM-RoPE 表示 (t, h, w)。视频 token 有完整的时空坐标,音频和文字则通过打包段与时间关系接入统一注意力。公开配置给出 rope_inv_freq_len=16,但没有披露不同模态如何分配频率维度。

模型索引里还有两个容易忽略的参数:

  • 视频 flow_shift = 12.0;
  • 音频 audio_flow_shift = 3.0。

官方复现实例默认使用 50 个推理步。视频与音频虽然联合去噪,但 latent 统计与生成难度不同,因此使用不同的 flow shift 校准各自噪声轨迹。模型索引甚至把 scheduler 写成 null,说明调度逻辑由 H3 专用 pipeline 管理,而不是直接套一个通用 Diffusers scheduler。

首批检查点还做了 CFG distillation。这不等于“几步生成”:官方示例仍是 50 步。它的意义是推理时只跑单个去噪分支,不再对有条件/无条件各跑一次。SGLang 也明确禁止为 H3 开启 CFG parallel,因为复制正向分支只会浪费算力。


13 稀疏注意力为什么重要,但现在又为什么用不上

VisualVAE 已经把视频 token 压得很狠,但长视频、多参考仍会把 packed sequence 推到数万甚至十万 token。全注意力的计算与显存随序列长度近似二次增长,15 秒比 5 秒远不只是慢 3 倍。

MiniMax 在训练最后阶段加入了原生稀疏注意力,官方称 H3 从架构上支持稀疏注意力训练与推理。但首批开放实现只提供全注意力,稀疏版本承诺后续发布。

这意味着当前开放版有一个明显落差:

  • 权重在训练末期见过稀疏注意力;
  • 本地推理却暂时不能使用官方同款稀疏实现;
  • 越接近 15 秒、参考素材越多,这个差距越明显。

第三方框架可以用 Cache-DiT、序列并行、张量并行等手段降成本,但这些不是官方原生稀疏注意力的等价替代。Cache-DiT 会复用相邻步特征,速度更快但会改变同 seed 轨迹;序列并行则主要把长序列分摊到多卡,并没有消灭总计算。


14 2K Regenerate:它不是超分,而是“带原题重做一遍”

传统超分只看到低分辨率结果。小字已经糊成几个色块时,超分模型只能猜;原 prompt 里品牌名、材质和参考图信息通常已经丢了。

H3-Regenerate-2K 的做法不同:把 768p 结果连同最初的文字、图片、视频和音频上下文再次送进 H3,让基础模型在完整条件下重生成高分辨率视频。

优势是:

  • 可以重新读取原始文字与品牌信息;
  • 能再次参考人物、产品和材质细节;
  • 复用基础模型已经学到的生成能力,不必单训一个只会放大的超分器;
  • 本身也是“参考视频到新视频”的任务泛化案例。

代价也很直接:这是再生成,不是确定性插值。它有机会修回细节,也有机会改动原有纹理、文字笔画或局部运动。官方目前没有公开 768p→2K 的一致性、文字准确率与时序稳定性消融。

最重要的现实边界是:H3-Regenerate-2K 尚未开源。完整 2K 工作流要把本地 H3-Base 与官方 Context-IR、Regenerate-2K API 串起来。官网宣传的“默认 2K”是服务能力,不是首批开放权重单独具备的本地能力。


15 公开权重有多大,本地部署需要什么

通过 Hugging Face 仓库元数据统计,Ref2VA 单个自包含检查点的 safetensors 体积如下:

MiniMax H3 公开检查点组成
(数据来源:MiniMax H3 Hugging Face 仓库文件元数据;仅为权重文件体积,不含运行时激活与工作区)

组件 BF16 权重体积 粗略参数规模
Qwen3-VL-32B 编码器 66.715GB 约 32B
H3 Omni Transformer 66.280GB 约 33B
VisualVAE 10.416GB 约 5.2B
AudioVAE 0.605GB 约 0.3B
合计 144.016GB 约 70B 组件参数

FL2VA 也是约 144.016GB。两个分区各自完整打包同类组件,如果整仓库两套全取,safetensors 合计约 288GB。

官方 README 的 SGLang 示例使用 4 张 GPU。更细的 SGLang 验证结果显示:

  • 4×H200 可以让完整 BF16/FP32 流水线常驻;
  • 4×H100 80GB 推荐 TP2 + Ulysses2,官方文档记录的 1344×768、约 5.17 秒、50 步 T2VA 延迟为 13.25 秒,峰值约 66.04GB/卡;
  • 单纯 Ulysses4 无法让完整流水线常驻 4×H100 80GB;
  • 2×RTX 5090 32GB 可以通过逐层 offload 跑通,但需要约 384GiB 主机内存。

消费卡数字尤其值得看清:SGLang 的 2×RTX 5090 验证中,标准 50 步、1344×768、5 秒请求耗时 559.67 秒,其中去噪 525.05 秒、解码 33.61 秒,峰值约 26.3GiB/卡。改成 5 步时约 78.11 秒,但这不是与标准 50 步等价的质量设置。

所以目前更准确的判断是:

  • H3 可以在消费卡上“跑起来”;
  • 但离消费卡上的交互式生成很远;
  • 4 张数据中心卡才是官方文档中的主力形态;
  • AdaLN 预计算、编码器折叠、VAE/DiT 分层卸载和序列并行,都在围绕同一个问题:把约 144GB 权重和长序列计算摊到可用硬件上。

另外,SGLang 当前不建议用 torch.compile 生成一致性基准,因为文档称现有编译路径会改变数值输出。B200/B300 支持在线 FP8,但它是近似量化,音频和视频质量都需要重新验证。


16 官方样例说明了什么,又不能说明什么

官方提供了 T2VA、FL2VA 和 Ref2VA 的可复现 768p 样例。下面三张是对应公开视频在约 2 秒处的抽帧。

H3 T2VA 官方样例抽帧
(图片来源:MiniMax H3 官方 T2VA 示例视频抽帧;原视频为 1344×768、24fps、32 kHz 立体声)

T2VA 样例展示了多镜头、复杂光照与空间歌剧音效,主要体现 Context-IR 对镜头与声音层次的组织目标,而不只是单帧画质。

H3 FL2VA 官方样例抽帧
(图片来源:MiniMax H3 官方首/尾帧模式示例视频抽帧)

FL2VA 样例重点是关键帧之间的运动路径。此模式要求参考图成为真正的端点,比“只参考人物风格”更强约束。

H3 Ref2VA 官方样例抽帧
(图片来源:MiniMax H3 官方 Ref2VA 示例视频抽帧)

Ref2VA 样例把源视频画面、背景音乐和另一段男性音色组合起来,让角色说新台词。它体现了 H3 最有差异化的地方:引用的不是一个“风格 embedding”,而是多个素材各自承担不同关系。

但这些仍是发布方选择的展示案例。官方博客称 H3 在指令遵循、文字与品牌渲染、V2V 动作迁移上表现突出,并称 2K 每秒价格低于主流模型的三分之一、768p 价格低于主流 720p 的一半;发布材料没有给出“主流模型”的明确名单、统一测试协议和原始评分,因此这些口径适合看产品定位,不适合当学术 Benchmark。


17 Prompt 怎么写:先写关系,再写画面

如果不调用官方 Context-IR,prompt 不能只写一句“电影感,一个人在唱歌”。官方指南实际要求把视频当成一条可执行时间线。

基础模式建议至少写清:

  • [Shot N] 镜头编号;
  • 后续切镜的准确时间;
  • 主体身份、位置、动作与状态变化;
  • 运镜类型、幅度和速度;
  • 稳定的说话者 ID;
  • 对白原文和语言;
  • 环境声、动作声与非叙事配乐。

首尾帧模式重点不是重复描述两张静态图,而是写清“从第一张怎样连续变化到第二张”。Ref2VA 则要先定义每个素材的角色:

<Subject 1>:人物身份来自 Picture 1
<Video 1>:提供动作与镜头节奏
<Audio 1>:只参考音色,不复制原台词

retention_analysis:
<Subject 1>: fully_preserved
<Video 1>: reference
<Audio 1>: reference

这里还有几个实用细节:

  • 音频不能作为 Ref2VA 的唯一输入,必须同时有图片或视频;
  • 普通视频文件带音轨,不代表一定启用音频参考,调用侧要明确类型;
  • 参考视频是语义材料,不是逐帧锁定的编辑源;
  • 画面文字必须原样放进英文双引号,避免改写;
  • 对白放进 <d> 后必须保留用户原文,不能擅自翻译;
  • 画外音要明确说明画面人物嘴唇保持闭合;
  • 跨镜头对白用 <scenetrans> 表示连续。

H3 的 prompt 之所以长,不是“堆形容词”,而是在用自然语言写一个带音轨的分镜脚本。对复杂任务而言,这比为每一种控制关系设计独立参数更能扩展;代价是必须有一个强大的上游理解与编排系统。


18 开放程度与许可证:可以研究,但不是“无限制开源”

MiniMax H3 Community License 的适用范围是“全球,但排除欧盟、英国、韩国和美国”。这些被排除地区需要另行申请授权。API 因由 MiniMax 托管并实施安全措施,可以采用不同的全球可用策略。

还需要注意几条:

  1. 年收入超过 2000 万美元的商业产品或服务,需要事先取得 MiniMax 书面授权;
  2. 使用 H3 的商业产品 UI 要显著展示“MiniMax H3”;
  3. 分发模型或衍生模型时要附许可证与 NOTICE;
  4. 不得用 H3 或其输出改进另一个非 H3 衍生的 AI 模型;
  5. 对外服务必须建立内容安全、侵权投诉和违规处置机制;
  6. 公开生成内容需要显著说明其为 AI 生成;
  7. 许可证限制军事用途、高风险自动决策、未授权冒充等场景。

Qwen3-VL-32B 编码器本身采用 Apache-2.0,但这不等于整个 H3 都是 Apache-2.0。模型主体、衍生权重与使用行为仍受 H3 Community License 约束。

因此,H3 更准确的描述是“开放权重的社区许可模型”,而不是“无地域、无用途限制的开源软件”。准备商用前应直接审核许可证原文,不能只看模型卡上的 Open Weights 宣传。


19 目前最缺的信息

完整技术报告尚未发布,以下问题现在没有可靠答案:

  • 预训练数据总量、图像/视频/音频比例和去重策略;
  • 真实自然编辑数据如何构造出精确关系监督;
  • Omni Transformer 使用的具体 flow matching 目标与损失权重;
  • 音视频联合去噪的时间轴对齐细节;
  • 50 步为何是默认设置,质量随步数下降的完整曲线;
  • 原生稀疏注意力的模式、稀疏率和质量消融;
  • VisualVAE 相比前代 tokenizer 的重建指标;
  • Regenerate-2K 对文字、身份、运动一致性的定量收益;
  • 多任务混合比例对泛化和负迁移的影响;
  • 官方 2K 价格口径与同条件竞品对比。

在这些信息补齐前,H3 最能被验证的是“开放基础栈的结构与可部署性”,而不是所有宣传能力的平均质量。


20 总结感受:H3 最重要的是把“关系”变成了生成接口

H3 的架构没有追求很多花哨的模态专用 Block。它真正押注的是另一件事:让语言成为图像、视频、声音与任务关系的通用中间层,再让一套共享 Transformer 在同一时间线上生成音画。

这条路线有三个很强的信号:

  • 理解和生成开始变成一条系统链:Qwen3-VL 不只写 prompt,而是成为生成器的条件编码器;
  • 音频不再是视频的附属后处理:32 kHz 立体声 latent 与视频 latent 一起去噪;
  • 编辑不再等于固定工具菜单:身份、动作、运镜、音色、原音轨和关键帧都用关系描述组合。

工程上,H3 也非常“重”:约 144GB 的单分区公开权重、5B 级 VisualVAE、数万 token 的全注意力序列;SGLang 已验证的双 RTX 5090 路径还需要约 384GiB 主机内存做逐层 offload。它能开放已经有价值,但离人人本地实时生成仍有明显距离。

我的判断是:H3 当前最适合三类人。

  • 做多模态生成研究的人:可以直接研究统一音视频 latent、模态专用 AdaLN、视觉高压缩 VAE 与任务泛化。
  • 有多卡服务器的工程团队:可以在 768p 基础模型上做 LoRA、蒸馏、量化、缓存与稀疏注意力适配。
  • 更关心交付而非底层研究的内容团队:优先使用官方完整 API,因为本地 H3-Base 并不包含官网 2K 体验的全部模块。

如果后续技术报告公开了训练配比、稀疏注意力和 2K 重生成消融,H3 的技术价值会更容易被准确评估。就首批资料而言,它已经不是“再做一个视频模型”,而是在尝试把多模态内容生产从一组孤立工具,变成一个可以用语言编排的统一生成系统。


参考资料


作者:人工智能炼丹君
日期:2026-08-03
声明:个人观点,仅供参考。架构与参数分析来自公开配置、源码和仓库元数据;质量与性能数字来自官方或第三方部署文档,如有更新以原始资料为准。

0

评论 (0)

取消
粤ICP备2021042327号