2026 年 10 月 24 日——腾讯混元于 10 月 21 日在 GitHub 与 Hugging Face 开源交互式视频世界生成模型 Hy-Nomas,支持文本提示词与相机轨迹的自由交互,720×1280、24 FPS 生成可在单张 RTX 4090 上运行,并同步发布含 280 个测试用例的 Hy-Nomas-Bench 评估基准,全部资产采用 Apache 2.0 许可证。
官方于北京时间 10 月 24 日凌晨通过 X 平台发文确认发布,将 Hy-Nomas 定位为"开源自由形式交互式视频世界模型",提供在线试玩 Demo;技术报告在仓库中标注"即将发布"(Coming Soon),截至发稿尚未放出。
核心能力:分段自回归生成与世界记忆
Hy-Nomas 以"段"为单位自回归生成视频世界:每一段由段级文本提示或相机控制信号驱动,模型依靠贯穿全程的持久 KV 缓存延续此前内容,官方称以此保持多轮生成中主体与场景的一致性。用户可在生成过程中持续引入新物体、切换风格与场景、描述动作,或以相机轨迹控制视角运动,官方将这类能力概括为自由形式提示控制、相机控制与长时程连续生成三项特性。
生成骨干为 54 个双流 MMDiT 块组成的扩散 Transformer,文本条件来自 Qwen2.5-VL-7B-Instruct 的语言模型组件,视频经 DCAE-V 自编码器压缩到 32 通道潜空间,由微调版 PixelUMM 解码器还原为视频帧。相机条件采用归一化 4×4 外参矩阵,每四帧一组展平为 64 维输入,在每个双流块中与视频特征做交叉注意力。
| 项目 | 数据 |
|---|---|
| Transformer 结构 | 54 个双流 MMDiT 块,隐藏维度 2048,16 头 × 128 维 |
| 文本编码器 | Qwen2.5-VL-7B-Instruct(3584 维特征,两层 token refiner) |
| 视频自编码器 | DCAE-V,32 通道潜空间 |
| 视频解码器 | 微调版 PixelUMM,另提供 FP8 量化版 |
| 蒸馏推理 | 8 步去噪(蒸馏检查点支持 4/6/8 步) |
| 输出规格 | 720×1280,24 FPS |
| 许可证 | Apache 2.0 |
以上规格来自官方 Hugging Face 模型卡与 GitHub 仓库说明。
单卡 RTX 4090 推理与 LoRA 领域适配
官方提供面向消费级 GPU 的低显存推理配置(single_gpu_low_mem_inference.yaml),明确支持在单张 NVIDIA GeForce RTX 4090 上推理,通过四项手段压缩显存占用:DiT 权重与 KV 缓存以 INT8 存储(线性层与注意力保持 BF16 计算)、以滑动窗口限制历史缓存增长、文本编码器与 DiT、VAE 分阶段在 CPU 与 GPU 间调度、使用 FlexAttention 与 CUTLASS FP8 单卡算子。官方同时提示,CPU 调度需要足够的系统内存,并会引入传输开销。
领域适配方面,官方随权重发布了电影级画质 Cinematic LoRA,以及基于真实机械臂数据集 RealSource-World 训练的 Robotics LoRA,用于增强生成世界的机器人仿真能力。LoRA 训练从非蒸馏基座检查点出发(rank/alpha 为 256,Muon 优化器,官方示例训练 2000 步),训练完成后将 LoRA 权重合并进蒸馏检查点用于推理;仓库同步提供从本地视频生成训练数据的标注流程。
Hy-Nomas-Bench:280 用例评估交互可控性
与模型同步开源的 Hy-Nomas-Bench 数据集包含 280 个测试用例与 220 条参考相机轨迹,按四类能力组织,用于评估视频世界模型在连续生成中的交互可控性与一致性。
| 基准 | 用例数 | 轮数/段数 | 平均时长 | 主要评估维度 |
|---|---|---|---|---|
| Bench-1 多轮文本控制 | 60 | 2-6 轮 | 37.88 秒 | 提示遵循、物理合理性 |
| Bench-2 相机导航 | 100 | 4-20 轮 | 27.05 秒 | 相机控制 |
| Bench-3 文本与相机交错控制 | 60 | 2-7 轮 | 30.59 秒 | 提示遵循、物理合理性、相机控制 |
| Bench-4 空间记忆 | 60 | 8 轮 | 18.00 秒 | 重访一致性 |
据官方数据集卡,Bench-2 覆盖 49 个场景、8 种基本相机动作与 24 种双键组合;Bench-4 以第一人称场景绕目标去程与回程的方式,对比相同有效相机位姿下的生成帧评估物体与场景一致性。场景覆盖真实世界、游戏、CG 与动画环境,提示以英文为主,Bench-1 含少量中文与中英混合提示。
同批发布:WeVisOne-VL 统一视觉感知模型
同一发布周期内,腾讯微信视觉团队于 10 月 22 日在 Hugging Face 开源视觉语言模型 WeVisOne-VL(WeChat Vision All-in-One),提供 2B 与 4B 两个规格。模型基于 Qwen3-VL 构建,将物体级感知(开放词表检测、指代定位、物体计数、物体指向、OCR 定位)与像素级感知(指代分割、可提示 alpha 抠图)统一到单一模型:各项任务以结构化文本形式输出,用 0 至 1000 的坐标 token 表示框与点,并配套一个 9.6M 参数的轻量像素解码器直接输出二值掩码与连续 alpha 抠图,无需依赖 SAM 等分割模型。
对不存在的查询目标,模型返回 None 而非编造输出。官方公布的对比数据显示,4B 版在 WeRef-Bench 拒绝响应率达 96.4%,同期最强开放基线为 73.0%;其余任务与各任务最强开放基线(Qwen3-VL、Qwen3.5 至 9B、Rex-Omni、LocateAnything 及任务专用分割、抠图模型)的官方口径对比如下。
| 任务 | 基准 | 指标 | 最强开放基线 | WeVisOne-VL-4B |
|---|---|---|---|---|
| 开放词表检测 | LVIS | F1 Mean | 50.7 | 55.3 |
| 密集检测 | Dense200 | F1 Mean | 58.7 | 71.3 |
| 指代定位 | RefCOCOg test | F1 Mean | 77.6 | 81.8 |
| 拒绝响应 | WeRef-Bench | 拒绝率 | 73.0 | 96.4 |
| 物体计数 | PixMo-Count test | 准确率 | 82.8 | 89.6 |
| 物体指向 | PointBench | 准确率 | 69.9 | 71.9 |
| OCR | TotalText | F1 Mean | 43.3 | 52.0 |
| 指代分割 | ReasonSeg val | gIoU | 65.0 | 71.2 |
| 框提示抠图 | P3M-500-NP | MAD(越低越好) | 15.4 | 7.3 |
| 文本提示抠图 | WeRefMat | MAD(越低越好) | 22.4 | 9.8 |
上述分数均为官方技术报告口径(arXiv 2610.31329)。配套的抠图标注器 Mask2Alpha 已一并开源;官方模型卡将模型用途定位为视觉感知研究,明确不用于自主高风险决策或个人识别。官方数据引擎以知识图谱驱动,已按该流程标注超过 1 亿张图片。
获取方式
| 资产 | 地址 |
|---|---|
| Hy-Nomas 代码仓库 | github.com/Tencent-Hunyuan/Hy-Nomas |
| Hy-Nomas 模型权重 | huggingface.co/tencent/Hy-Nomas |
| Hy-Nomas-Bench 数据集 | huggingface.co/datasets/tencent/Hy-Nomas-Bench |
| Hy-Nomas 在线试玩 | hy-nomas.hy.tencent.com |
| WeVisOne-VL 代码仓库 | github.com/Tencent/WeVisOne-VL |
| WeVisOne-VL 模型权重 | huggingface.co/tencent/WeVisOne-VL-2B、WeVisOne-VL-4B |
举手提问