2026 年 10 月 29 日——NVIDIA 于 10 月 27 日发布并开源统一离散扩散大语言模型 NLD-Uni(Nemotron-Labs-Diffusion-Uni),同一个模型同时承担视觉理解与图像生成任务,模型权重与推理代码已上架 Hugging Face,论文同日提交 arXiv。
该模型由 NVIDIA 研究团队开发,论文题为 Nemotron-Labs-Diffusion-Uni: Elastic Self-Refining Unified Diffusion LLM with Cross-Paradigm On-Policy Distillation,一作 Shufan Li 亦为此前统一扩散模型 LaViDa-O 的一作。官方在论文摘要中称,NLD-Uni 在统一扩散语言模型(DLLM)范畴内的视觉问答、多模态推理、目标定位、文生图与图像编辑等任务上达到最先进水平,并明确表示"模型与代码已公开可用"。
理解与生成共用一个模型
NLD-Uni 以 Nemotron 扩散语言模型为基座,采用论文所称的 Elastic-MoT(弹性混合)设计:理解与生成分别使用独立的 transformer 参数路径,同处一个多模态框架内,按任务加载不同分支。具体分为三个弹性视图——视觉理解视图加载 8B 理解分支;文生图视图组合 4B 理解参数与 8B 生成分支(合计 12B);交错视图使用两个完整分支,全量 16B。
语言解码同时支持自回归与块扩散两种模式;图像理解经连续视觉编码器提取特征后输出文本,图像生成则对离散视觉 token 做迭代扩散解码,输出分辨率支持 1024×1024,并可执行图像编辑。
论文指出 NLD-Uni 有两项核心训练技术:
- 跨范式 on-policy 蒸馏(OPD):把自回归视觉语言模型的理解能力与连续流模型的生成能力,统一迁移进这一个扩散语言模型。官方消融数据显示,该阶段使多模态推理各基准提升 3.5 至 15.1 个百分点,图像编辑 ImgEdit 总分从 3.81 提至 4.17。
- 渐进自精炼扩散过程:区别于传统掩码扩散"干净 token 一步变成掩码 token"的做法,训练时逐步在多个步骤中腐坏每个 token,推理时允许对 token 做中间提交,从而渐进地自我精炼视觉质量。
训练规模为 64 张 H100 运行 26 天,其中最终 on-policy 蒸馏阶段 5 天;训练数据超过 1 亿图文对(HF 模型卡口径)。
主要评测数据
论文正文(Table 1-4)与 HF 模型卡披露的 NLD-Uni 成绩如下:
| 任务类别 | 基准 | NLD-Uni 成绩 | 论文对比口径 |
|---|---|---|---|
| 图像理解 | 11 项基准平均(MMMU、ChartQA、DocVQA 等) | 78.3 | 较此前扩散模型最佳(LLaDA2-Uni 61.2)高 17.1 分 |
| 图像理解 | ScreenSpot-Pro(界面定位) | 49.2 | 较扩散模型此前最佳高 48.8 分 |
| 多模态推理 | MathVista | 77.0 | 论文称在扩散语言模型中达到最先进水平 |
| 文生图 | GenEval 总分 | 0.89 | 超过 Qwen-Image 的 0.87,与 LLaDA2-Uni 持平 |
| 文生图 | HPSv3 | 11.12 | 超过 Qwen-Image(10.91)与 FLUX.1-dev(10.88) |
| 图像编辑 | ImgEdit 总分 | 4.17 | 仅低于 GPT-4o(4.20)与 Qwen-Image(4.27) |
口径说明:官方"最先进水平"的表述限定于统一扩散语言模型(DLLM)范畴。论文同时承认,与专用的自回归视觉语言模型和连续扩散模型相比,NLD-Uni 是"大幅缩小差距"——例如 MMMU 为 60.7 分,仍低于对比表中 Qwen3-VL-8B 的 69.6 分;GenEval 单项中 Counting(0.79)、Colors(0.87)亦非满分段。读者引用时应保留这一限定。
开源与部署
| 项目 | 信息 |
|---|---|
| 模型地址 | huggingface.co/nvidia/NLD-Uni |
| 代码形式 | 推理代码随权重同仓发布(modeling_nlduni.py、inference.py 等),另含基座系列仓库 NVlabs/Nemotron-Labs-Diffusion |
| 许可证 | NVIDIA Open Source License Agreement |
| 权重规格 | BF16,8 个分片,共 1557 个模型张量 |
| 运行环境 | Python 3.13 + CUDA 12.6 + FlashAttention 2.8.0.post2,H100 80GB 验证 |
| 上下文长度 | 131072(config.json 口径) |
| 推理框架 | 原生 PyTorch;理解与文本生成路径另附 SGLang 集成 |
截至发稿,该模型在 Hugging Face 上处于发布初期(下载数两位数)。Nemotron-Labs-Diffusion 基座系列(3B/8B/14B,支持自回归、块扩散与自推测三种解码模式)已于 2026 年 5 月 19 日开源,NLD-Uni 是该系列向多模态统一的延伸。
评论