英伟达发布 Nemotron-Labs-TwoTower 扩散语言模型，性能提升超两倍

英伟达发布 Nemotron-Labs-TwoTower 扩散语言模型，性能提升超两倍

# 事件概述

近日，英伟达研究团队正式发布了新一代语言模型——Nemotron-Labs-TwoTower。该模型在多项文本生成基准测试中实现了超过两倍的性能提升，标志着扩散模型在自然语言处理领域的工程化落地迈出了关键一步。与主流自回归模型（如GPT系列）不同，Nemotron-Labs-TwoTower 采用去噪扩散过程，通过逐步从随机噪声中恢复完整文本序列，展现出更高的生成质量与更低的推理延迟。

# 技术解析

Nemotron-Labs-TwoTower 的核心创新在于其“双塔”架构设计。第一个“编码塔”负责对输入上下文进行深层次语义表征，提取全局依赖；第二个“生成塔”则控制扩散过程中的噪声调度与内容迭代，两者通过注意力机制协同工作，实现了对长文本生成过程的全局规划。传统自回归模型逐词生成，易受局部误差累积影响，而扩散模型能够同时调整序列中的多个位置，从而在保持流畅性的前提下大幅降低错误率。实验数据显示，在同等参数量下，该模型在BLEU、ROUGE等指标上提升均超过100%，推理速度相比基线扩散模型优化约60%。

此外，英伟达还针对该模型进行了硬件层面的深度适配，利用其H100 GPU 的Tensor Core与Transformer Engine，在训练效率与推理吞吐量上进一步放大了架构优势。

# 行业影响与展望

这一发布不仅展示了英伟达在“模型-芯片”协同设计上的深厚积累，也引发了业界对非自回归生成路径的关注。扩散语言模型天然具备并行生成能力，未来在实时对话系统、代码补全、机器翻译等对延迟敏感的场景中具有显著替代潜力。同时，双塔架构的分离设计也为模型的可解释性与可控生成提供了新思路——用户可通过修改生成塔的噪声策略来调整输出风格，而无需重新训练编码器。

可以预见，随着 Nemotron-Labs-TwoTower 的开源与模型权重公开，研究社区将加速探索扩散过程在语言生成中的理论边界，与自回归模型形成互补生态。英伟达此举再次说明：在AI基础设施的竞争中，模型架构的创新与硬件能力的释放同样重要。