在 Nebius 上部署 NVIDIA Cosmos 3 Super 世界模型：延迟与吞吐的权衡

NVIDIA Developer 发布了一场直播，Nebius Physical AI 团队成员 Stewart Tong 和 Timothy Le 通过 vLLM-Omni 在 NVIDIA HGX B200 与 HGX H200 系统上测试 NVIDIA Cosmos 3 Super 的推理表现。他们对比了从单个八卡副本到八个单卡副本共四种部署拓扑，考察副本数量、并行策略与并发度如何影响请求延迟，以及每节点每小时可验证的视频秒数，并说明视频生成基准测试中应固定哪些参数、如何检查生成片段的文件完整性与基本运动。

此前关于世界模型和视频生成的讨论多集中在模型能力本身，而这次公开对比的是服务层的工程取舍：视频生成不像大语言模型那样只追求吞吐或延迟单点最优，副本数和并发度会同时改变单节点产出与单请求响应时间。把延迟、吞吐和输出质量校验放在同一套基准里，意味着世界模型开始进入可量化部署阶段。

视频生成请求的计算和显存开销远高于文本推理，单卡难以容纳一个完整副本，因此需要多卡并行并拆分副本。副本数增加提升并行处理能力，但每卡可分配资源下降；并发度提高会加剧排队与显存竞争，导致单请求延迟上升。Nebius 用验证通过的视频秒数除以节点小时来衡量有效吞吐，避免把生成失败或运动异常的片段计入产出，从而让延迟与吞吐的取舍落到可复现的指标上。

对做视频生成或世界模型产品的团队来说，选型不再只是比较 GPU 型号，而是要确定副本数、并行方式和并发上限的组合，并建立视频完整性与运动检查作为基准的一部分。若只按请求延迟优化，可能牺牲每节点有效产出，推高单位成本；若只堆并发，用户体验会因排队变差。这要求研发在部署前先固定测试条件，并把验证通过的产出纳入容量规划。

• 参照公开基准在自有集群复现四种部署拓扑，建立延迟与有效视频秒数双指标看板。
• 在生成流程中嵌入文件完整性与基本运动检查，将失败或异常片段从吞吐统计中剔除。
• 把每节点每小时验证视频秒数纳入 GPU 采购与容量规划，按成本而非单请求延迟选型。
• 评估 vLLM-Omni 与 Cosmos 3 Super 组合在 HGX B200、HGX H200 上的单位产出差异。

• 四种部署拓扑在延迟与吞吐上的具体数值结果尚未在证据中给出。
• 技术博客的发布链接仍标注为待定，完整数据是否公开未知。
• HGX B200 与 HGX H200 之间成本与产出的对比结论未被披露。
• 文件完整性与基本运动检查的具体标准和方法未在证据中说明。