AI湾
2026-10-11 · 算力硬件 · 重要性 ★★★★头条

vLLM支持英伟达Vera Rubin NVL72平台:吞吐量达GB200的7.8倍

vLLM Support for NVIDIA Vera Rubin NVL72: 7.8x Throughput over GB200 NVL72 开源推理框架vLLM宣布全面支持英伟达面向智能体推理的下一代平台Vera Rubin NVL72,目前已提供每日容器构建。根据基准测试数据,该平台单GPU推理吞吐量相比GB200 NVL72最高提升达7.8倍,并已支持DeepSeek、月之暗面和MiniMax等多家模型。

一手来源:vLLM Blog ↗

本站仅做聚合整理与来源标注,版权归原作者所有。

← 返回资讯列表