2026-10-11 · 算力硬件 · 重要性 ★★★★头条
vLLM支持英伟达Vera Rubin NVL72平台:吞吐量达GB200的7.8倍
vLLM Support for NVIDIA Vera Rubin NVL72: 7.8x Throughput over GB200 NVL72 开源推理框架vLLM宣布全面支持英伟达面向智能体推理的下一代平台Vera Rubin NVL72,目前已提供每日容器构建。根据基准测试数据,该平台单GPU推理吞吐量相比GB200 NVL72最高提升达7.8倍,并已支持DeepSeek、月之暗面和MiniMax等多家模型。
← 返回资讯列表
