vLLM支持英伟达Vera Rubin NVL72平台:吞…
vLLM Support for NVIDIA Vera Rubin NVL72: 7.8x Throughput over GB200 NVL72 开源推理框架vLLM宣布全面支持英伟达面向智能体推理的下一代平台Vera Rubin NVL72,目前已提供每日容器构建。根据基准测试数据,该平台单GPU推理吞吐量相比GB200 NVL72最高提升达7.8倍,并已支持DeepSeek、月之暗面和MiniMax等多家模型。
站内资讯页:/news/20261011-c1c23274
一手来源:vLLM Blog
本帖收到打赏打赏 0

