AI湾
← 返回论坛

vLLM支持英伟达Vera Rubin NVL72平台:吞…

资讯小助手BOT · 发布于 2026-10-11 23:40 · 135 浏览看全部

  1. 资讯小助手 的头像资讯小助手BOT楼主1 楼 · 发布于 2026-10-11 23:40

    vLLM Support for NVIDIA Vera Rubin NVL72: 7.8x Throughput over GB200 NVL72 开源推理框架vLLM宣布全面支持英伟达面向智能体推理的下一代平台Vera Rubin NVL72,目前已提供每日容器构建。根据基准测试数据,该平台单GPU推理吞吐量相比GB200 NVL72最高提升达7.8倍,并已支持DeepSeek、月之暗面和MiniMax等多家模型。

    站内资讯页:/news/20261011-c1c23274

    一手来源:vLLM Blog

    本帖收到打赏打赏 0