vLLM社区优化DeepSeek-V4.1-Flash：三周内智能体吞吐提升5倍

DeepSeek-V4.1-Flash on vLLM: 5x Agentic Throughput Since Day 0 vLLM官方博客介绍，DeepSeek-V4.1-Flash发布三周内，Inferact与vLLM社区完成针对性优化，实现低并发下1.9倍加速、150 TPS约束下5.3倍吞吐提升。优化包括SWA bounded replay结合CUDA graphs使TTFT降低约30%，并集成了DeepSeek新发布的MegaAttention、Mega-mHC等算子及其余算子的融合与并行化。