AWS 推出基于 vLLM-Omni 的多模态部署方案，支持低延迟实时语音与音视频流式推理

Build real-time voice applications with vLLM-Omni on SageMaker AI – Part 1 AWS ML Blog 发布指南，展示如何在 Amazon SageMaker AI 上利用 vLLM-Omni 深度学习容器部署多模态生成模型。该架构支持通过单个持久双向连接运行 Qwen3-TTS 进行流式语音生成，并可协同运行 FLUX.2 与视频生成模型 Wan2.1-VACE，实现低延迟端到端多模态工作流。 参考合并： AWS ML Blog