DeepSeek 开源云端推理框架 DeepInfer 与生产级编解码套件

梁圣大气！DeepSeek推理框架全开源，公布日均吞吐和毛利，真正的OpenAI来了 DeepSeek 正式开源其内部使用的大规模云服务推理框架 DeepInfer 以及生产级 Token 编解码组件 deepseek-recipe。该框架集成了高性能算子与深度优化推理引擎，支持推测解码、结构化输出等能力，并在英伟达与华为昇腾平台运行。据官方公布，其单一集群服务吞吐达 155 万亿 Tokens/天，按谷价计算每卡每小时收入达 38 美元。 参考合并： The Decoder · 开源中国 · Hacker New