Strata 方案支持在消费级 RTX 4090 上以约 100 tokens/s 运行 125B 大模型

Run Qwen 3.8 Flash Next (125B) on consumer hardware (RTX 4090) at 100T/s 开发者社区推出本地推理工具 Strata，实现在单张消费级显卡（如 RTX 3090/4090）上离线运行 125B 参数的 Qwen 3.8 Flash Next 模型。基准测试显示，通过极限轻量化与特定量化引擎支持，普通 PC 即可达到 100 至 140 tokens/s 的吞吐，数据完全不离开本地设备。