Allen AI 开源 Olmo-core 3：面向万亿参数 MoE 的高效训练基础设施

Introducing Olmo-core 3: Open, scalable training infrastructure for large MoEs Allen AI 正式发布 Olmo-core 3 框架，重构了开源混合专家（MoE）训练系统。官方称该系统可在将 MoE 训练扩展至万亿参数规模的同时保持计算效率，以降低学术界与小型机构开发超大模型的门槛。该系统将作为下一代 Olmo 基础模型的核心训练底座。