OmniTools 10月16日消息,vLLM 宣布从发布首日(Day 0)起支持 Reflection 公司推出的 Beam 模型。该模型为 501B 参数量的稀疏混合专家(MoE)架构,每 token 激活约 23B 参数。
Beam 模型已在 NVIDIA Blackwell 架构 GPU 上完成针对性优化,vLLM 提供开箱即用的推理支持,涵盖调度、内存管理与并行计算等关键环节。
此举标志着主流大模型推理框架对超大规模 MoE 模型的快速适配能力持续增强。
OmniTools 10月16日消息,vLLM 宣布从发布首日(Day 0)起支持 Reflection 公司推出的 Beam 模型。该模型为 501B 参数量的稀疏混合专家(MoE)架构,每 token 激活约 23B 参数。
Beam 模型已在 NVIDIA Blackwell 架构 GPU 上完成针对性优化,vLLM 提供开箱即用的推理支持,涵盖调度、内存管理与并行计算等关键环节。
此举标志着主流大模型推理框架对超大规模 MoE 模型的快速适配能力持续增强。
从这条动态出发,继续查看相关分析、产品详情和同主题更新。
刚收录的 AI 工具,适合顺手发现可用产品。