面壁智能介绍前瞻专家调度LES技术，称35B MoE可在手机端侧实时运行

OmniTools 10月20日消息，面壁智能 MiniCPM-V 团队介绍了支撑 MiniCPM-V 4.7 端侧运行的前瞻专家调度（LES）技术。该团队称，这是首次实现 35B-A3B 规模 MoE 在端侧实时无损运行。

据该团队披露的实测结果，在 iPhone 18 Pro Max 上解码速度超过 20 token/s。

上述信息来自团队公开摘要，具体技术细节、对比基线及测试条件以原文为准。