Liquid AI 发布 LFM2.5-DSpark 推测解码方案,推理速度最高提升 3.2 倍
Liquid AI 于 8 月 20 日发布 LFM2.5 系列模型的 DSpark 加速版本,涵盖 LFM2.5 1.2B Instruct、LFM2.5 2.6B 和 LFM2.5 8B A1B 三款模型。该方案采用置信度调度的推测解码(DSpark)技术,在不改变输出质量的前提下显著提升推理吞吐量。 测试数据显示,在 H100 GPU 上,LFM2.5 8B A1B DSpark 实现最高 3.18 倍速度提升(428→1362 to...