行业观察媒体报道 · mp.weixin.qq.com
腾讯混元将端侧翻译模型 Hy-MT2-1.8B 压缩至 440MB,已落地 B 站直播弹幕翻译
OmniTools 8月26日消息,腾讯混元团队通过 2-bit 与 1.25-bit 量化技术,将端侧翻译模型 Hy-MT2-1.8B 压缩至 574MB 和 440MB 两个版本,翻译质量几乎无损,在 FLORES-200 基准测试中表现优于 Microsoft Translator 等商业 API。
该模型已完成与英特尔 x86 平台的适配,目前已在哔哩哔哩直播场景中投入实际应用,支持弹幕实时翻译,单条弹幕处理耗时为 500~800 毫秒。