模型发布媒体报道 · aihot.virxact.com
蚂蚁百灵开源 Ling-3.0-tiny 混合推理模型:7.9B 参数仅激活 1.3B
OmniTools 8月11日消息,蚂蚁百灵正式开源 Ling-3.0-tiny 模型。该模型总参数量为 7.9B,推理时仅激活 1.3B 参数,采用原生混合推理架构。
Ling-3.0-tiny 同步提供 BF16、FP8 和 INT4 三种量化版本,旨在兼顾推理效率与部署灵活性。
开源代码及模型权重已公开,适用于对资源敏感的真实任务场景。
OmniTools 8月11日消息,蚂蚁百灵正式开源 Ling-3.0-tiny 模型。该模型总参数量为 7.9B,推理时仅激活 1.3B 参数,采用原生混合推理架构。
Ling-3.0-tiny 同步提供 BF16、FP8 和 INT4 三种量化版本,旨在兼顾推理效率与部署灵活性。
开源代码及模型权重已公开,适用于对资源敏感的真实任务场景。