模型发布媒体报道 · github.com
开源决策模型 Jeff 发布:0.8B 参数,兼容 Jev 框架,推理延迟约 30 毫秒
OmniTools 9月29日消息,据 GitHub 及 Hacker News 信息,开发者 firelex 开源了轻量级决策模型 Jeff(https://github.com/firelex/jeff)。该模型参数量为 0.8B,支持本地训练与推理,并明确兼容 Jev 框架。项目方表示其单次推理延迟约为 30 毫秒。目前该项目代码已托管至 GitHub,处于早期开源阶段。