OTRouterClaude、GPT 一个 Key 调用看价格 →
模型发布媒体报道 · aihot.virxact.com

Soup 发布 v0.72.4:支持在 4 GB 显存笔记本 GPU 上通过 QLoRA 微调 8B 模型

OmniTools 8月5日消息,Soup 发布 v0.72.4 版本,新增对低显存设备的支持,可在配备 4 GB 显存的笔记本 GPU 上直接运行 QLoRA 微调流程,完成 8B 规模大语言模型的本地微调。

该版本无需依赖 SSH 连接或云端计算服务,降低了本地微调的技术门槛和硬件要求。

官方未披露具体适配的 GPU 型号及性能指标,仅确认在典型 4 GB 显存消费级笔记本 GPU 上已验证可行。

返回快讯