行业观察社区讨论 · 待核实 · x.com
MiniCPM-V 4.6 现已原生支持 vLLM v0.22.0
OmniTools 6月2日消息,OpenBMB 团队宣布,MiniCPM-V 4.6 模型现已完全支持 vLLM v0.22.0。开发者无需使用自定义分支或进行额外编译,直接拉取预构建包即可运行。该集成得到了 vLLM 项目团队的协助,相关模型权重已同步上线 Hugging Face。
OmniTools 6月2日消息,OpenBMB 团队宣布,MiniCPM-V 4.6 模型现已完全支持 vLLM v0.22.0。开发者无需使用自定义分支或进行额外编译,直接拉取预构建包即可运行。该集成得到了 vLLM 项目团队的协助,相关模型权重已同步上线 Hugging Face。